Panmnesia presenta el «Protocolo CXL», que permite a las GPU con IA utilizar memoria DRAM o SSD con una latencia mínima

Panmnesia presenta el «Protocolo CXL», que permite a las GPU con IA utilizar memoria DRAM o SSD con una latencia mínima

Panmnesia, una startup de KAIST, presentó una IP de vanguardia que permite agregar memoria externa a las GPU de IA utilizando el protocolo CXL a través de PCIe, rompiendo las barreras de la capacidad de memoria. La última solución CXL de Panmnesia tiene como objetivo abordar las limitaciones de HBM proporcionando una infraestructura eficaz. Los aceleradores de IA actuales se limitan a la memoria integrada, ya que los fabricantes solo pueden instalar una cantidad limitada de HBM. Con conjuntos de datos cada vez mayores y la necesidad de energía, la industria se está centrando en acumular más GPU de IA, y el enfoque no es sostenible a largo plazo si se consideran los recursos financieros y de fabricación que absorbe. En vista de esto, Panmnesia, una empresa respaldada por el instituto KAIST de Corea del Sur, ha presentado una IP CXL que puede permitir que las GPU aprovechen la memoria de la DRAM o incluso las SSD, expandiéndose desde el HBM integrado. Para conectar la conectividad, CXL utiliza enlaces PCIe, lo que garantiza una adopción masiva entre los consumidores. Sin embargo, hay un problema. Los aceleradores de IA tradicionales no tienen los subsistemas necesarios para conectarse y usar directamente CXL para la expansión de la memoria, y soluciones como UVM (Memoria virtual unificada) son bastante lentas, lo que frustra el propósito en primer lugar. Sin embargo, como solución, Panmnesia ha desarrollado su propio chip Root Complex compatible con CXL 3.1, que tiene múltiples puertos que conectan la GPU a la memoria externa a través de un bus PCIe, y el decodificador de memoria del dispositivo administrado por host (HDM) actúa como un puente entre los conexión, gestión de asignación de memoria y traducción. Es importante destacar que Panmnesia decidió comparar su propia solución (CXL-Opt) con los prototipos desarrollados por Samsung y Meta, a los que denominaron «CXL-Proto». Para nuestra sorpresa, CXL-Opt logra una latencia de ida y vuelta significativamente menor, que es el tiempo que tardan los datos en viajar desde la GPU a la memoria y viceversa. CXL-Opt mostró una latencia de nanosegundos de dos dígitos, mientras que CXL-Proto tuvo una latencia de 250 ns. Aparte de eso, el tiempo de ejecución de CXL-Opt es mucho menor que el de la solución UVM, ya que alcanza velocidades de rendimiento IPC 3,22 veces más rápidas que UVM. La solución de Panmnesia puede lograr avances significativos en los mercados, ya que actúa como intermediario entre el apilamiento de chips de HBM y el paso a una solución más eficiente. Dado que la empresa es una de las primeras en contar con una IP CXL innovadora, si gana terreno, Panmnesia se beneficiará enormemente. Fuente de noticias: Panmnesia Comparte esta historia Facebook Twitter

About Carlos Carraveo Jimenez

Check Also

Las CPU Intel Arrow Lake podrían alcanzar una temperatura máxima de 105°C, superando los límites de Raptor Lake

Las CPU Intel Arrow Lake podrían alcanzar una temperatura máxima de 105°C, superando los límites de Raptor Lake

Compartir en Facebook Compartir en Twitter Se dice que las CPU Intel Arrow Lake alcanzan …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *