Dice que 5th Gen Xeon es más rápido que AMD EPYC Torino usando las optimizaciones adecuadas

Dice que 5th Gen Xeon es más rápido que AMD EPYC Torino usando las optimizaciones adecuadas

Intel dio seguimiento a las afirmaciones de AMD sobre el rendimiento de la IA del centro de datos para sus CPU EPYC Torino de quinta generación, diciendo que el Xeon de quinta generación es más rápido con las optimizaciones adecuadas. AMD mostró sus CPU EPYC Torino de quinta generación con núcleos Zen 5 superando a los chips Xeon de quinta generación en los puntos de referencia de IA, pero Intel dice que la quinta generación tiene ventaja contra EPYC cuando se utilizan las optimizaciones adecuadas.
[Update – 6/18/24] – AMD nos ofreció una actualización sobre los puntos de referencia de Intel y compartió que las notas finales proporcionaron datos relevantes sobre qué pila de hardware y software se utilizó en sus pruebas comparando Torino con los chips Xeon de quinta generación de Intel. También se afirma que la plataforma «Intel Xeon» utilizó el software más actualizado y disponible públicamente en ese momento, mientras que la propia Intel había publicado datos basados ​​en una biblioteca de optimización de software publicada el 7 de junio. A continuación se muestra la cita completa de AMD: En Computex, AMD destacó el rendimiento líder de «Torino» en cargas de trabajo de IA en comparación con los procesadores Intel Xeon de quinta generación utilizando el software más actualizado y disponible públicamente disponible en ese momento, tanto para AMD como para nuestro competidor. Los datos de «Emerald Rapids» que Intel destacó en su blog utilizan una biblioteca de software publicada el 7 de junio, después de nuestro evento Computex. También es importante señalar que la nueva pila de software sólo se utilizó para la plataforma Intel y las optimizaciones de rendimiento no se aplicaron a la plataforma AMD. Las CPU EPYC de cuarta generación siguen liderando el rendimiento y esperamos que “Torino” siga ofreciendo un rendimiento líder en una amplia gama de cargas de trabajo cuando se lance a finales de este año. Relaciones públicas de AMD en Wccftech Fuente de la imagen: AMD En Computex 2024, AMD anunció oficialmente su familia de CPU EPYC de quinta generación con nombre en código Torino que utiliza la última arquitectura central Zen 5. La compañía obtuvo grandes cifras frente a los Intel Xeons de quinta generación, que deberían superar fácilmente a los Intel Xeons de quinta generación. EPYC Torino de quinta generación en términos de rendimiento de IA. Fuente de la imagen: AMD El punto de referencia específicamente destacado por Intel es el chatbot Llama2-7B, que se basa en el rendimiento de inferencia INT4 y se realizó con una latencia de 50 ms. AMD demostró que sus CPU EPYC de quinta generación en una configuración 2S (doble socket) con 128 núcleos cada uno ofrecen hasta 671 token/s de rendimiento, mientras que los chips Intel Xeon Platinum 8592+ de quinta generación con 64 núcleos cada uno funcionan de la misma manera. dual-socket La configuración ofrecía solo una salida de 125 token/s. Esta fue una enorme ganancia de 5,4 veces para las CPU AMD EPYC Torino. Intel dice que las pruebas se realizaron sin el paquete de software adecuado para los SKU Xeon de quinta generación, y AMD no proporcionó ningún detalle sobre la configuración de Intel en las notas a pie de página. El equipo azul ha realizado ahora sus pruebas comparativas de rendimiento en las mismas cargas de trabajo de IA y parece que los resultados son radicalmente diferentes. Fuente de la imagen: Intel Utilizando la extensión de Intel para PyTorch (latencia P99), las CPU Emerald Rapids Xeon de quinta generación pueden ofrecer un rendimiento 5,4 veces mejor que el que muestra AMD. La producción de 686 tokens/s supera a las CPU EPYC Zen 5 de quinta generación de AMD. Esto no solo se debe a las optimizaciones de software de Intel para Llama2, sino también a los aceleradores de hardware de IA agregados dentro de la familia Emerald Rapids de quinta generación que brindan un buen impulso. Intel no se detiene ahí, la compañía también afirma que en las otras dos cargas de trabajo, Traducción y Resumen, la compañía experimentó un aumento de rendimiento de 1,2 a 2,3 veces en comparación con los resultados que AMD había utilizado en su presentación en Computex 2024. Fuente de la imagen: Intel Además, el aspecto más crucial es que estos puntos de referencia dependen en gran medida de la memoria y la familia EPYC Torino de próxima generación contará con una interfaz DDR5 de 12 canales. Mientras que la generación actual de Intel presenta la misma cantidad de 128 núcleos con P-Core y hasta 288 E-Core con la familia Xeon 6900E que llegará a principios de 2025. Las CPU Granite Rapids Xeon 6700P estarán disponibles con hasta 86 P-Core en la tercera cuarto. 2024. Parece que todas las principales empresas actualmente involucradas en el negocio de la IA se toman muy en serio no solo sus afirmaciones de rendimiento, sino también lo que otros muestran. NVIDIA y AMD se involucraron en una batalla similar hace unos meses cuando el equipo rojo anunció sus cifras MI300X contra la línea Hopper y desde entonces ha habido idas y venidas. Del mismo modo, en lo que respecta a la IA para PC, las empresas AMD, Intel, Qualcomm y NVIDIA están inmersas en una lucha muy feroz en la que la IA TOP es el tema principal. Con la creciente demanda de IA en la industria tecnológica, todas estas empresas tecnológicas están tratando de atraer más clientes para que utilicen sus productos y envíen tantas unidades como sea posible para satisfacer la creciente necesidad de hardware capaz. Comparte esta historia Facebook Twitter

About Carlos Carraveo Jimenez

Check Also

Ryzen 9 9950X vs Ryzen 7 9700X: ¿Cuál es la diferencia entre el modelo insignia y el de nivel medio?

Ryzen 9 9950X vs Ryzen 7 9700X: ¿Cuál es la diferencia entre el modelo insignia y el de nivel medio?

Puede confiar en PC Guide: nuestro equipo de expertos utiliza una combinación de investigación de …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *