xAI de Elon Musk utiliza 100.000 GPU NVIDIA H100 para entrenar el modelo de IA de Grok 3

xAI de Elon Musk utiliza 100.000 GPU NVIDIA H100 para entrenar el modelo de IA de Grok 3

Compartir en Facebook Compartir en Twitter Elon Musk anunció que el modelo Grok 3 LLM de próxima generación se entrenó utilizando hasta 100.000 GPU NVIDIA H100 AI. Parece que todas las empresas centradas en la IA se apresuran a lanzar versiones avanzadas de sus plantillas LLM para satisfacer la creciente demanda de chatbots de IA. En esta competencia participa la startup de inteligencia artificial de Elon Musk, xAI, que anteriormente presentó la serie «Grok» de modelos LLM. Estos modelos están diseñados específicamente para actuar como asistentes de inteligencia artificial para usuarios premium en el modelo Grok 3 de próxima generación, lo que indica que será significativamente más grande que sus predecesores. La revelación sobre el hardware utilizado para entrenar Grok 3 es a la vez sorprendente y emocionante. Se espera que el uso de 100.000 unidades de la GPU con IA H100 de gama alta de NVIDIA para el entrenamiento de modelos produzca resultados sin precedentes. Para poner esto en perspectiva, se dice que el modelo GPT-4 LLM de OpenAI ha sido entrenado en 40.000 de las GPU de IA A100 más antiguas de NVIDIA. Dada la tecnología avanzada y la mayor cantidad de H100, las capacidades del modelo AI Grok 3 probablemente serán extraordinarias. En un tweet anterior, Elon Musk dijo que capacitar a los LLM utilizando datos de Internet es un desafío y requiere importantes recursos informáticos. Señaló que el próximo modelo Grok 2 AI, cuyo lanzamiento está previsto para agosto, aborda algunos de estos problemas, y el modelo Grok 3 LLM de próxima generación mejorará aún más estas mejoras y, en última instancia, se convertirá en un producto importante para xAI. Además, Musk anunció planes para adquirir los aceleradores de IA emblemáticos Blackwell B200 de NVIDIA para xAI, valorados en aproximadamente 9 mil millones de dólares, lo que destaca la inversión sustancial en esta empresa. Teniendo en cuenta que Grok 3 utiliza 100.000 unidades de NVIDIA H100, los costes de formación por sí solos se estiman en unos 3.000 millones de dólares, lo que demuestra el compromiso de Musk de superar los límites con xAI. Será fascinante ver cómo las iniciativas xAI contribuyen al panorama de la IA. Según todos los indicios, la startup de inteligencia artificial de Musk podría estar a punto de convertirse en un actor importante en la industria. Grok 3 de fin de año después del entrenamiento con 100k H100 realmente debería ser algo especial: Elon Musk (@elonmusk) 1 de julio de 2024

About Carlos Carraveo Jimenez

Check Also

Un estudio de Warframe revela que la inestabilidad de Intel es la razón de los fallos del juego

Un estudio de Warframe revela que la inestabilidad de Intel es la razón de los fallos del juego

Puede confiar en PC Guide: nuestro equipo de expertos utiliza una combinación de investigación de …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *