Google lanza 2 millones de ventanas de contexto para Gemini 1.5 Pro

Google lanza 2 millones de ventanas de contexto para Gemini 1.5 Pro

Google anunció que los desarrolladores ahora tienen acceso a una ventana de contexto de 2 millones para Gemini Pro 1.5. A modo de comparación, GPT-4o tiene una ventana de contexto de 128k. La duración de esta ventana de contexto se anunció por primera vez en Google I/O y solo se podía acceder a ella a través de una lista de espera, pero ahora todos pueden acceder a ella. Las ventanas de contexto más largas pueden generar costos más altos, por lo que Google también anunció soporte para el almacenamiento en caché de contexto en la API de Gemini para Gemini 1.5 Pro y 1.5 Flash. Esto le permite almacenar el contexto para usarlo en consultas posteriores, lo que reduce los costos de las tareas que reutilizan tokens entre solicitudes. Además, Google anunció que la ejecución de código ahora está habilitada tanto para Gemini 1.5 Pro como para 1.5 Flash. Esta funcionalidad permite que el modelo genere y ejecute código Python y luego itere hasta lograr el resultado deseado. Según Google, la zona de pruebas de ejecución no está conectada a Internet, viene con algunas bibliotecas numéricas preinstaladas y los desarrolladores facturan según los tokens de salida del modelo. Finalmente, Gemma 2 ya está disponible en Google AI Studio, y la optimización Flash Gemini 1.5 estará disponible a través de Gemini API o Google AI Studio el próximo mes. También podría interesarte… El nuevo modelo Claude 3.5 Sonnet de Anthropic ya es competitivo con GPT-4o y Gemini 1.5 Pro en múltiples pruebas comparativas Mejoras de Gemini presentadas en Google Cloud Siguiente

About Francisco

Check Also

La base para un desarrollo de software exitoso

La base para un desarrollo de software exitoso

Bienvenido a nuestra serie de cinco partes sobre cómo dominar el desarrollo de software. Durante …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *