New Relic presenta una nueva solución de monitoreo para aplicaciones de IA

New Relic espera brindar a los clientes una mejor comprensión del estado de sus aplicaciones de IA con la introducción de New Relic AI Monitoring. «New Relic AI Monitoring brinda el poder de la observabilidad a los ingenieros de IA al brindarles la información necesaria para depurar, monitorear y mejorar las aplicaciones de IA, garantizando que funcionen como se espera, entreguen resultados precisos y cumplan con los estándares emergentes para un uso responsable». New Relic escribió en una publicación de blog cuando la plataforma se introdujo por primera vez en Early Access en noviembre pasado. La nueva solución, que ahora está disponible de forma generalizada, permitirá a los clientes determinar rápidamente la causa raíz de los problemas de las aplicaciones de IA, lo que permitirá una resolución y resolución de problemas más eficiente. Proporciona una vista completa de las aplicaciones de IA y su infraestructura, monitoreando parámetros como la cantidad de solicitudes, los tiempos de respuesta y el uso de tokens. Desde una vista única, los usuarios pueden ver las tendencias en las respuestas de la IA, analizar las opiniones y ver los comentarios de los usuarios. Los clientes también pueden realizar un seguimiento del ciclo de vida de las respuestas de la IA, lo que resulta útil para abordar problemas de rendimiento y calidad, como sesgos, toxicidad y alucinaciones. La herramienta también proporciona una manera de comparar diferentes modelos en términos de rendimiento, costo y calidad. “Al realizar un seguimiento del uso de tokens en los modelos de IA, se pueden identificar qué modelos son los más caros de ejecutar. Luego puede elegir modelos menos costosos para optimizar la arquitectura de su aplicación de IA”, escribió New Relic. New Relic cuenta actualmente con más de 60 integraciones en todo el ecosistema de IA, incluidos LLM populares, bibliotecas de aprendizaje automático, bases de datos vectoriales y marcos de orquestación.

About Francisco

Check Also

Pruebas de dispositivos inalámbricos | Presentamos el proceso de prueba inalámbrica ThinkPalm

Probar dispositivos inalámbricos no es sólo un proceso técnico. Es esencial para su negocio ya …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *