Noticias Steam Machine SteamOS y Linux
Related Articles
New Relic espera brindar a los clientes una mejor comprensión del estado de sus aplicaciones de IA con la introducción de New Relic AI Monitoring. «New Relic AI Monitoring brinda el poder de la observabilidad a los ingenieros de IA al brindarles la información necesaria para depurar, monitorear y mejorar las aplicaciones de IA, garantizando que funcionen como se espera, entreguen resultados precisos y cumplan con los estándares emergentes para un uso responsable». New Relic escribió en una publicación de blog cuando la plataforma se introdujo por primera vez en Early Access en noviembre pasado. La nueva solución, que ahora está disponible de forma generalizada, permitirá a los clientes determinar rápidamente la causa raíz de los problemas de las aplicaciones de IA, lo que permitirá una resolución y resolución de problemas más eficiente. Proporciona una vista completa de las aplicaciones de IA y su infraestructura, monitoreando parámetros como la cantidad de solicitudes, los tiempos de respuesta y el uso de tokens. Desde una vista única, los usuarios pueden ver las tendencias en las respuestas de la IA, analizar las opiniones y ver los comentarios de los usuarios. Los clientes también pueden realizar un seguimiento del ciclo de vida de las respuestas de la IA, lo que resulta útil para abordar problemas de rendimiento y calidad, como sesgos, toxicidad y alucinaciones. La herramienta también proporciona una manera de comparar diferentes modelos en términos de rendimiento, costo y calidad. “Al realizar un seguimiento del uso de tokens en los modelos de IA, se pueden identificar qué modelos son los más caros de ejecutar. Luego puede elegir modelos menos costosos para optimizar la arquitectura de su aplicación de IA”, escribió New Relic. New Relic cuenta actualmente con más de 60 integraciones en todo el ecosistema de IA, incluidos LLM populares, bibliotecas de aprendizaje automático, bases de datos vectoriales y marcos de orquestación.
