Comprenda el costo de la API OpenAI

Comprenda el costo de la API OpenAI

Por: María de los Ángeles Giménez Debemos entender que el coste de utilizar la API OpenAI es complejo. Aunque terminaremos con una fórmula para calcular el coste, todo depende de: · Si tenemos créditos gratuitos · El modelo que utilizamos · Si utilizamos voz, imagen o texto · El tipo de respuesta · Si usar asistente o no Además, sepa que la fórmula se basa en tokens, no en palabras. Aunque agregaré una forma sencilla de transformar palabras en tokens, esta transformación depende del idioma y los caracteres especiales del texto. El costo contiene dos partes: el texto de entrada y el texto de salida. Para los costos totales, debe tener en cuenta el texto de salida, que puede cambiar según la precisión del modelo y el tipo de respuesta. Si solicita una respuesta JSON, no es lo mismo que texto sin formato. Para mayor precisión recomendamos utilizar la biblioteca «tiktoken», pero también puedes hacerlo manualmente. Cómo calcular a mano En general, cuatro caracteres equivalen a una ficha en el texto en inglés (si utiliza otro idioma con caracteres especiales o alfabetos no latinos, el recuento puede diferir). Las palabras comunes y la puntuación suelen tener un token cada una. Por ejemplo, la frase “Los modelos OpenAI son herramientas poderosas para el procesamiento del lenguaje natural” tiene nueve palabras y 60 caracteres (los espacios no cuentan), lo que equivale aproximadamente a unos 15 tokens. Usando la biblioteca “tiktoken” Si bien podríamos usar la API OpenAI para contar tokens en una oración, no se recomienda debido a sus costos. Para utilizar esta biblioteca, necesitamos conocer la codificación del modelo. Generalmente usamos «cl100k_base» para GPT 3.5 o 4. Cuando ejecutamos este script en Python, podemos ver que la cantidad de tokens es 12. Como podemos ver, es más preciso que la aproximación manual, pero requiere algunos conocimientos de programación. El primer paso para calcular el costo es determinar qué modelo utilizar. Cada modelo tiene un costo diferente por 1000 tokens y un precio diferente para la entrada y la salida. Usaré el GPT-4o como ejemplo porque es el modelo nuevo, pero todos los modelos usan la misma fórmula: lo único que cambia es el costo. Si vamos a la página de precios de OpenAI, podemos ver que el costo de GPT-4o es de $0,005 por 1000 tokens de entrada y $0,0015 por 1000 tokens de salida. El segundo paso es calcular los tokens del mensaje enviado a la llamada API y la respuesta que recibimos. Consideraremos que nuestro mensaje contiene 500 tokens y que la respuesta o salida contiene 300 tokens. La fórmula que debemos usar para calcular el costo de los insumos o productos es: En nuestro caso hipotético, el costo de los insumos será: El costo de los productos será: El costo total será la suma de estos dos costos: Esto es solo para una llamada a la API de texto. Texto claro y sencillo. ¿Qué pasa si usamos la voz para hacer preguntas a la API? Si queremos que la entrada API pregunte y responda, debemos agregar un nuevo paso al cálculo. Desde la voz, la API cambia internamente el audio a texto, luego responde la pregunta y convierte el texto generado en audio. Estas dos transformaciones también tienen un costo, por lo que debemos sumar estos costos al costo total. La transformación de audio a texto cuesta $0,006 por minuto de entrada. Entonces, si usamos nuestro audio de ejemplo de 1 minuto, costará $0,006 transferir el audio a texto. En el caso de la respuesta de audio, la conversión se produce por carácter. La tarifa en este caso es de $0,015 por 1000 caracteres. Si usamos nuestro ejemplo anterior, el costo será (considerando que un minuto de audio se convierte en 500 tokens de entrada y la respuesta es 300 tokens o 1200 caracteres): Entonces, usando estos valores en el siguiente ejemplo, el resultado final el costo será: $0.006 (COSTO DE ENTRADA DE AUDIO) + $0.0025 (COSTO DE ENTRADA DE TEXTO) + $0.0045 (COSTO DE SALIDA DE TEXTO) + $0.018 (COSTO DE SALIDA DE AUDIO) = $0.031 ¿Qué pasa con las imágenes? El precio está en la página de OpenAI. El coste es por imagen y el precio depende de la resolución y modelo que utilicemos. Cuando hablamos de utilizar la API de OpenAI, también tenemos que considerar otros costes, como el plan de suscripción, el asesoramiento legal para los costes de cumplimiento, la atención al cliente o la actualización del límite de velocidad de la API. Utilice esta fórmula para obtener una estimación aproximada del costo, pero no confíe en ella para calcular el costo real.

About Francisco

Check Also

¿El secreto para mejores productos?  Deje que los ingenieros impulsen la visión

¿El secreto para mejores productos? Deje que los ingenieros impulsen la visión

A mitad de mis cinco años y medio en SpaceX, la gerencia decidió cambiar la …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *