greenai.guide

Inicio › ¿Cómo puedo…? › ¿Cómo estimo la energía de mis llamadas a una API de IA?

¿Cómo puedo…?

¿Cómo estimo la energía de mis llamadas a una API de IA?

Actualizado · 2 min de lectura

En resumen

No puede medir un hardware que no controla, así que estime: registre los tokens de entrada y de salida de cada llamada y use una herramienta como EcoLogits, que envuelve su cliente de IA e informa de la energía y las emisiones estimadas por solicitud. Etiquete las cifras como estimaciones, indique el método y sustitúyalas por las cifras que declare el proveedor cuando pueda conseguirlas.

Pasos

  1. Registre el modelo, los tokens de entrada y los tokens de salida de cada llamada, etiquetados con la función que la hizo.
  2. Envuelva su cliente de IA con un estimador como EcoLogits para obtener la energía y las emisiones por solicitud.
  3. Guarde la estimación junto a la latencia y el coste en sus registros o paneles.
  4. Revise las funciones y los prompts más pesados en cada versión.
  5. Pida a su proveedor cifras medidas y sustitúyalas cuando estén disponibles.

Estime a partir de los tokens, regístrelo por llamada y deje claro que es una estimación. Los servicios de IA alojados no le dan un medidor de consumo, así que las funciones pesadas y los prompts derrochadores siguen siendo invisibles a menos que usted mismo construya una cifra.

¿Por qué los tokens?

La energía aumenta con la cantidad que un modelo lee y escribe. La estimación ascendente de Epoch AI sitúa una consulta típica a ChatGPT en unos 0,3 Wh, que suben a unos 2,5 Wh con una entrada de 10.000 tokens y a casi 40 Wh con una entrada de 100.000 tokens. Por tanto, sus propios registros de tokens le dicen mucho más que cualquier promedio de titular.

¿Qué herramienta debo usar?

La propia guía de CodeCarbon marca la línea: use CodeCarbon para el código que se ejecuta en hardware que usted gestiona, y EcoLogits para las llamadas a servicios remotos de IA generativa. EcoLogits envuelve las bibliotecas cliente de los proveedores de IA habituales y devuelve la energía y el impacto en el calentamiento global estimados de cada solicitud, a partir del modelo y del recuento de tokens.

¿Qué debo registrar con cada estimación?

  • el modelo y su versión, y la versión de la herramienta usada para estimar;
  • los tokens de entrada y de salida;
  • la función o el flujo de trabajo que hizo la llamada;
  • si la llamada tuvo éxito, para poder contar la energía por tarea completada con éxito.

Errores frecuentes

  • Tratar las estimaciones como mediciones. El tamaño de los modelos y el hardware de los modelos cerrados suelen ser supuestos. Dé un intervalo y dígalo.
  • Ignorar los reintentos y los bucles de agentes. Una sola solicitud de un usuario puede desencadenar muchas llamadas; consulte medir la energía por tarea.
  • No preguntar nunca al proveedor. Consulte pedir a una empresa de IA sus cifras de energía.

Más sobre métodos y límites en cómo medir la energía de la IA.

Fuentes

  1. EcoLogits documentation, EcoLogits (2025)
  2. When to use CodeCarbon, CodeCarbon (2025)
  3. How much energy does ChatGPT use?, Epoch AI (2025)

Únase a nosotros

Ayude a reducir el impacto de la IA en el planeta

Reciba por correo electrónico nuevas guías, convocatorias de financiación y fichas de los directorios, aproximadamente una vez al mes. O añada su producto, curso, doctorado o investigación a los directorios.

Sin seguimiento. Cancele la suscripción con un clic. Otras formas de unirse · Privacidad