greenai.guide

Inicio › ¿Cómo puedo…? › ¿Cómo limito cuánto escribe un LLM?

¿Cómo puedo…?

¿Cómo limito cuánto escribe un LLM?

Actualizado · 1 min de lectura

En resumen

Fije una longitud máxima de salida en la llamada a la API, indique al modelo en el prompt el formato y la longitud que quiere, y use secuencias de parada o salida estructurada para que termine cuando el trabajo esté hecho. La energía crece con el número de tokens que genera un modelo, así que limitar la salida es uno de los ahorros más sencillos de cualquier aplicación.

Pasos

  1. Decida la respuesta útil más larga para cada función y ajuste a ella el máximo de tokens de salida de la API.
  2. Indique el formato y la longitud en el prompt, como «tres viñetas».
  3. Use salida estructurada, como un esquema JSON, cuando su código solo necesite campos.
  4. Añada secuencias de parada cuando la respuesta tenga un marcador final natural.
  5. Detecte las respuestas cortadas por el límite y gestiónelas en lugar de reintentar en silencio.

Dígale al modelo, y a la API, cuánto quiere. Los modelos generan un token cada vez, y cada uno cuesta cómputo.

¿Por qué importa?

Delavande, Pierrard y Luccioni hallaron que la energía crece de forma lineal con la longitud de la generación, y que los modelos más grandes no solo consumen más energía por token, sino que también tienden a escribir respuestas más largas. La UNESCO y el University College London hallaron que los prompts y las respuestas más cortos podían reducir el consumo de energía a menos de la mitad.

¿Qué controles debo usar?

  • Máximo de tokens de salida. Todas las API principales tienen un parámetro para ello. Fíjelo por función, no con un valor global generoso.
  • Instrucciones. «Responde en una frase» o «devuelve solo el nombre de la categoría» funcionan mejor que un límite estricto por sí solo, porque el modelo planifica una respuesta corta en lugar de que se la corten.
  • Salida estructurada. Si su código analiza campos, pida JSON conforme a un esquema y prescinda de la prosa.
  • Secuencias de parada. Termine la generación en un marcador, como una etiqueta de cierre.
  • Esfuerzo de razonamiento. Cuando un modelo ofrezca un ajuste de pensamiento o razonamiento, use el nivel más bajo que supere sus pruebas: consulte cuándo usar los modos de razonamiento.

Errores frecuentes

  • Límites tan estrictos que las respuestas se cortan, seguidos de un reintento automático con un límite mayor. Eso cuesta más que acertar con la longitud.
  • Pedir explicaciones que nadie lee, como «explica tu razonamiento» en una cadena de clasificación.
  • No registrar los tokens de salida por función, de modo que las funciones más verbosas siguen ocultas.

Para los hábitos de cara al usuario, lea usar la IA de forma eficiente.

Fuentes

  1. Small talk, big impact: the energy cost of thanking AI, Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
  2. Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
  3. What are tokens and how to count them?, OpenAI Help Center (2025)

Únase a nosotros

Ayude a reducir el impacto de la IA en el planeta

Reciba por correo electrónico nuevas guías, convocatorias de financiación y fichas de los directorios, aproximadamente una vez al mes. O añada su producto, curso, doctorado o investigación a los directorios.

Sin seguimiento. Cancele la suscripción con un clic. Otras formas de unirse · Privacidad