greenai.guide

Início › Como faço para…? › Como limito o quanto um LLM escreve?

Como faço para…?

Como limito o quanto um LLM escreve?

Atualizado · 1 min de leitura

Em resumo

Defina um tamanho máximo de saída na chamada à API, diga ao modelo no prompt o formato e o tamanho que você quer e use sequências de parada ou saída estruturada para que ele termine quando o trabalho estiver feito. A energia cresce com o número de tokens que um modelo gera, então limitar a saída é uma das economias mais simples em qualquer aplicação.

Passos

  1. Decida qual é a resposta útil mais longa para cada funcionalidade e defina o máximo de tokens de saída da API de acordo.
  2. Informe o formato e o tamanho no prompt, por exemplo "três tópicos".
  3. Use saída estruturada, como um JSON schema, quando o seu código só precisar de campos.
  4. Acrescente sequências de parada quando a resposta tiver um marcador natural de fim.
  5. Detecte as respostas cortadas pelo limite e trate-as, em vez de tentar de novo sem avisar.

Diga ao modelo, e à API, quanto você quer. Os modelos geram um token de cada vez, e cada um custa computação.

Por que isso importa?

Delavande, Pierrard e Luccioni concluíram que a energia cresce de forma linear com o tamanho do texto gerado e que os modelos maiores não só usam mais energia por token como também tendem a escrever respostas mais longas. A UNESCO e a University College London concluíram que prompts e respostas mais curtos podem reduzir o uso de energia em mais da metade.

Que controles devo usar?

  • Máximo de tokens de saída. Todas as principais APIs têm um parâmetro para isso. Defina-o por funcionalidade, e não um único valor global generoso.
  • Instruções. "Responda numa frase" ou "devolva só o nome da categoria" funcionam melhor do que apenas um limite rígido, porque o modelo planeja uma resposta curta em vez de ser cortado.
  • Saída estruturada. Se o seu código lê campos, peça JSON de acordo com um schema e dispense o texto corrido.
  • Sequências de parada. Encerre a geração num marcador, como uma tag de fechamento.
  • Esforço de raciocínio. Quando um modelo oferece uma configuração de pensamento ou raciocínio, use o nível mais baixo que passe nos seus testes: veja quando usar modos de raciocínio.

Erros comuns

  • Limites tão apertados que as respostas são cortadas, seguidos de uma nova tentativa automática com um limite maior. Isso custa mais do que acertar o tamanho.
  • Pedir explicações que ninguém lê, como "explique o seu raciocínio" num pipeline de classificação.
  • Não registrar os tokens de saída por funcionalidade, o que deixa escondidas as funcionalidades mais prolixas.

Para hábitos voltados aos usuários, leia como usar a IA de forma eficiente.

Fontes

  1. Small talk, big impact: the energy cost of thanking AI, Delavande, Pierrard and Luccioni (arXiv 2601.22357) (2026)
  2. Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
  3. What are tokens and how to count them?, OpenAI Help Center (2025)

Junte-se a nós

Ajude a reduzir o impacto da IA no planeta

Receba novos guias, editais de financiamento e listagens dos diretórios por e-mail, cerca de uma vez por mês. Ou adicione seu produto, curso, doutorado ou pesquisa aos diretórios.

Sem rastreamento. Cancele a inscrição com um clique. Outras formas de participar · Privacidade