# Come instrado le richieste verso modelli più piccoli?

> Come instradare le richieste di routine verso un modello piccolo e solo quelle difficili verso uno grande, e come regolare il router perché i nuovi tentativi non annullino il risparmio.

Source: https://greenai.guide/it/come/come-instrado-le-richieste-verso-modelli-piu-piccoli/  
Updated: 2026-11-19

## In breve

Metta un router davanti ai Suoi modelli: una regola, un piccolo classificatore o una cascata che prova prima un modello piccolo e passa a uno più grande quando la confidenza è bassa o un controllo fallisce. In alcune prove, i router pubblicati hanno ridotto i costi di oltre la metà senza abbassare la qualità. Regoli la soglia sui Suoi dati e misuri il costo per compito riuscito, non per chiamata.

## Steps

1. Costruisca un insieme di valutazione di richieste reali, con un criterio di superamento per ciascuna.
2. Misuri quanto spesso un modello piccolo supera la prova da solo.
3. Scelga un tipo di router, come regole, un classificatore di difficoltà o una cascata con un controllo.
4. Regoli la soglia di passaggio al modello più grande sul Suo insieme di valutazione.
5. Tenga traccia di costo ed energia per compito riuscito, compresi passaggi al modello più grande e nuovi tentativi.
6. Regoli di nuovo il router quando cambia uno dei due modelli.

**L'instradamento offre gran parte della qualità di un modello grande a una frazione del costo, vicina a quella di
uno piccolo.** L'idea è semplice: inviare ogni richiesta al modello più economico che probabilmente la gestirà bene.

## Quale schema devo usare? {#which-design-should-i-use}

- **Regole.** Instradi in base al tipo di richiesta, alla lunghezza o al canale. Facile da capire, e spesso
  sufficiente.
- **Classificatore di difficoltà.** Un modello piccolo prevede quanto è difficile una richiesta. Il lavoro Hybrid LLM
  di Ding e colleghi instrada in questo modo le richieste tra un modello piccolo e uno grande, bilanciando costo e
  qualità.
- **Cascata.** Provi il modello piccolo; se un controllo fallisce o la confidenza è bassa, passi a uno più grande.
  FrugalGPT, di Chen, Zaharia e Zou, ha studiato cascate di questo tipo per ridurre i costi.
- **Router appreso.** Addestrato su quale modello è andato bene con quale richiesta. Lo studio RouteLLM ha riportato
  in alcuni casi riduzioni dei costi di oltre la metà senza abbassare la qualità delle risposte.

## Errori comuni {#common-mistakes}

- **Misurare per chiamata.** Un tentativo fallito con il modello piccolo più un nuovo tentativo con quello grande può
  costare più che andare direttamente al modello grande. Un sandpit (laboratorio di ricerca intensivo e
  collaborativo) britannico sull'IA verde del 2026, che ha riunito matematici, informatici e industria, lo ha
  segnalato come un rischio reale nei sistemi agentici. Misuri per compito riuscito.
- **Scaricare la scelta sugli utenti.** Metta l'instradamento nel sistema, non in un menu a tendina che la maggior
  parte delle persone ignora.
- **Impostarlo e dimenticarlo.** Registri i tassi di passaggio al modello grande e riveda tutto quando i modelli
  cambiano.

## Che cosa fa la differenza maggiore? {#what-makes-the-biggest-difference}

**Un buon insieme di valutazione.** Senza esempi reali e un criterio di superamento non può regolare la soglia né
dimostrare il risparmio. Legga [scegliere il modello giusto](/it/buone-pratiche/scegliere-il-modello-giusto-per-il-compito/) per sapere come
costruirne uno.

## Fonti

- [RouteLLM: learning to route LLMs with preference data](https://arxiv.org/abs/2406.18665), Ong et al., ICLR 2025 (2024)
- [FrugalGPT: how to use large language models while reducing cost and improving performance](https://arxiv.org/abs/2305.05176), Chen, Zaharia and Zou, Transactions on Machine Learning Research (2023)
- [Hybrid LLM: cost-efficient and quality-aware query routing](https://arxiv.org/abs/2404.14618), Ding et al., ICLR (2024)
