# Scegliere il modello giusto per il compito

> Come dimensionare bene l'IA: quando usare modelli piccoli o specializzati, quando un modello di frontiera vale il suo costo, come funziona il routing e quando non usare l'IA.

Source: https://greenai.guide/it/buone-pratiche/scegliere-il-modello-giusto-per-il-compito/  
Updated: 2026-11-19

## In breve

Usi il modello più piccolo, o il metodo non-IA più semplice, che raggiunge il Suo livello di qualità, e riservi i grandi modelli generali ai casi che ne hanno bisogno. I modelli specifici per un compito possono consumare una piccola frazione dell'energia di quelli generativi generici, e il routing permette di ottenere gran parte dei vantaggi di entrambi.

## Punti chiave

- Per prima cosa ci si chieda se il compito richieda davvero l'IA; regole, ricerca o un algoritmo classico spesso bastano.
- I modelli specifici per un compito sono risultati di ordini di grandezza meno costosi da eseguire rispetto ai modelli generativi multiuso, a parità di compito.
- UNESCO e UCL riferiscono che piccoli modelli specifici possono ridurre il consumo di energia fino al 90%.
- Il routing invia le richieste facili ai modelli piccoli e quelle difficili ai modelli grandi; le soglie vanno fissate con cura, perché un tentativo fallito con il modello piccolo più un nuovo tentativo possono costare di più.
- Le pipeline ibride usano metodi classici o basati sulla fisica per la maggior parte dei passaggi e una piccola rete neurale solo dove aggiunge valore.

## Perché la scelta del modello conta così tanto? {#why-does-model-choice-matter-so-much}

**La scelta del modello è di solito la leva singola più importante sull'energia di una funzione di IA.** Lo stesso
compito può essere svolto da modelli i cui costi di esecuzione differiscono di ordini di grandezza.

In un confronto sistematico pubblicato ad ACM FAccT 2024, Luccioni, Jernite e Strubell hanno misurato l'energia
necessaria per eseguire 1.000 inferenze su molti compiti e modelli. Hanno riscontrato che i modelli generativi
multiuso costano ordini di grandezza in più rispetto ai sistemi specifici per lo stesso compito, anche tenendo conto
delle dimensioni del modello. Un rapporto UNESCO e UCL del 2025 ha rilevato che piccoli modelli adattati a compiti
specifici possono ridurre il consumo di energia fino al 90%.

Lo schema è semplice: un modello generale paga, a ogni richiesta, conoscenze e capacità che il Suo compito non usa
mai.

## Questo compito richiede davvero l'IA? {#does-this-task-need-ai-at-all}

**Verifichi prima se un metodo non-IA svolge già il compito.** L'inferenza più economica è quella che non si esegue
mai.

Un sandpit (laboratorio di ricerca intensivo di più giorni) britannico sulla IA verde del 2026, che ha riunito
matematici, informatici e industria, è tornato più volte su questo punto: spesso si ricorre all'IA quando esiste già
un algoritmo ben compreso, e il calcolo più verde è spesso quello che si evita. Anche le Web Sustainability
Guidelines del W3C chiedono ai team di valutare la necessità dell'IA prima di implementarla.

Si chieda:

- Potrebbe bastare una **regola, una tabella di consultazione o un'espressione regolare**?
- Una **ricerca** sui Suoi contenuti potrebbe rispondere alla domanda?
- Esiste un **metodo numerico o statistico consolidato** (un ottimizzatore, una regressione, un risolutore)?
- La risposta deve essere **esattamente riproducibile o verificabile**? I metodi deterministici sono più facili da
  controllare.
- Con quale frequenza verrà eseguito? Una funzione usata milioni di volte merita più impegno di progettazione di un
  caso isolato.

L'IA non è gratuita nemmeno quando fa risparmiare tempo. Uno studio del 2025 che ha confrontato la programmazione
manuale e quella assistita dall'IA su 12 compiti ha rilevato che l'approccio assistito aveva in media un'impronta di
carbonio circa 33 volte superiore a quella dell'approccio manuale, con un divario crescente al crescere della
difficoltà dei compiti. Ciò non significa non usare mai gli assistenti; significa usarli dove si ripagano
chiaramente.

## Piccolo, specializzato o di frontiera? {#small-specialised-or-frontier}

**Scelga il modello in base al compito, non in base alla soluzione più potente disponibile.**

| Tipo di compito | Di solito basta | Quando scegliere più grande |
|---|---|---|
| Classificazione, etichettatura, routing, spam o sentiment | Un piccolo classificatore specifico | Raramente |
| Estrazione di campi da documenti | Un modello piccolo o sottoposto a fine-tuning, oppure regole | Layout disordinati e variabili |
| Ricerca e risposta a domande sui propri contenuti | Recupero più un modello piccolo o medio | Ragionamento complesso su più documenti |
| Traduzione, sintesi | Un modello medio o specializzato | Testi delicati o ricchi di sfumature |
| Ragionamento aperto, pianificazione, codice difficile | Un grande modello generale | È qui che vale il suo costo |

I piccoli modelli specializzati possono nascere per diverse vie, trattate in
[addestramento e inferenza efficienti](/it/buone-pratiche/addestramento-e-inferenza-efficienti-per-l-ia/):

- **Distillazione:** un grande modello "insegnante" addestra un piccolo "studente". DistilBERT era più piccolo del
  40% rispetto a BERT e più veloce del 60%, mantenendo il 97% della sua capacità di comprensione del linguaggio.
- **Fine-tuning di un modello piccolo** sui dati del proprio compito.
- **Versioni quantizzate** di un modello esistente, che richiedono meno memoria ed energia.

Dove esistono benchmark pubblici, confronti i candidati sull'energia oltre che sulla qualità. L'AI Energy Score di
Hugging Face valuta i modelli in base all'energia GPU per 1.000 richieste su dieci compiti comuni, con da una a
cinque stelle rispetto agli altri modelli sullo stesso compito.

## Come funziona il routing dei modelli? {#how-does-model-routing-work}

**Un router invia ogni richiesta al modello più economico che probabilmente risponderà bene, e passa a un modello
superiore solo quando serve.**

Schemi comuni:

1. **Prima il classificatore:** un piccolo modello o un insieme di regole stima quanto è difficile una richiesta e
   sceglie un modello.
2. **Cascata:** si prova il modello piccolo; se la sua confidenza è bassa o un controllo fallisce, si passa a uno più
   grande.
3. **Router appreso:** addestrato su esempi di quale modello ha funzionato bene su quale richiesta. Lo studio RouteLLM
   ha riportato riduzioni dei costi di oltre la metà in alcuni casi senza abbassare la qualità delle risposte.

### Fissi la soglia con cura {#set-the-threshold-carefully}

Il sandpit ha sollevato un'avvertenza importante: nei sistemi agentici, un modello troppo piccolo può fallire,
costringendo a ripetere l'esecuzione sul modello grande. Un tentativo economico fallito più un nuovo tentativo
costoso possono costare più che usare direttamente il modello grande. Quindi:

- misuri il costo complessivo per compito **riuscito**, non per chiamata;
- regoli la soglia di escalation sui Suoi dati;
- registri con quale frequenza le richieste vengono passate al livello superiore, e riveda la soglia quando i
  modelli cambiano;
- affidi la decisione di routing al sistema, non all'utente finale.

## Che cosa sono le pipeline ibride? {#what-are-hybrid-pipelines}

**Le pipeline ibride usano metodi classici, basati sulla fisica o su regole per la maggior parte dei passaggi e un
piccolo modello solo dove aggiunge valore.** Sono spesso più economiche, più accurate e più affidabili di un
approccio interamente neurale.

Esempi:

- Un modello fisico o numerico esegue la simulazione; un piccolo componente appreso sostituisce solo la sua parte più
  costosa (un "surrogato").
- Il codice deterministico gestisce analisi, validazione e formattazione; un modello si occupa solo del giudizio sul
  testo libero.
- Un modello generativo pianifica o sceglie, ma il risultato viene assemblato da una libreria di componenti già
  verificati invece di essere generato da zero ogni volta. Veda
  [orchestrare invece di generare](/it/articoli/orchestrare-invece-di-generare/).

Il sandpit ha discusso anche dell'inserimento di strutture matematiche o fisiche (simmetrie, leggi di conservazione,
convessità) nei modelli, così che servano meno parametri e meno addestramento. Veda
[la matematica per un'IA efficiente](/it/articoli/la-matematica-che-rende-l-ia-piu-efficiente/).

## Lista di controllo {#checklist}

- [ ] Metodo non-IA più semplice descritto e provato per primo
- [ ] Livello di qualità definito sui propri casi reali
- [ ] Almeno un modello piccolo o specifico provato rispetto a quel livello
- [ ] Energia per richiesta confrontata per ogni candidato, misurata allo stesso modo
- [ ] Modello grande usato solo dove quello piccolo non raggiunge il livello
- [ ] Costo del routing misurato per compito riuscito, compresi i nuovi tentativi
- [ ] Scelta registrata, con una data per riesaminarla

## Che cosa fare ora {#what-to-do-next}

1. Elenchi le Sue funzioni di IA e indichi quali potrebbero usare un modello più piccolo, un metodo classico o
   nessuna IA.
2. Costruisca un piccolo insieme di valutazione di casi reali con una soglia di superamento.
3. Provi due o tre dimensioni di modello su di esso e [misuri l'energia](/it/buone-pratiche/come-misurare-l-energia-e-il-carbonio-dell-ia/) di ciascuna.
4. Sperimenti il routing su una funzione ad alto volume e monitori il costo per compito riuscito.
5. Inserisca "usare il modello più piccolo che raggiunge il livello" nella Sua
   [politica sulla IA verde](/it/buone-pratiche/come-scrivere-una-politica-sulla-ia-verde/).
6. Chieda ai fornitori quali dimensioni di modello offrono e la loro energia per richiesta; veda
   [acquisti di IA sostenibili](/it/buone-pratiche/acquisti-sostenibili-di-ia/).

## Domande frequenti

### I modelli linguistici piccoli sono abbastanza validi?

Per molti compiti ben definiti, come classificazione, estrazione e routing, sì. Li provi sui Suoi casi reali rispetto a un livello di qualità chiaro prima di decidere.

### Che cos'è il routing dei modelli?

Un router esamina ogni richiesta e la invia al modello più economico che probabilmente la gestirà bene, passando a un modello più grande solo quando serve. In alcuni test, router pubblicati hanno ridotto i costi di oltre la metà senza abbassare la qualità.

### Quando non dovrei usare l'IA?

Quando una regola, una consultazione di tabella, una ricerca o un metodo numerico consolidato svolge già il compito in modo affidabile. Di solito sono più economici, più rapidi, più prevedibili e più facili da verificare.

### Un modello più grande è sempre più accurato?

No. Per compiti circoscritti un piccolo modello sottoposto a fine-tuning o distillato può eguagliare o superare un modello generale, e i suoi errori sono spesso più facili da capire.

## Fonti

- [Power Hungry Processing: Watts Driving the Cost of AI Deployment?](https://arxiv.org/abs/2311.16863), Luccioni, Jernite and Strubell, ACM FAccT 2024 (arXiv 2311.16863) (2024)
- [AI large language models: new report shows small changes can reduce energy use by 90%](https://www.unesco.org/en/articles/ai-large-language-models-new-report-shows-small-changes-can-reduce-energy-use-90), UNESCO (2025)
- [RouteLLM: Learning to Route LLMs with Preference Data](https://arxiv.org/abs/2406.18665), Ong et al. (arXiv 2406.18665) (2024)
- [DistilBERT, a distilled version of BERT](https://arxiv.org/abs/1910.01108), Sanh et al. (arXiv 1910.01108) (2019)
- [Comparative Analysis of Carbon Footprint in Manual vs. LLM-Assisted Code Development](https://arxiv.org/abs/2505.04521), arXiv 2505.04521 (2025)
- [Green Software Patterns: right-sized, energy-efficient AI models](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/right-sized-energy-efficient-ai-models.md), Green Software Foundation (2025)
- [AI Energy Score](https://huggingface.github.io/AIEnergyScore/), Hugging Face (2025)
- [Web Sustainability Guidelines](https://www.w3.org/TR/web-sustainability-guidelines/), W3C (2025)
