In breve
Usi il modello più piccolo, o il metodo non-IA più semplice, che raggiunge il Suo livello di qualità, e riservi i grandi modelli generali ai casi che ne hanno bisogno. I modelli specifici per un compito possono consumare una piccola frazione dell'energia di quelli generativi generici, e il routing permette di ottenere gran parte dei vantaggi di entrambi.
Punti chiave
- Per prima cosa ci si chieda se il compito richieda davvero l'IA; regole, ricerca o un algoritmo classico spesso bastano.
- I modelli specifici per un compito sono risultati di ordini di grandezza meno costosi da eseguire rispetto ai modelli generativi multiuso, a parità di compito.
- UNESCO e UCL riferiscono che piccoli modelli specifici possono ridurre il consumo di energia fino al 90%.
- Il routing invia le richieste facili ai modelli piccoli e quelle difficili ai modelli grandi; le soglie vanno fissate con cura, perché un tentativo fallito con il modello piccolo più un nuovo tentativo possono costare di più.
- Le pipeline ibride usano metodi classici o basati sulla fisica per la maggior parte dei passaggi e una piccola rete neurale solo dove aggiunge valore.
Perché la scelta del modello conta così tanto?
La scelta del modello è di solito la leva singola più importante sull'energia di una funzione di IA. Lo stesso compito può essere svolto da modelli i cui costi di esecuzione differiscono di ordini di grandezza.
In un confronto sistematico pubblicato ad ACM FAccT 2024, Luccioni, Jernite e Strubell hanno misurato l'energia necessaria per eseguire 1.000 inferenze su molti compiti e modelli. Hanno riscontrato che i modelli generativi multiuso costano ordini di grandezza in più rispetto ai sistemi specifici per lo stesso compito, anche tenendo conto delle dimensioni del modello. Un rapporto UNESCO e UCL del 2025 ha rilevato che piccoli modelli adattati a compiti specifici possono ridurre il consumo di energia fino al 90%.
Lo schema è semplice: un modello generale paga, a ogni richiesta, conoscenze e capacità che il Suo compito non usa mai.
Questo compito richiede davvero l'IA?
Verifichi prima se un metodo non-IA svolge già il compito. L'inferenza più economica è quella che non si esegue mai.
Un sandpit (laboratorio di ricerca intensivo di più giorni) britannico sulla IA verde del 2026, che ha riunito matematici, informatici e industria, è tornato più volte su questo punto: spesso si ricorre all'IA quando esiste già un algoritmo ben compreso, e il calcolo più verde è spesso quello che si evita. Anche le Web Sustainability Guidelines del W3C chiedono ai team di valutare la necessità dell'IA prima di implementarla.
Si chieda:
- Potrebbe bastare una regola, una tabella di consultazione o un'espressione regolare?
- Una ricerca sui Suoi contenuti potrebbe rispondere alla domanda?
- Esiste un metodo numerico o statistico consolidato (un ottimizzatore, una regressione, un risolutore)?
- La risposta deve essere esattamente riproducibile o verificabile? I metodi deterministici sono più facili da controllare.
- Con quale frequenza verrà eseguito? Una funzione usata milioni di volte merita più impegno di progettazione di un caso isolato.
L'IA non è gratuita nemmeno quando fa risparmiare tempo. Uno studio del 2025 che ha confrontato la programmazione manuale e quella assistita dall'IA su 12 compiti ha rilevato che l'approccio assistito aveva in media un'impronta di carbonio circa 33 volte superiore a quella dell'approccio manuale, con un divario crescente al crescere della difficoltà dei compiti. Ciò non significa non usare mai gli assistenti; significa usarli dove si ripagano chiaramente.
Piccolo, specializzato o di frontiera?
Scelga il modello in base al compito, non in base alla soluzione più potente disponibile.
| Tipo di compito | Di solito basta | Quando scegliere più grande |
|---|---|---|
| Classificazione, etichettatura, routing, spam o sentiment | Un piccolo classificatore specifico | Raramente |
| Estrazione di campi da documenti | Un modello piccolo o sottoposto a fine-tuning, oppure regole | Layout disordinati e variabili |
| Ricerca e risposta a domande sui propri contenuti | Recupero più un modello piccolo o medio | Ragionamento complesso su più documenti |
| Traduzione, sintesi | Un modello medio o specializzato | Testi delicati o ricchi di sfumature |
| Ragionamento aperto, pianificazione, codice difficile | Un grande modello generale | È qui che vale il suo costo |
I piccoli modelli specializzati possono nascere per diverse vie, trattate in addestramento e inferenza efficienti:
- Distillazione: un grande modello "insegnante" addestra un piccolo "studente". DistilBERT era più piccolo del 40% rispetto a BERT e più veloce del 60%, mantenendo il 97% della sua capacità di comprensione del linguaggio.
- Fine-tuning di un modello piccolo sui dati del proprio compito.
- Versioni quantizzate di un modello esistente, che richiedono meno memoria ed energia.
Dove esistono benchmark pubblici, confronti i candidati sull'energia oltre che sulla qualità. L'AI Energy Score di Hugging Face valuta i modelli in base all'energia GPU per 1.000 richieste su dieci compiti comuni, con da una a cinque stelle rispetto agli altri modelli sullo stesso compito.
Come funziona il routing dei modelli?
Un router invia ogni richiesta al modello più economico che probabilmente risponderà bene, e passa a un modello superiore solo quando serve.
Schemi comuni:
- Prima il classificatore: un piccolo modello o un insieme di regole stima quanto è difficile una richiesta e sceglie un modello.
- Cascata: si prova il modello piccolo; se la sua confidenza è bassa o un controllo fallisce, si passa a uno più grande.
- Router appreso: addestrato su esempi di quale modello ha funzionato bene su quale richiesta. Lo studio RouteLLM ha riportato riduzioni dei costi di oltre la metà in alcuni casi senza abbassare la qualità delle risposte.
Fissi la soglia con cura
Il sandpit ha sollevato un'avvertenza importante: nei sistemi agentici, un modello troppo piccolo può fallire, costringendo a ripetere l'esecuzione sul modello grande. Un tentativo economico fallito più un nuovo tentativo costoso possono costare più che usare direttamente il modello grande. Quindi:
- misuri il costo complessivo per compito riuscito, non per chiamata;
- regoli la soglia di escalation sui Suoi dati;
- registri con quale frequenza le richieste vengono passate al livello superiore, e riveda la soglia quando i modelli cambiano;
- affidi la decisione di routing al sistema, non all'utente finale.
Che cosa sono le pipeline ibride?
Le pipeline ibride usano metodi classici, basati sulla fisica o su regole per la maggior parte dei passaggi e un piccolo modello solo dove aggiunge valore. Sono spesso più economiche, più accurate e più affidabili di un approccio interamente neurale.
Esempi:
- Un modello fisico o numerico esegue la simulazione; un piccolo componente appreso sostituisce solo la sua parte più costosa (un "surrogato").
- Il codice deterministico gestisce analisi, validazione e formattazione; un modello si occupa solo del giudizio sul testo libero.
- Un modello generativo pianifica o sceglie, ma il risultato viene assemblato da una libreria di componenti già verificati invece di essere generato da zero ogni volta. Veda orchestrare invece di generare.
Il sandpit ha discusso anche dell'inserimento di strutture matematiche o fisiche (simmetrie, leggi di conservazione, convessità) nei modelli, così che servano meno parametri e meno addestramento. Veda la matematica per un'IA efficiente.
Lista di controllo
- [ ] Metodo non-IA più semplice descritto e provato per primo
- [ ] Livello di qualità definito sui propri casi reali
- [ ] Almeno un modello piccolo o specifico provato rispetto a quel livello
- [ ] Energia per richiesta confrontata per ogni candidato, misurata allo stesso modo
- [ ] Modello grande usato solo dove quello piccolo non raggiunge il livello
- [ ] Costo del routing misurato per compito riuscito, compresi i nuovi tentativi
- [ ] Scelta registrata, con una data per riesaminarla
Che cosa fare ora
- Elenchi le Sue funzioni di IA e indichi quali potrebbero usare un modello più piccolo, un metodo classico o nessuna IA.
- Costruisca un piccolo insieme di valutazione di casi reali con una soglia di superamento.
- Provi due o tre dimensioni di modello su di esso e misuri l'energia di ciascuna.
- Sperimenti il routing su una funzione ad alto volume e monitori il costo per compito riuscito.
- Inserisca "usare il modello più piccolo che raggiunge il livello" nella Sua politica sulla IA verde.
- Chieda ai fornitori quali dimensioni di modello offrono e la loro energia per richiesta; veda acquisti di IA sostenibili.
Domande frequenti
I modelli linguistici piccoli sono abbastanza validi?
Per molti compiti ben definiti, come classificazione, estrazione e routing, sì. Li provi sui Suoi casi reali rispetto a un livello di qualità chiaro prima di decidere.
Che cos'è il routing dei modelli?
Un router esamina ogni richiesta e la invia al modello più economico che probabilmente la gestirà bene, passando a un modello più grande solo quando serve. In alcuni test, router pubblicati hanno ridotto i costi di oltre la metà senza abbassare la qualità.
Quando non dovrei usare l'IA?
Quando una regola, una consultazione di tabella, una ricerca o un metodo numerico consolidato svolge già il compito in modo affidabile. Di solito sono più economici, più rapidi, più prevedibili e più facili da verificare.
Un modello più grande è sempre più accurato?
No. Per compiti circoscritti un piccolo modello sottoposto a fine-tuning o distillato può eguagliare o superare un modello generale, e i suoi errori sono spesso più facili da capire.
Fonti
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT 2024 (arXiv 2311.16863) (2024)
- AI large language models: new report shows small changes can reduce energy use by 90%, UNESCO (2025)
- RouteLLM: Learning to Route LLMs with Preference Data, Ong et al. (arXiv 2406.18665) (2024)
- DistilBERT, a distilled version of BERT, Sanh et al. (arXiv 1910.01108) (2019)
- Comparative Analysis of Carbon Footprint in Manual vs. LLM-Assisted Code Development, arXiv 2505.04521 (2025)
- Green Software Patterns: right-sized, energy-efficient AI models, Green Software Foundation (2025)
- AI Energy Score, Hugging Face (2025)
- Web Sustainability Guidelines, W3C (2025)
Correlati
Come misurare l'energia e il carbonio dell'IA
Guida pratica per misurare o stimare energia e carbonio del lavoro di IA: strumenti, confini del sistema, metriche per attività e incertezza dichiarata.
Addestramento e inferenza efficienti per l'IA
Tecniche per sviluppatori e ricercatori per ridurre l'energia dell'IA: pruning, sparsità, quantizzazione, distillazione, KV cache, batching, precisione mista e pianificazione.
Orchestrare invece di generare
Perché riusare componenti verificati e instradare le richieste al modello più piccolo adatto può ridurre l'energia dell'IA, e che cosa dicono i dati.
Efficienza non è sufficienza: l'effetto rimbalzo nell'IA
Perché un'IA più efficiente non garantisce un minor consumo totale di energia, che cos'è l'effetto rimbalzo o di Jevons e che cosa aiuta a rendere reali i risparmi.