In breve
Se i Suoi input sono dati strutturati o brevi testi etichettati e l'output è un numero, una categoria o una classifica, provi prima un modello classico: un modello lineare, alberi con gradient boosting o un piccolo classificatore. Costano molto meno da far funzionare, sono più veloci, più facili da spiegare e spesso altrettanto accurati. Ricorra a un grande modello linguistico quando il compito richiede davvero un linguaggio aperto.
Passaggi
- Metta per iscritto il tipo di input, il tipo di output e la soglia di qualità.
- Costruisca prima un riferimento semplice (baseline), come una regola, un modello lineare o alberi con gradient boosting.
- Se l'input è testo libero, provi un piccolo classificatore sottoposto a fine-tuning.
- Provi un LLM solo se i riferimenti non raggiungono la soglia, e sullo stesso insieme di valutazione.
- Confronti qualità, latenza ed energia per previsione prima di scegliere.
Usi il modello più semplice che raggiunge la Sua soglia di qualità. Per dati strutturati e compiti di etichettatura circoscritti, di solito è un modello classico di apprendimento automatico, non un grande modello linguistico.
Perché è importante?
Luccioni, Jernite e Strubell hanno misurato l'energia necessaria a far funzionare modelli su molti compiti. Classificare testo era tra i compiti più economici, con circa 0,002 kWh ogni 1.000 inferenze, mentre i modelli generativi generali costavano ordini di grandezza di più di quelli specifici per lo stesso compito. Anche le Web Sustainability Guidelines del W3C chiedono ai team di valutare la necessità dell'IA prima di implementarla.
Un sandpit (laboratorio di ricerca intensivo e collaborativo) britannico sull'IA verde del 2026, con matematici, informatici e industria, ha sottolineato lo stesso punto da un'altra prospettiva: spesso si ricorre all'IA quando un metodo statistico o numerico ben noto fa già il lavoro.
Un test rapido
| Il Suo compito | Provi prima |
|---|---|
| Prevedere un numero da dati tabellari | Modello lineare o alberi con gradient boosting |
| Assegnare una tra poche etichette | Piccolo classificatore sottoposto a fine-tuning |
| Trovare elementi simili | Embedding più un indice di ricerca dei vicini più prossimi |
| Prevedere una serie temporale | Metodi statistici di previsione consolidati |
| Scrivere, spiegare o conversare | È qui che un LLM giustifica il suo costo |
Errori comuni
- Saltare il riferimento di base. Senza di esso non si può capire se l'LLM aggiunge qualcosa.
- Usare un LLM per etichettare dati su cui poi non si riaddestra mai nulla. Lo usi una volta per creare le etichette, poi addestri un modello piccolo.
- Confrontare solo l'accuratezza. Includa latenza, energia per previsione e facilità di spiegare gli errori.
Per saperne di più, legga scegliere il modello giusto e la matematica per un'IA efficiente.
Fonti
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- Web Sustainability Guidelines, W3C (2025)
Correlati
Come capisco se per un compito mi serve davvero l'IA?
Un test rapido per capire se un compito richiede l'IA generativa o se una ricerca, una calcolatrice, un modello o una regola basterebbero, più in fretta e con meno energia.
Come trovo un modello specifico per un compito invece di usare un chatbot generico?
Come trovare un piccolo modello pensato per un solo compito, come classificare, estrarre o tradurre, e verificare che valga un chatbot generico con meno energia.
Scegliere il modello giusto per il compito
Come dimensionare bene l'IA: quando usare modelli piccoli o specializzati, quando un modello di frontiera vale il suo costo, come funziona il routing e quando non usare l'IA.
La matematica che rende l'IA più efficiente
Pruning, sparsità, sketching, teoria delle matrici aleatorie e modelli informati dalla fisica: come la matematica riduce calcolo, memoria ed energia dell'IA.