greenai.guide

Home › Buone pratiche › Edge o cloud: dove dovrebbe girare l'IA?

Buone pratiche

Edge o cloud: dove dovrebbe girare l'IA?

Aggiornato · 5 min di lettura

In breve

Né l'edge né il cloud sono più verdi per definizione. I data centre centrali di solito eseguono i grandi modelli in modo più efficiente, mentre l'IA sul dispositivo e all'edge può evitare traffico di rete, mantenere i dati in locale e funzionare offline. Decida caso per caso confrontando l'energia per risultato utile sull'intero sistema, compresi dispositivi, rete e hardware.

Punti chiave

  • Esegua in locale i compiti piccoli, frequenti o sensibili alla latenza; invii quelli grandi o rari a hardware centrale efficiente.
  • L'IEA stima che nel 2022 le reti di trasmissione dati abbiano consumato 260–360 TWh, circa l'1–1,5% dell'elettricità mondiale, di cui circa due terzi le reti mobili.
  • L'energia di rete non cresce in modo proporzionale al volume di dati, per cui i risparmi per gigabyte sono spesso sovrastimati.
  • Miliardi di dispositivi fanno la differenza: conti i dispositivi degli utenti, le loro batterie e l'hardware che potrebbero dover sostituire.
  • L'IA locale mantiene i dati sul dispositivo, a vantaggio di privacy, sovranità e resilienza.

È più verde l'IA all'edge o nel cloud?

Dipende dal compito, dal modello e dal dispositivo, quindi li confronti sull'intero sistema anziché dare per scontata la risposta. I data centre centrali fanno lavorare gli acceleratori a un utilizzo elevato con raffreddamento specializzato, per cui di solito svolgono i calcoli di un grande modello in modo più efficiente. L'IA all'edge, eseguita sul dispositivo o su un server vicino, evita di inviare dati attraverso la rete e può spegnersi completamente quando è inattiva.

Un sandpit (laboratorio di ricerca intensivo di più giorni) britannico sulla IA verde del 2026, che ha riunito matematici, informatici e industria, si è posto proprio questa domanda. L'IA si sta diffondendo in sensori, telecamere, videocitofoni, automobili e assistenti sui telefoni. Moltiplicata per milioni di dispositivi, l'IA locale consuma più o meno energia rispetto all'invio dei dati a un data centre? I partecipanti hanno osservato che esistono studi energetici completi per alcuni modelli di visione più piccoli eseguiti all'edge, ma pochi per i grandi modelli linguistici. La risposta onesta oggi è: misuri il Suo caso.

Quali sono i compromessi?

Ciascuna opzione vince su aspetti diversi.

Fattore Sul dispositivo / edge Data centre centrale
Energia per calcolo Di solito più alta su chip generici; migliore su acceleratori neurali dedicati Di solito più bassa, soprattutto a utilizzo elevato
Dimensioni del modello Modelli piccoli, spesso quantizzati Qualsiasi dimensione
Energia di rete Poca o nessuna Ogni richiesta viaggia in rete
Energia a riposo Può andare in sospensione o spegnersi Capacità condivisa tenuta pronta
Hardware Distribuito su miliardi di dispositivi; può spingere ad aggiornamenti Concentrato, rinnovato ogni pochi anni
Latenza Rapida, funziona offline Dipende dalla connessione
Privacy I dati possono restare sul dispositivo I dati escono dal controllo dell'utente
Misurazione Difficile: dispersa, non dichiarata Possibile, se i fornitori la dichiarano
Controllo Distribuito Concentrato in pochi fornitori

Quanto conta la rete?

Le reti consumano molta energia in totale, ma gran parte è un carico di base quasi costante, quindi l'effetto di una singola richiesta è minore di quanto suggeriscano i calcolatori per byte.

  • L'Agenzia internazionale dell'energia stima che nel 2022 le reti di trasmissione dati abbiano consumato da 260 a 360 TWh, circa l'1–1,5% dell'elettricità mondiale, di cui circa due terzi le reti mobili.
  • Mytton, Lundén e Malmodin hanno mostrato nel 2024 che l'energia di rete non è direttamente proporzionale al volume di dati. Le apparecchiature di rete assorbono energia che siano occupate o no, quindi convertire direttamente i gigabyte in chilowattora sovrastima il risparmio ottenuto inviando meno dati.
  • Riduca comunque i dati: si risparmia energia su server e dispositivi, e il traffico evitato può evitare futura capacità di rete. Ma non usi i risparmi di rete per gigabyte come argomento principale a favore dell'IA all'edge.

Si noti che molte cifre pubblicate per singolo prompt escludono la rete e i dispositivi degli utenti. Le cifre di Google del 2025 su Gemini, per esempio, escludono entrambi. Verifichi il perimetro prima di confrontare i numeri di edge e cloud.

E i dispositivi stessi?

Conti l'energia, la batteria e l'hardware dei dispositivi su cui gira la Sua IA, perché fanno parte della Sua impronta.

  • Emissioni incorporate: la fabbricazione dei dispositivi produce carbonio. La specifica SCI include una quota di emissioni incorporate nell'impronta di un sistema software. Se l'IA sul dispositivo spinge le persone a sostituire prima del tempo telefoni o portatili funzionanti, quel costo può superare qualsiasi risparmio operativo.
  • Il consumo della batteria è un costo energetico nascosto pagato dall'utente. Il sandpit ha citato come esempio gli assistenti IA sui telefoni.
  • Adattamento: la Green Software Foundation suggerisce di passare a modelli più piccoli o a una frequenza più bassa quando la batteria è scarica o il dispositivo è caldo.
  • Scala: un risparmio o un costo minimo per dispositivo diventa grande su milioni di dispositivi sempre in funzione.

Come entrano in gioco privacy e resilienza?

L'IA locale mantiene i dati sul dispositivo e continua a funzionare quando la connessione o il servizio centrale si interrompono.

  • Privacy: i dati elaborati in locale non devono essere trasmessi né conservati da un fornitore. Questo sostiene il principio di minimizzazione dei dati del diritto britannico ed europeo sulla protezione dei dati, ed è adatto a dati sensibili come quelli sanitari o relativi alle infrastrutture critiche. Il sandpit ha osservato che nei settori delle infrastrutture critiche i dati operativi sensibili spesso devono restare all'interno dell'organizzazione, il che richiede modelli locali efficienti.
  • Sovranità e controllo: l'inferenza distribuita sottrae il controllo a pochi grandi fornitori.
  • Resilienza: il sandpit ha sollevato anche il tema della dipendenza: che cosa succede quando la società si affida all'IA e la connessione o la corrente vengono a mancare? Le capacità locali possono mantenere attive le funzioni essenziali.
  • Responsabilità: l'IA all'edge è più difficile da monitorare. Se la adotta, pianifichi come la misurerà e la rendiconterà.

Come decidere, passo dopo passo?

Calcoli l'energia per risultato utile di ciascuna opzione, poi valuti privacy, latenza e resilienza.

  1. Definisca il compito e il suo livello di qualità. Che cosa conta come risultato riuscito?
  2. Trovi il modello più piccolo che raggiunge quel livello (scegliere il modello giusto). I modelli quantizzati richiedono meno memoria: nello studio LLM.int8() l'inferenza a 8 bit ha dimezzato il fabbisogno di memoria.
  3. Stimi l'energia nel cloud per risultato, compreso il sovraccarico del data centre e, se possibile, la rete.
  4. Misuri l'energia del dispositivo per risultato su dispositivi rappresentativi, compresi quelli più vecchi e a basso consumo.
  5. Aggiunga gli effetti sull'hardware: serviranno nuovi dispositivi o server edge dedicati?
  6. Consideri la frequenza: i compiti piccoli e frequenti spesso si adattano al dispositivo; quelli rari e pesanti al cloud.
  7. Valuti privacy, latenza, uso offline e resilienza.
  8. Consideri una soluzione mista: un piccolo modello locale gestisce la maggior parte delle richieste e passa al cloud quelle difficili.
  9. Misuri dopo la messa in servizio e riveda la scelta man mano che modelli e hardware cambiano.

Lista di controllo

  • [ ] Energia per risultato utile confrontata per edge, cloud e soluzione mista
  • [ ] Perimetro che include i dispositivi e, se possibile, la rete
  • [ ] Scelto il modello adeguato più piccolo, quantizzato per i dispositivi dove regge
  • [ ] Nessun aggiornamento dei dispositivi imposto dalla funzione di IA
  • [ ] Batteria e calore gestiti, con una modalità più leggera quando la batteria è scarica
  • [ ] Vantaggi per privacy e protezione dei dati registrati
  • [ ] Monitoraggio pianificato per le installazioni all'edge

Che cosa fare ora

  1. Scelga una funzione di IA e abbozzi le opzioni edge, cloud e mista.
  2. Misuri l'energia per risultato su un dispositivo tipico e stimi l'equivalente nel cloud; veda misurare l'energia dell'IA.
  3. Provi un piccolo modello quantizzato sul dispositivo supportato più vecchio.
  4. Decida quali dati devono restare in locale per ragioni di privacy o sovranità.
  5. Legga l'IA all'edge per il quadro generale, e hosting e data centre per il lato cloud.
  6. Trovi strumenti di IA all'edge nella directory dei prodotti e gruppi di ricerca in ricerca.

Domande frequenti

L'IA sul dispositivo è più verde dell'IA nel cloud?

A volte. Un piccolo modello su un telefono evita l'energia del data centre e della rete, ma i dispositivi sono meno efficienti per calcolo rispetto agli acceleratori dei data centre, e acquistare nuovo hardware per eseguire l'IA ha una propria impronta. Confronti l'intero sistema.

Inviare dati al cloud consuma molta energia?

Le reti consumano molta energia, ma gran parte è un carico di base quasi costante. Ridurre i dati aiuta comunque dispositivi e server, ma i risparmi di rete per gigabyte sono di solito sovrastimati.

Che cos'è l'edge computing?

Il calcolo svolto vicino a dove i dati vengono prodotti o usati: sul dispositivo stesso, oppure su un gateway o un piccolo server locale vicino, anziché in un data centre lontano.

Perché entra in gioco la privacy?

I dati elaborati sul dispositivo non devono necessariamente lasciarlo. Questo riduce l'esposizione e può rendere più facile rispettare le norme sulla protezione dei dati, come la minimizzazione dei dati.

Fonti

  1. Data centres and data transmission networks, International Energy Agency (2023)
  2. Network energy use not directly proportional to data volume: the power model approach for more reliable network energy consumption calculations, Mytton, Lundén and Malmodin, Journal of Industrial Ecology (2024)
  3. Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)
  4. Green Software Patterns: optimise power consumption for edge AI inference, Green Software Foundation (2025)
  5. Measuring the environmental impact of delivering AI at Google scale, Google (arXiv 2508.15734) (2025)
  6. Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
  7. Principle (c): Data minimisation, Information Commissioner's Office (2023)
  8. LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale, Dettmers et al. (arXiv 2208.07339) (2022)

Si unisca a noi

Aiuti a ridurre l'impatto dell'IA sul pianeta

Riceva per email nuove guide, bandi di finanziamento e schede delle directory, circa una volta al mese. Oppure aggiunga il suo prodotto, corso, dottorato o ricerca alle directory.

Nessun tracciamento. Disiscrizione con un clic. Altri modi per partecipare · Privacy