# Come capisco se un modello mixture-of-experts fa risparmiare energia?

> Come i modelli mixture-of-experts attivano solo una parte dei parametri per token, quando ciò fa risparmiare energia rispetto a un modello denso e che cosa misurare.

Source: https://greenai.guide/it/come/come-capisco-se-un-modello-mixture-of-experts-fa-risparmiare-energia/  
Updated: 2026-11-19

## In breve

Un modello mixture-of-experts (miscela di esperti) indirizza ogni token verso poche sottoreti specializzate, quindi per ogni token lavora solo una parte del modello. Mixtral, per esempio, ha 47 miliardi di parametri ma ne usa 13 miliardi per token. Ciò può ridurre il calcolo per risposta rispetto a un modello denso di qualità simile, ma tutti gli esperti devono comunque stare in memoria, quindi confronti qualità, latenza ed energia per richiesta sul Suo hardware.

## Steps

1. Selezioni un modello mixture-of-experts e un modello denso di qualità simile per il Suo compito.
2. Verifichi che entrambi entrino nella memoria GPU disponibile, contando tutti gli esperti.
3. Esegua entrambi sul Suo insieme di valutazione con la Sua dimensione di batch reale.
4. Confronti fianco a fianco qualità, latenza ed energia per richiesta.
5. Scelga in base a tutti e tre i criteri, e consideri un modello denso più piccolo se supera la prova.

**I modelli mixture-of-experts (MoE) possono offrire la qualità di un modello grande con meno calcolo per token, ma
non con meno memoria.** Se Le fanno risparmiare energia dipende dal Suo hardware e dal Suo traffico.

## Come funziona una mixture of experts? {#how-does-a-mixture-of-experts-work}

Un modello denso usa ogni parametro per ogni token. Un modello MoE ha molte sottoreti "esperte" e un piccolo router
che sceglie pochi esperti per ogni token. Mixtral of Experts di Jiang e colleghi dà a ogni token accesso a 47
miliardi di parametri ma ne usa solo 13 miliardi attivi durante l'inferenza, e gli autori riferiscono che supera o
eguaglia Llama 2 70B e GPT-3.5 nei benchmark valutati. Veda anche la
[voce del glossario](/it/glossario/#mixture-of-experts).

## Quando fa risparmiare energia? {#when-does-it-save-energy}

- **Rispetto a un modello denso di qualità simile**, meno parametri attivi significano di solito meno calcolo per
  token.
- **Quando la memoria c'è.** Tutti gli esperti vanno comunque caricati, quindi potrebbero servirLe tante GPU quante
  per il modello denso. Anche la memoria inattiva assorbe potenza.
- **Con un buon utilizzo.** Con il batching, token diversi usano esperti diversi, il che tiene l'hardware più
  occupato.

## Errori comuni {#common-mistakes}

- **Confrontare con il riferimento sbagliato.** Se un piccolo modello denso raggiunge la Sua soglia di qualità, di
  solito batterà entrambi. Veda [come scegliere un modello di IA più piccolo](/it/come/come-scelgo-un-modello-di-ia-piu-piccolo/).
- **Considerare i parametri attivi come l'intero costo.** Contano anche la memoria, la comunicazione tra GPU e il
  sovraccarico dell'instradamento.
- **Non misurare.** Dove valutazioni pubbliche come l'AI Energy Score coprono i Suoi candidati, le usi; altrimenti
  faccia un benchmark di entrambi sullo stesso hardware.

Per il metodo più generale, legga [scegliere il modello giusto](/it/buone-pratiche/scegliere-il-modello-giusto-per-il-compito/).

## Fonti

- [Mixtral of experts](https://arxiv.org/abs/2401.04088), Jiang et al., Mistral AI (2024)
- [AI Energy Score](https://huggingface.github.io/AIEnergyScore/), Hugging Face (2025)
