# Wie wähle ich energieeffiziente Hardware für KI aus?

> KI-Hardware nach gemessener Energie pro Aufgabe bei realen Batchgrößen wählen, Runtimes und Beschleuniger vergleichen, Neukauf gegen graue Emissionen abwägen.

Source: https://greenai.guide/de/wie/wie-waehle-ich-energieeffiziente-hardware-fuer-ki-aus/  
Updated: 2026-11-19

## Kurz gesagt

Testen Sie Ihr tatsächliches Modell auf zwei oder drei Hardware- und Runtime-Optionen und vergleichen Sie die Energie pro Anfrage oder pro Trainingslauf bei realistischen Batchgrößen, zusammen mit Latenz und Kosten. Patterson und Kollegen fanden heraus, dass die Wahl von Modell, Rechenzentrum und Prozessor zusammen den CO₂-Ausstoß des Trainings um bis zu etwa das 100- bis 1.000-Fache senken kann. Halten Sie gute Hardware ausgelastet und lange im Einsatz, denn die Herstellung neuer Geräte hat ihren eigenen Fußabdruck.

## Steps

1. Testen Sie Ihr eigenes Modell auf zwei oder drei Optionen für Beschleuniger und Instanztypen.
2. Messen Sie die Energie pro Anfrage oder pro Lauf bei Ihren realen Batchgrößen, zusammen mit der Latenz.
3. Probieren Sie auf jeder Option mehr als eine Inferenz-Runtime aus.
4. Wählen Sie die Option mit dem geringsten Energiebedarf, die Ihre Anforderungen an Latenz und Qualität erfüllt.
5. Wägen Sie die grauen Emissionen neuer Hardware gegen die erwartete Einsparung ab.
6. Testen Sie erneut, wenn sich das Modell oder der Datenverkehr ändert.

**Wählen Sie Hardware nach der gemessenen Energie für Ihre Workload, nicht nach Spitzenwerten im Datenblatt.**
Dasselbe Modell kann auf verschiedenen Beschleunigern, Instanztypen und Runtimes sehr unterschiedlich viel Energie
verbrauchen, und die beste Wahl hängt von Ihren Batchgrößen und Ihrem Datenverkehr ab.

## Wie vergleiche ich Optionen fair? {#how-do-i-compare-options-fairly}

Die Patterns der Green Software Foundation empfehlen, effiziente Beschleuniger und Instanztypen sowie effiziente
Frameworks und Inferenz-Runtimes auf Grundlage von Belegen auszuwählen. In der Praxis heißt das:

- dasselbe Modell mit denselben Eingaben und Einstellungen auf jedem Kandidaten ausführen;
- die Energie pro Anfrage (oder pro Lauf) bei den Batchgrößen messen, die Sie wirklich nutzen werden, nicht nur im
  besten Fall;
- Latenz und Qualität zusammen mit der Energie erfassen;
- die Runtime einbeziehen: Eine andere Serving-Engine auf demselben Chip kann das Ergebnis verändern.

Patterson und Kollegen fanden heraus, dass die Wahl von Modellarchitektur, Rechenzentrum und Prozessor den
CO₂-Fußabdruck des Trainings um bis zu etwa das 100- bis 1.000-Fache verringern kann. Die Hardwarewahl gehört daher
zu diesen anderen Entscheidungen dazu.

## Sollte ich neue Hardware kaufen? {#should-i-buy-new-hardware}

Nicht automatisch. Wu und Kollegen bei Meta berichteten, dass graue Emissionen aus der Herstellung der Hardware etwa
30 % des Fußabdrucks von Metas groß angelegtem maschinellem Lernen ausmachten. Ein neuer Beschleuniger muss über seine
Lebensdauer genug Energie einsparen, um seine Herstellung auszugleichen. Siehe
[graue Emissionen berücksichtigen](/de/wie/wie-beruecksichtige-ich-die-grauen-emissionen-von-ki-hardware/).

## Häufige Fehler {#common-mistakes}

- **Große Beschleuniger zu wenig auslasten.** Eine große GPU mit geringer Auslastung kann pro Antwort mehr Energie
  verbrauchen als eine kleinere, die ausgelastet ist; siehe [KI-Anfragen bündeln](/de/wie/wie-buendle-ich-ki-anfragen-um-energie-zu-sparen/).
- **Nur einmal testen.** Testen Sie erneut, wenn sich Modell, Runtime oder Datenverkehr ändern.

Siehe [effizientes Training und effiziente Inferenz](/de/gute-praxis/effizientes-ki-training-und-effiziente-inferenz/).

## Quellen

- [Carbon emissions and large neural network training](https://arxiv.org/abs/2104.10350), Patterson et al. (2021)
- [Select efficient accelerators and instance types for AI workloads](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/architecture/system-topology/efficient-hardware-ai-workloads.md), Green Software Foundation, Green Software Patterns (2025)
- [Select efficient ML frameworks and inference runtimes](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/select-efficient-ml-frameworks-inference-runtimes.md), Green Software Foundation, Green Software Patterns (2025)
- [Sustainable AI: environmental implications, challenges and opportunities](https://proceedings.mlsys.org/paper_files/paper/2022/hash/462211f67c7d858f663355eff93b745e-Abstract.html), Wu et al., MLSys (2022)
