Kurz gesagt
Auf Ihrem eigenen Rechner können Sie direkt messen: Nutzen Sie CodeCarbon oder ein Tool, das die Leistungszähler von Prozessor und GPU ausliest, oder stecken Sie eine smarte Steckdose mit Messfunktion zwischen Computer und Wand. Erfassen Sie zuerst den Leerlaufwert, messen Sie über den gesamten Job statt in Momentaufnahmen und wiederholen Sie den Durchlauf einige Male, bevor Sie der Zahl trauen.
Schritte
- Messen Sie vor dem Start die Leerlaufleistung des Rechners.
- Führen Sie die KI-Aufgabe aus, während CodeCarbon, ein zählerbasiertes Tool oder eine smarte Messsteckdose durchgehend aufzeichnet.
- Erfassen Sie die GPU-Leistung über den gesamten Job und integrieren Sie sie über die Zeit.
- Wiederholen Sie den Durchlauf mehrmals und geben Sie Mittelwert und Spanne an.
- Gleichen Sie ein Software-Messwerkzeug pro Rechner einmal mit einem Steckdosen-Messgerät ab.
Hardware, die Ihnen gehört, lässt sich messen, und das schlägt jede Schätzung. So sehen Sie am besten, was ein lokales Modell, ein Fine-Tuning-Lauf oder ein KI-Coding-Tool auf Ihrem Rechner wirklich verbraucht.
Welche Tools kann ich nutzen?
| Option | Was sie misst | Geeignet für |
|---|---|---|
| Smarte Steckdose mit Messfunktion | Den ganzen Rechner an der Steckdose | Alle; zur Kontrolle anderer Tools |
| CodeCarbon | Leistung von Prozessor, GPU und Arbeitsspeicher plus CO₂-Intensität des Netzes | Python-Skripte, Training und lokale Inferenz |
| Prozessorzähler (RAPL auf vielen Intel- und AMD-Chips) | Energie von CPU und Arbeitsspeicher | Linux-Tools wie perf, Scaphandre, PowerJoular |
GPU-Telemetrie (nvidia-smi, NVML) |
GPU-Leistung | Modelltraining und Inferenz auf NVIDIA-Karten |
Warum über die Zeit messen?
GPU-Messwerte werden stichprobenartig erfasst, nicht kontinuierlich. Yang und Kollegen stellten fest, dass
nvidia-smi auf A100- und H100-GPUs die Leistung nur während etwa 25 % der Laufzeit erfasst, was bei kurzen Jobs
stark in die Irre führen kann. Protokollieren Sie die Werte während des gesamten Jobs, lassen Sie ihn lange genug
laufen, um viele Messintervalle abzudecken, und summieren Sie die Werte über die Zeit.
Häufige Fehler
- Den Leerlaufwert vergessen. Ein Desktop-Rechner verbraucht auch untätig Strom; ziehen Sie das ab, um zu sehen, was die KI hinzufügt.
- Nur einmal messen. Temperatur, Hintergrundprozesse und Taktanpassung verändern die Werte. Wiederholen Sie die Messung und geben Sie eine Spanne an.
- Nur die Geschwindigkeit vergleichen. Schneller und sparsamer gehen oft zusammen, aber nicht immer. Geben Sie beides an.
Wie Sie die Energie in CO₂ umrechnen, lesen Sie unter die CO₂-Intensität des Stromnetzes finden. Die vollständige Methode finden Sie unter So messen Sie den Energieverbrauch von KI.
Quellen
- Part-time power measurements: nvidia-smi's lack of attention, Yang et al. (arXiv 2312.02741) (2023)
- CodeCarbon, CodeCarbon (2026)
- When to use CodeCarbon, CodeCarbon (2025)
Verwandte Themen
Wie betreibe ich ein KI-Modell lokal?
So betreiben Sie ein offenes KI-Modell mit Ollama oder llama.cpp auf eigenem Notebook oder Server, wählen ein passendes quantisiertes Modell und messen die Energie.
Wie messe ich den CO₂-Fußabdruck beim Training eines Modells?
Erfassen Sie die Energie eines Trainingslaufs mit CodeCarbon, multiplizieren Sie mit der CO₂-Intensität des Netzes und geben Sie Hardware, Zeit und Ort an.
Wie lege ich einen Ausgangswert fest, um KI-Energieeinsparungen nachzuweisen?
So belegen Sie echte KI-Energieeinsparungen: vorher messen, gleiche Umgebung und Last, wiederholte Läufe, Werte pro Arbeitseinheit, gleichbleibende Qualität.
So messen Sie den Energieverbrauch und CO2-Fußabdruck von KI
Ein Praxisleitfaden zum Messen oder Schätzen von Energie und CO2 bei KI-Arbeit: Werkzeuge, Systemgrenzen, Kennzahlen pro Aufgabe und ehrliche Unsicherheit.