Kurz gesagt
Nutzen Sie das kleinste Modell oder die einfachste Methode ohne KI, die Ihre Qualitätsanforderungen erfüllt, und heben Sie große Allzweckmodelle für die Fälle auf, die sie wirklich brauchen. Aufgabenspezifische Modelle können nur einen kleinen Bruchteil der Energie generativer Allzweckmodelle verbrauchen, und mit Routing erhalten Sie den größten Teil der Vorteile beider Ansätze.
Das Wichtigste
- Fragen Sie zuerst, ob die Aufgabe überhaupt KI braucht; Regeln, Suche oder ein klassischer Algorithmus erledigen sie oft.
- Aufgabenspezifische Modelle waren im Betrieb um Größenordnungen günstiger als generative Mehrzweckmodelle für dieselben Aufgaben.
- UNESCO und UCL berichten, dass kleine aufgabenspezifische Modelle den Energieverbrauch um bis zu 90 % senken können.
- Routing schickt einfache Anfragen an kleine und schwierige an große Modelle; legen Sie Schwellenwerte sorgfältig fest, denn ein gescheiterter kleiner Versuch plus Wiederholung kann mehr kosten.
- Hybride Pipelines nutzen für die meisten Schritte klassische oder physikbasierte Methoden und ein kleines neuronales Netz nur dort, wo es einen Mehrwert bringt.
Warum ist die Modellwahl so wichtig?
Die Modellwahl ist meist der größte einzelne Hebel für den Energieverbrauch einer KI-Funktion. Dieselbe Aufgabe lässt sich mit Modellen erledigen, deren Betriebskosten sich um Größenordnungen unterscheiden.
In einem systematischen Vergleich, veröffentlicht auf der ACM FAccT 2024, haben Luccioni, Jernite und Strubell den Energieverbrauch von 1.000 Inferenzen über viele Aufgaben und Modelle hinweg gemessen. Generative Mehrzweckmodelle waren dabei um Größenordnungen teurer als aufgabenspezifische Systeme für dieselben Aufgaben, selbst wenn die Modellgröße berücksichtigt wurde. Ein Bericht von UNESCO und UCL aus dem Jahr 2025 kam zu dem Ergebnis, dass kleine, auf bestimmte Aufgaben zugeschnittene Modelle den Energieverbrauch um bis zu 90 % senken können.
Das Muster ist einfach: Ein Allzweckmodell bezahlt bei jeder Anfrage für Wissen und Fähigkeiten, die Ihre Aufgabe nie nutzt.
Braucht diese Aufgabe überhaupt KI?
Prüfen Sie zuerst, ob eine Methode ohne KI die Aufgabe bereits erledigt. Die günstigste Inferenz ist die, die Sie nie ausführen.
Eine britische Sandpit-Veranstaltung zu grüner KI im Jahr 2026 mit Mathematikerinnen und Mathematikern, Informatikern und Fachleuten aus der Industrie kam immer wieder auf diesen Punkt zurück: Oft greift man zu KI, obwohl es bereits einen gut verstandenen Algorithmus gibt, und die grünste Berechnung ist oft die, die man vermeidet. Auch die Web Sustainability Guidelines des W3C verlangen von Teams, den Bedarf an KI zu prüfen, bevor sie sie einsetzen.
Fragen Sie:
- Könnte eine Regel, eine Nachschlagetabelle oder ein regulärer Ausdruck das erledigen?
- Könnte eine Suche in Ihren eigenen Inhalten die Frage beantworten?
- Gibt es ein etabliertes numerisches oder statistisches Verfahren (einen Optimierer, eine Regression, einen Solver)?
- Muss das Ergebnis exakt reproduzierbar oder prüfbar sein? Deterministische Methoden sind leichter zu überprüfen.
- Wie oft wird das ausgeführt? Eine Funktion, die millionenfach genutzt wird, verdient mehr Aufwand beim Entwurf als ein einmaliger Einsatz.
KI ist nicht kostenlos, selbst wenn sie Zeit spart. Eine Studie aus dem Jahr 2025, die manuelles und KI-gestütztes Programmieren an 12 Programmieraufgaben verglich, ergab, dass der KI-gestützte Ansatz im Durchschnitt etwa den 33-fachen CO2-Fußabdruck des manuellen Ansatzes hatte, wobei der Abstand mit schwierigeren Aufgaben wuchs. Das heißt nicht, dass Sie nie Assistenten nutzen sollten; es heißt, sie dort zu nutzen, wo sie sich klar auszahlen.
Klein, spezialisiert oder Frontier?
Passen Sie das Modell an die Aufgabe an, nicht an das leistungsfähigste verfügbare Werkzeug.
| Aufgabentyp | Reicht meist aus | Wann größer wählen |
|---|---|---|
| Klassifizieren, Verschlagworten, Routing, Spam- oder Stimmungserkennung | Ein kleiner aufgabenspezifischer Klassifikator | Selten |
| Felder aus Dokumenten extrahieren | Ein kleines oder feinabgestimmtes Modell oder Regeln | Unordentliche, wechselnde Layouts |
| Suche und Fragebeantwortung in Ihren eigenen Inhalten | Retrieval plus ein kleines oder mittelgroßes Modell | Komplexes Schlussfolgern über mehrere Dokumente |
| Übersetzung, Zusammenfassung | Ein mittelgroßes oder spezialisiertes Modell | Texte mit hohem Risiko oder vielen Nuancen |
| Offenes Schlussfolgern, Planen, schwieriger Code | Ein großes Allzweckmodell | Hier lohnen sich die Kosten |
Spezialisierte kleine Modelle lassen sich auf mehreren Wegen gewinnen, die unter effizientes Training und effiziente Inferenz beschrieben sind:
- Destillation: Ein großes „Lehrer“-Modell trainiert ein kleines „Schüler“-Modell. DistilBERT war 40 % kleiner als BERT und 60 % schneller und behielt dabei 97 % seiner Fähigkeit zum Sprachverständnis.
- Fine-Tuning eines kleinen Modells mit Daten Ihrer eigenen Aufgabe.
- Quantisierte Versionen eines bestehenden Modells, die weniger Speicher und Energie benötigen.
Wo es öffentliche Benchmarks gibt, vergleichen Sie Kandidaten nach Energieverbrauch und Qualität. Der AI Energy Score von Hugging Face bewertet Modelle nach der GPU-Energie pro 1.000 Anfragen für zehn gängige Aufgaben, mit einem bis fünf Sternen im Vergleich zu anderen Modellen für dieselbe Aufgabe.
Wie funktioniert Modell-Routing?
Ein Router schickt jede Anfrage an das günstigste Modell, das sie voraussichtlich gut beantwortet, und eskaliert nur bei Bedarf.
Gängige Bauweisen:
- Klassifikator zuerst: Ein kleines Modell oder ein Regelwerk schätzt ein, wie schwierig eine Anfrage ist, und wählt ein Modell aus.
- Kaskade: Erst das kleine Modell versuchen; ist seine Konfidenz gering oder schlägt eine Prüfung fehl, an ein größeres weitergeben.
- Gelernter Router: trainiert an Beispielen, welches Modell bei welcher Anfrage gut abgeschnitten hat. Die RouteLLM-Studie berichtete in einigen Fällen von Kostensenkungen um mehr als die Hälfte, ohne dass die Qualität der Antworten sank.
Legen Sie den Schwellenwert sorgfältig fest
Die Sandpit-Veranstaltung wies auf einen wichtigen Vorbehalt hin: In agentischen Systemen kann ein zu kleines Modell scheitern, sodass die Aufgabe noch einmal auf dem großen Modell laufen muss. Ein gescheiterter günstiger Versuch plus eine teure Wiederholung kann mehr kosten, als gleich das große Modell zu nutzen. Deshalb:
- messen Sie die Gesamtkosten pro erfolgreich erledigter Aufgabe, nicht pro Aufruf;
- stimmen Sie den Eskalationsschwellenwert mit Ihren eigenen Daten ab;
- protokollieren Sie, wie oft Anfragen eskaliert werden, und prüfen Sie das erneut, wenn sich Modelle ändern;
- legen Sie die Routing-Entscheidung ins System, nicht in die Hände der Endnutzer.
Was sind hybride Pipelines?
Hybride Pipelines nutzen für die meisten Schritte klassische, physikbasierte oder regelbasierte Methoden und ein kleines Modell nur dort, wo es einen Mehrwert bringt. Sie sind oft günstiger, genauer und vertrauenswürdiger als ein durchgehend neuronaler Ansatz.
Beispiele:
- Ein physikalisches oder numerisches Modell übernimmt die Simulation; eine kleine gelernte Komponente ersetzt nur ihren aufwendigsten Teil (ein „Surrogatmodell“).
- Deterministischer Code übernimmt Parsing, Validierung und Formatierung; ein Modell übernimmt nur die Beurteilung von freiem Text.
- Ein generatives Modell plant oder wählt aus, aber das Ergebnis wird aus einer Bibliothek vorab geprüfter Komponenten zusammengesetzt, statt jedes Mal neu generiert zu werden. Siehe Orchestrierung statt Generierung.
Bei der Sandpit-Veranstaltung ging es auch darum, mathematische oder physikalische Struktur (Symmetrien, Erhaltungssätze, Konvexität) in Modelle einzubauen, damit sie weniger Parameter und weniger Training benötigen. Siehe Mathematik für effiziente KI.
Checkliste
- [ ] Einfachste Methode ohne KI zuerst aufgeschrieben und getestet
- [ ] Qualitätsanforderungen an Ihren eigenen realen Fällen festgelegt
- [ ] Mindestens ein kleines oder aufgabenspezifisches Modell dagegen getestet
- [ ] Energie pro Anfrage für jeden Kandidaten verglichen, auf dieselbe Weise gemessen
- [ ] Großes Modell nur dort eingesetzt, wo das kleine die Anforderungen nicht erfüllt
- [ ] Routing-Kosten pro erfolgreich erledigter Aufgabe gemessen, einschließlich Wiederholungen
- [ ] Entscheidung dokumentiert, mit einem Termin für die Überprüfung
Wie es weitergeht
- Listen Sie Ihre KI-Funktionen auf und markieren Sie, welche mit einem kleineren Modell, einer klassischen Methode oder ganz ohne KI auskommen könnten.
- Stellen Sie einen kleinen Evaluierungssatz aus realen Fällen mit einer Bestehensgrenze zusammen.
- Testen Sie zwei oder drei Modellgrößen daran und messen Sie den Energieverbrauch jeder Variante.
- Erproben Sie Routing an einer viel genutzten Funktion und verfolgen Sie die Kosten pro erfolgreich erledigter Aufgabe.
- Schreiben Sie „das kleinste Modell nutzen, das die Anforderungen erfüllt“ in Ihre Richtlinie für grüne KI.
- Fragen Sie Anbieter, welche Modellgrößen sie anbieten und wie hoch ihr Energieverbrauch pro Anfrage ist; siehe nachhaltige KI-Beschaffung.
Häufige Fragen
Sind kleine Sprachmodelle gut genug?
Für viele klar abgegrenzte Aufgaben wie Klassifizierung, Extraktion und Routing: ja. Testen Sie sie an Ihren eigenen Fällen gegen klare Qualitätsanforderungen, bevor Sie sich entscheiden.
Was ist Modell-Routing?
Ein Router prüft jede Anfrage und schickt sie an das günstigste Modell, das sie voraussichtlich gut bearbeitet, und eskaliert nur bei Bedarf an ein größeres Modell. Veröffentlichte Router haben in einigen Tests die Kosten um mehr als die Hälfte gesenkt, ohne die Qualität zu verringern.
Wann sollte ich keine KI nutzen?
Wenn eine Regel, ein Nachschlagen, eine Suche oder ein etabliertes numerisches Verfahren die Aufgabe bereits zuverlässig erledigt. Diese sind meist günstiger, schneller, berechenbarer und leichter zu überprüfen.
Ist ein größeres Modell immer genauer?
Nein. Bei eng umrissenen Aufgaben kann ein feinabgestimmtes (Fine-Tuning) oder destilliertes kleines Modell ein Allzweckmodell erreichen oder übertreffen, und seine Fehler sind oft leichter nachzuvollziehen.
Quellen
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT 2024 (arXiv 2311.16863) (2024)
- AI large language models: new report shows small changes can reduce energy use by 90%, UNESCO (2025)
- RouteLLM: Learning to Route LLMs with Preference Data, Ong et al. (arXiv 2406.18665) (2024)
- DistilBERT, a distilled version of BERT, Sanh et al. (arXiv 1910.01108) (2019)
- Comparative Analysis of Carbon Footprint in Manual vs. LLM-Assisted Code Development, arXiv 2505.04521 (2025)
- Green Software Patterns: right-sized, energy-efficient AI models, Green Software Foundation (2025)
- AI Energy Score, Hugging Face (2025)
- Web Sustainability Guidelines, W3C (2025)
Verwandte Themen
So messen Sie den Energieverbrauch und CO2-Fußabdruck von KI
Ein Praxisleitfaden zum Messen oder Schätzen von Energie und CO2 bei KI-Arbeit: Werkzeuge, Systemgrenzen, Kennzahlen pro Aufgabe und ehrliche Unsicherheit.
Effizientes KI-Training und effiziente Inferenz
Techniken, mit denen Entwickler und Forschende KI-Energie sparen: Pruning, Sparsity, Quantisierung, Destillation, KV-Cache, Batching, Mixed Precision, Scheduling.
Orchestrierung statt Generierung
Warum die Wiederverwendung geprüfter Komponenten und das Routing zum kleinsten geeigneten Modell den Energieverbrauch von KI senken können und was die Belege bisher zeigen.
Effizienz ist nicht Suffizienz: der Rebound-Effekt bei KI
Warum effizientere KI nicht garantiert, dass insgesamt weniger Energie verbraucht wird, was der Rebound- oder Jevons-Effekt ist und was Einsparungen sichert.