Kurz gesagt
Legen Sie anhand echter Beispiele fest, was „gut genug“ bedeutet, testen Sie dann Modelle vom kleinsten zum größten und hören Sie beim ersten auf, das besteht. Kleine, aufgabenspezifische Modelle können nur einen Bruchteil der Energie großer Allzweckmodelle verbrauchen: UNESCO und University College London berichten bei geeigneten Aufgaben von Einsparungen bis zu 90 %.
Schritte
- Halten Sie die Aufgabe und eine Bestehensgrenze fest, etwa den Anteil der Antworten, die richtig sein müssen.
- Sammeln Sie 20 bis 50 echte Beispiele zum Testen.
- Probieren Sie zuerst das kleinste oder ein „Mini“-Modell und gehen Sie nur dann eine Stufe höher, wenn es die Bestehensgrenze verfehlt.
- Prüfen Sie öffentliche Energiebewertungen wie den AI Energy Score, sofern es sie gibt.
- Halten Sie ein größeres Modell für die Fälle bereit, die das kleine nicht bewältigt.
- Testen Sie erneut, wenn sich die Modelle oder Ihre Aufgabe ändern.
Nutzen Sie das kleinste Modell, das Ihren Qualitätsmaßstab erfüllt, nicht das leistungsfähigste verfügbare. Ein großes Allzweckmodell bezahlt bei jeder Anfrage für Fähigkeiten, die Ihre Aufgabe vielleicht nie braucht.
Warum ist die Modellgröße so wichtig?
Sie ist meist der größte einzelne Hebel beim Energieverbrauch. Luccioni, Jernite und Strubell stellten fest, dass generative Mehrzweckmodelle im Betrieb um Größenordnungen teurer sind als aufgabenspezifische Systeme für dieselben Aufgaben. UNESCO und University College London fanden heraus, dass kleine, auf bestimmte Aufgaben zugeschnittene Modelle den Energieverbrauch um bis zu 90 % senken können.
Wie teste ich die Kandidaten?
- Legen Sie den Maßstab an Ihrer eigenen Arbeit fest, zum Beispiel „liest den Rechnungsbetrag in 98 % der Fälle richtig aus“.
- Testen Sie zuerst klein. Viele Anbieter haben „Mini“-, „Lite“- oder „Flash“-Versionen; Modellfamilien mit offenen Gewichten gibt es in mehreren Größen.
- Hören Sie beim ersten Modell auf, das besteht. Größer ist bei eng gefassten Aufgaben nicht automatisch genauer.
- Vergleichen Sie den Energieverbrauch, nicht nur den Preis. Der AI Energy Score von Hugging Face bewertet offene Modelle mit einem bis fünf Sternen nach Energie pro Anfrage für gängige Aufgaben; siehe eine AI-Energy-Score-Bewertung lesen.
Für alltägliche Nutzerinnen und Nutzer gilt dieselbe Idee: Wählen Sie in Ihrem Chatbot bei einfachen Fragen die schnelle oder leichtere Option.
Häufige Fehler
- Nach Ruf auswählen, statt an eigenen Beispielen zu testen.
- Kosten pro Aufruf statt pro Erfolg messen. Ein zu kleines Modell, das scheitert und einen erneuten Durchlauf auf einem großen erzwingt, kann insgesamt mehr kosten.
- Nie neu prüfen. Kleine Modelle werden schnell besser; testen Sie alle paar Monate erneut.
Wie Sie jede Anfrage automatisch an die passende Größe schicken, lesen Sie unter Anfragen an kleinere Modelle weiterleiten. Die vollständige Methode finden Sie unter das richtige Modell wählen.
Quellen
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- AI Energy Score, Hugging Face (2025)
Verwandte Themen
Das richtige Modell für die Aufgabe wählen
KI richtig dimensionieren: wann kleine oder spezialisierte Modelle reichen, wann sich ein Frontier-Modell lohnt, wie Routing funktioniert und wann man auf KI verzichtet.
Wie finde ich ein aufgabenspezifisches Modell statt eines allgemeinen Chatbots?
So finden Sie ein kleines Modell für eine bestimmte Aufgabe wie Klassifizieren, Extrahieren oder Übersetzen und prüfen, ob es mit weniger Energie mithält.
Wie leite ich Anfragen an kleinere Modelle weiter?
Routineanfragen an ein kleines, nur schwierige an ein großes Modell leiten und den Router so abstimmen, dass Wiederholungen die Einsparung nicht aufzehren.
Wie vergleiche ich den Energieverbrauch verschiedener KI-Modelle?
KI-Modelle fair nach Energie vergleichen: Benchmarks wie den AI Energy Score nutzen oder selbst messen, mit gleicher Aufgabe, Hardware und Einstellung.