# Das richtige Modell für die Aufgabe wählen

> KI richtig dimensionieren: wann kleine oder spezialisierte Modelle reichen, wann sich ein Frontier-Modell lohnt, wie Routing funktioniert und wann man auf KI verzichtet.

Source: https://greenai.guide/de/gute-praxis/das-richtige-modell-fuer-die-aufgabe-waehlen/  
Updated: 2026-11-19

## Kurz gesagt

Nutzen Sie das kleinste Modell oder die einfachste Methode ohne KI, die Ihre Qualitätsanforderungen erfüllt, und heben Sie große Allzweckmodelle für die Fälle auf, die sie wirklich brauchen. Aufgabenspezifische Modelle können nur einen kleinen Bruchteil der Energie generativer Allzweckmodelle verbrauchen, und mit Routing erhalten Sie den größten Teil der Vorteile beider Ansätze.

## Das Wichtigste

- Fragen Sie zuerst, ob die Aufgabe überhaupt KI braucht; Regeln, Suche oder ein klassischer Algorithmus erledigen sie oft.
- Aufgabenspezifische Modelle waren im Betrieb um Größenordnungen günstiger als generative Mehrzweckmodelle für dieselben Aufgaben.
- UNESCO und UCL berichten, dass kleine aufgabenspezifische Modelle den Energieverbrauch um bis zu 90 % senken können.
- Routing schickt einfache Anfragen an kleine und schwierige an große Modelle; legen Sie Schwellenwerte sorgfältig fest, denn ein gescheiterter kleiner Versuch plus Wiederholung kann mehr kosten.
- Hybride Pipelines nutzen für die meisten Schritte klassische oder physikbasierte Methoden und ein kleines neuronales Netz nur dort, wo es einen Mehrwert bringt.

## Warum ist die Modellwahl so wichtig? {#why-does-model-choice-matter-so-much}

**Die Modellwahl ist meist der größte einzelne Hebel für den Energieverbrauch einer KI-Funktion.** Dieselbe Aufgabe
lässt sich mit Modellen erledigen, deren Betriebskosten sich um Größenordnungen unterscheiden.

In einem systematischen Vergleich, veröffentlicht auf der ACM FAccT 2024, haben Luccioni, Jernite und Strubell den
Energieverbrauch von 1.000 Inferenzen über viele Aufgaben und Modelle hinweg gemessen. Generative Mehrzweckmodelle
waren dabei um Größenordnungen teurer als aufgabenspezifische Systeme für dieselben Aufgaben, selbst wenn die
Modellgröße berücksichtigt wurde. Ein Bericht von UNESCO und UCL aus dem Jahr 2025 kam zu dem Ergebnis, dass kleine,
auf bestimmte Aufgaben zugeschnittene Modelle den Energieverbrauch um bis zu 90 % senken können.

Das Muster ist einfach: Ein Allzweckmodell bezahlt bei jeder Anfrage für Wissen und Fähigkeiten, die Ihre Aufgabe
nie nutzt.

## Braucht diese Aufgabe überhaupt KI? {#does-this-task-need-ai-at-all}

**Prüfen Sie zuerst, ob eine Methode ohne KI die Aufgabe bereits erledigt.** Die günstigste Inferenz ist die, die
Sie nie ausführen.

Eine britische Sandpit-Veranstaltung zu grüner KI im Jahr 2026 mit Mathematikerinnen und Mathematikern, Informatikern
und Fachleuten aus der Industrie kam immer wieder auf diesen Punkt zurück: Oft greift man zu KI, obwohl es bereits
einen gut verstandenen Algorithmus gibt, und die grünste Berechnung ist oft die, die man vermeidet. Auch die Web
Sustainability Guidelines des W3C verlangen von Teams, den Bedarf an KI zu prüfen, bevor sie sie einsetzen.

Fragen Sie:

- Könnte eine **Regel, eine Nachschlagetabelle oder ein regulärer Ausdruck** das erledigen?
- Könnte eine **Suche** in Ihren eigenen Inhalten die Frage beantworten?
- Gibt es ein **etabliertes numerisches oder statistisches Verfahren** (einen Optimierer, eine Regression, einen
  Solver)?
- Muss das Ergebnis **exakt reproduzierbar oder prüfbar** sein? Deterministische Methoden sind leichter zu überprüfen.
- Wie oft wird das ausgeführt? Eine Funktion, die millionenfach genutzt wird, verdient mehr Aufwand beim Entwurf als
  ein einmaliger Einsatz.

KI ist nicht kostenlos, selbst wenn sie Zeit spart. Eine Studie aus dem Jahr 2025, die manuelles und KI-gestütztes
Programmieren an 12 Programmieraufgaben verglich, ergab, dass der KI-gestützte Ansatz im Durchschnitt etwa den
33-fachen CO2-Fußabdruck des manuellen Ansatzes hatte, wobei der Abstand mit schwierigeren Aufgaben wuchs. Das heißt
nicht, dass Sie nie Assistenten nutzen sollten; es heißt, sie dort zu nutzen, wo sie sich klar auszahlen.

## Klein, spezialisiert oder Frontier? {#small-specialised-or-frontier}

**Passen Sie das Modell an die Aufgabe an, nicht an das leistungsfähigste verfügbare Werkzeug.**

| Aufgabentyp | Reicht meist aus | Wann größer wählen |
|---|---|---|
| Klassifizieren, Verschlagworten, Routing, Spam- oder Stimmungserkennung | Ein kleiner aufgabenspezifischer Klassifikator | Selten |
| Felder aus Dokumenten extrahieren | Ein kleines oder feinabgestimmtes Modell oder Regeln | Unordentliche, wechselnde Layouts |
| Suche und Fragebeantwortung in Ihren eigenen Inhalten | Retrieval plus ein kleines oder mittelgroßes Modell | Komplexes Schlussfolgern über mehrere Dokumente |
| Übersetzung, Zusammenfassung | Ein mittelgroßes oder spezialisiertes Modell | Texte mit hohem Risiko oder vielen Nuancen |
| Offenes Schlussfolgern, Planen, schwieriger Code | Ein großes Allzweckmodell | Hier lohnen sich die Kosten |

Spezialisierte kleine Modelle lassen sich auf mehreren Wegen gewinnen, die unter
[effizientes Training und effiziente Inferenz](/de/gute-praxis/effizientes-ki-training-und-effiziente-inferenz/) beschrieben sind:

- **Destillation:** Ein großes „Lehrer“-Modell trainiert ein kleines „Schüler“-Modell. DistilBERT war 40 % kleiner als
  BERT und 60 % schneller und behielt dabei 97 % seiner Fähigkeit zum Sprachverständnis.
- **Fine-Tuning eines kleinen Modells** mit Daten Ihrer eigenen Aufgabe.
- **Quantisierte Versionen** eines bestehenden Modells, die weniger Speicher und Energie benötigen.

Wo es öffentliche Benchmarks gibt, vergleichen Sie Kandidaten nach Energieverbrauch und Qualität. Der AI Energy Score
von Hugging Face bewertet Modelle nach der GPU-Energie pro 1.000 Anfragen für zehn gängige Aufgaben, mit einem bis
fünf Sternen im Vergleich zu anderen Modellen für dieselbe Aufgabe.

## Wie funktioniert Modell-Routing? {#how-does-model-routing-work}

**Ein Router schickt jede Anfrage an das günstigste Modell, das sie voraussichtlich gut beantwortet, und eskaliert
nur bei Bedarf.**

Gängige Bauweisen:

1. **Klassifikator zuerst:** Ein kleines Modell oder ein Regelwerk schätzt ein, wie schwierig eine Anfrage ist, und
   wählt ein Modell aus.
2. **Kaskade:** Erst das kleine Modell versuchen; ist seine Konfidenz gering oder schlägt eine Prüfung fehl, an ein
   größeres weitergeben.
3. **Gelernter Router:** trainiert an Beispielen, welches Modell bei welcher Anfrage gut abgeschnitten hat. Die
   RouteLLM-Studie berichtete in einigen Fällen von Kostensenkungen um mehr als die Hälfte, ohne dass die Qualität der
   Antworten sank.

### Legen Sie den Schwellenwert sorgfältig fest {#set-the-threshold-carefully}

Die Sandpit-Veranstaltung wies auf einen wichtigen Vorbehalt hin: In agentischen Systemen kann ein zu kleines Modell
scheitern, sodass die Aufgabe noch einmal auf dem großen Modell laufen muss. Ein gescheiterter günstiger Versuch plus
eine teure Wiederholung kann mehr kosten, als gleich das große Modell zu nutzen. Deshalb:

- messen Sie die Gesamtkosten pro **erfolgreich erledigter** Aufgabe, nicht pro Aufruf;
- stimmen Sie den Eskalationsschwellenwert mit Ihren eigenen Daten ab;
- protokollieren Sie, wie oft Anfragen eskaliert werden, und prüfen Sie das erneut, wenn sich Modelle ändern;
- legen Sie die Routing-Entscheidung ins System, nicht in die Hände der Endnutzer.

## Was sind hybride Pipelines? {#what-are-hybrid-pipelines}

**Hybride Pipelines nutzen für die meisten Schritte klassische, physikbasierte oder regelbasierte Methoden und ein
kleines Modell nur dort, wo es einen Mehrwert bringt.** Sie sind oft günstiger, genauer und vertrauenswürdiger als ein
durchgehend neuronaler Ansatz.

Beispiele:

- Ein physikalisches oder numerisches Modell übernimmt die Simulation; eine kleine gelernte Komponente ersetzt nur
  ihren aufwendigsten Teil (ein „Surrogatmodell“).
- Deterministischer Code übernimmt Parsing, Validierung und Formatierung; ein Modell übernimmt nur die Beurteilung von
  freiem Text.
- Ein generatives Modell plant oder wählt aus, aber das Ergebnis wird aus einer Bibliothek vorab geprüfter Komponenten
  zusammengesetzt, statt jedes Mal neu generiert zu werden. Siehe
  [Orchestrierung statt Generierung](/de/artikel/orchestrierung-statt-generierung/).

Bei der Sandpit-Veranstaltung ging es auch darum, mathematische oder physikalische Struktur (Symmetrien,
Erhaltungssätze, Konvexität) in Modelle einzubauen, damit sie weniger Parameter und weniger Training benötigen. Siehe
[Mathematik für effiziente KI](/de/artikel/die-mathematik-die-ki-effizienter-macht/).

## Checkliste {#checklist}

- [ ] Einfachste Methode ohne KI zuerst aufgeschrieben und getestet
- [ ] Qualitätsanforderungen an Ihren eigenen realen Fällen festgelegt
- [ ] Mindestens ein kleines oder aufgabenspezifisches Modell dagegen getestet
- [ ] Energie pro Anfrage für jeden Kandidaten verglichen, auf dieselbe Weise gemessen
- [ ] Großes Modell nur dort eingesetzt, wo das kleine die Anforderungen nicht erfüllt
- [ ] Routing-Kosten pro erfolgreich erledigter Aufgabe gemessen, einschließlich Wiederholungen
- [ ] Entscheidung dokumentiert, mit einem Termin für die Überprüfung

## Wie es weitergeht {#what-to-do-next}

1. Listen Sie Ihre KI-Funktionen auf und markieren Sie, welche mit einem kleineren Modell, einer klassischen Methode
   oder ganz ohne KI auskommen könnten.
2. Stellen Sie einen kleinen Evaluierungssatz aus realen Fällen mit einer Bestehensgrenze zusammen.
3. Testen Sie zwei oder drei Modellgrößen daran und [messen Sie den Energieverbrauch](/de/gute-praxis/so-messen-sie-den-energieverbrauch-und-co2-fussabdruck-von-ki/)
   jeder Variante.
4. Erproben Sie Routing an einer viel genutzten Funktion und verfolgen Sie die Kosten pro erfolgreich erledigter
   Aufgabe.
5. Schreiben Sie „das kleinste Modell nutzen, das die Anforderungen erfüllt“ in Ihre
   [Richtlinie für grüne KI](/de/gute-praxis/so-schreiben-sie-eine-richtlinie-fuer-gruene-ki/).
6. Fragen Sie Anbieter, welche Modellgrößen sie anbieten und wie hoch ihr Energieverbrauch pro Anfrage ist; siehe
   [nachhaltige KI-Beschaffung](/de/gute-praxis/nachhaltige-ki-beschaffung/).

## Häufige Fragen

### Sind kleine Sprachmodelle gut genug?

Für viele klar abgegrenzte Aufgaben wie Klassifizierung, Extraktion und Routing: ja. Testen Sie sie an Ihren eigenen Fällen gegen klare Qualitätsanforderungen, bevor Sie sich entscheiden.

### Was ist Modell-Routing?

Ein Router prüft jede Anfrage und schickt sie an das günstigste Modell, das sie voraussichtlich gut bearbeitet, und eskaliert nur bei Bedarf an ein größeres Modell. Veröffentlichte Router haben in einigen Tests die Kosten um mehr als die Hälfte gesenkt, ohne die Qualität zu verringern.

### Wann sollte ich keine KI nutzen?

Wenn eine Regel, ein Nachschlagen, eine Suche oder ein etabliertes numerisches Verfahren die Aufgabe bereits zuverlässig erledigt. Diese sind meist günstiger, schneller, berechenbarer und leichter zu überprüfen.

### Ist ein größeres Modell immer genauer?

Nein. Bei eng umrissenen Aufgaben kann ein feinabgestimmtes (Fine-Tuning) oder destilliertes kleines Modell ein Allzweckmodell erreichen oder übertreffen, und seine Fehler sind oft leichter nachzuvollziehen.

## Quellen

- [Power Hungry Processing: Watts Driving the Cost of AI Deployment?](https://arxiv.org/abs/2311.16863), Luccioni, Jernite and Strubell, ACM FAccT 2024 (arXiv 2311.16863) (2024)
- [AI large language models: new report shows small changes can reduce energy use by 90%](https://www.unesco.org/en/articles/ai-large-language-models-new-report-shows-small-changes-can-reduce-energy-use-90), UNESCO (2025)
- [RouteLLM: Learning to Route LLMs with Preference Data](https://arxiv.org/abs/2406.18665), Ong et al. (arXiv 2406.18665) (2024)
- [DistilBERT, a distilled version of BERT](https://arxiv.org/abs/1910.01108), Sanh et al. (arXiv 1910.01108) (2019)
- [Comparative Analysis of Carbon Footprint in Manual vs. LLM-Assisted Code Development](https://arxiv.org/abs/2505.04521), arXiv 2505.04521 (2025)
- [Green Software Patterns: right-sized, energy-efficient AI models](https://github.com/Green-Software-Foundation/patterns/blob/main/docs/development/right-sized-energy-efficient-ai-models.md), Green Software Foundation (2025)
- [AI Energy Score](https://huggingface.github.io/AIEnergyScore/), Hugging Face (2025)
- [Web Sustainability Guidelines](https://www.w3.org/TR/web-sustainability-guidelines/), W3C (2025)
