# Orchestrierung statt Generierung

> Warum die Wiederverwendung geprüfter Komponenten und das Routing zum kleinsten geeigneten Modell den Energieverbrauch von KI senken können und was die Belege bisher zeigen.

Source: https://greenai.guide/de/artikel/orchestrierung-statt-generierung/  
Updated: 2026-11-19

## Kurz gesagt

Jede Antwort, jede Codezeile oder jedes Bild mit einem großen Modell von Grund auf neu zu generieren, ist die teuerste Art, KI zu nutzen. Orchestrierung setzt KI zum Planen und Auswählen ein, stellt das Ergebnis dann aus getesteten Komponenten zusammen und leitet jeden Schritt an das günstigste Modell weiter, das ihn erledigen kann. Das günstigste Token ist das, das Sie nie generieren.

## Das Wichtigste

- Die Generierung ist der teure Schritt in der generativen KI; vorhandene, getestete Komponenten auszuwählen und wiederzuverwenden, ist weit günstiger.
- Routing schickt jede Anfrage an das kleinste Modell, das sie bewältigen kann, und veröffentlichte Router senken die Kosten erheblich bei geringem Qualitätsverlust.
- Retrieval (Abruf) liefert nur den relevanten Ausschnitt eines Dokuments oder einer Codebasis, sodass das Modell weniger Token liest.
- Die Wiederverwendung geprüfter Komponenten hilft auch bei Sicherheit und Wartung: Eine Korrektur erreicht jede Stelle, an der die Komponente verwendet wird.
- Routing hat einen Haken: Ein zu kleines Modell kann scheitern und einen teuren neuen Versuch mit einem großen Modell erzwingen.

Die meisten Debatten über den Fußabdruck von KI fragen, wie sich die Generierung günstiger machen lässt: kleinere
Modelle, schnellere Chips, sauberer Strom. Eine andere Frage lautet, wie viel Generierung überhaupt nötig ist.
Orchestrierung beantwortet sie, indem sie die Generierung als letztes Mittel behandelt und nicht als Standard.

## Was bedeutet „Orchestrierung statt Generierung“? {#what-does-orchestration-over-generation-mean}

**Es bedeutet, KI zu nutzen, um eine Aufgabe zu planen und die Bausteine auszuwählen, und das Ergebnis dann
überwiegend aus Dingen zu bauen, die bereits existieren und geprüft wurden.** Ein großes Modell soll nur dann etwas
Neues generieren, wenn nichts Passendes vorhanden ist.

Vieles von dem, was Menschen von generativer KI verlangen, ist nicht neu. Software steckt voller gleicher Muster:
Anmeldebildschirme, Datei-Uploads, Datumsverarbeitung, Datenvalidierung. Verträge verwenden Standardklauseln wieder.
Berichte verwenden Standardabschnitte wieder. Jedes davon jedes Mal neu zu generieren, wiederholt die Energiekosten und
erzeugt leicht unterschiedliche Versionen, die alle einzeln geprüft werden müssen.

Ein orchestriertes System arbeitet eher wie ein gut geführtes Ingenieursteam:

1. Ein Planer ermittelt, was die Aufgabe erfordert.
2. Ein günstiger Klassifikator oder eine Suche findet eine vorhandene, getestete Komponente, die passt.
3. Nur die wirklich neuen Teile werden generiert, und zwar vom kleinsten Modell, das sie erledigen kann.
4. Neu generierte Teile werden getestet und der Bibliothek hinzugefügt, damit die nächste Anfrage sie wiederverwenden kann.

Die Bibliothek verhält sich wie ein Cache. Eine britische Green-AI-Sandpit-Veranstaltung im Jahr 2026 mit
Mathematikerinnen und Mathematikern, Informatikerinnen und Informatikern sowie Vertretern der Industrie diskutierte
dieses Muster unter der Überschrift „Das günstigste Token ist das, das Sie nie generieren“.

## Warum sollte Wiederverwendung Energie sparen? {#why-would-reuse-save-energy}

**Weil das Abrufen und Anpassen einer Komponente nur einen winzigen Bruchteil ihrer Generierung kostet und getestete
Komponenten weniger Nacharbeit erfordern.** Bei der Generierung werden die Token und damit der größte Teil der
Inferenzenergie verbraucht.

Die Energiekosten von KI-geschriebenen Ergebnissen sind nicht trivial. Eine Studie des King's College London (Cheung
und Kollegen, 2025), ein Partnerpapier im GreenCode-Projekt, verglich das Lösen von Programmieraufgaben von Hand mit dem
Lösen mithilfe eines KI-Assistenten. Im Durchschnitt über die Aufgaben, bei denen es sich um Aufgaben aus
Programmierwettbewerben handelte, hatte die KI-gestützte Codegenerierung den 32,72-fachen CO2-Fußabdruck des manuellen
Vorgehens, und der Abstand wuchs, je komplexer die Aufgaben wurden. Wiederverwendung setzt genau bei diesen Kosten an.

Es gibt Vorteile über die Energie hinaus:

- **Qualität.** Eine geprüfte Komponente wurde einmal getestet und kann viele Male als verlässlich gelten.
- **Sicherheit.** Stellt sich eine Komponente als fehlerhaft heraus, wissen Sie, an welchen Stellen sie verwendet wird,
  und eine Korrektur erreicht alle davon.
- **Wartung.** Eine Codebasis aus gemeinsam genutzten Teilen ist kleiner und leichter zu verstehen als eine voller
  Beinahe-Duplikate.

## Was ist Modell-Routing? {#what-is-model-routing}

**Routing schickt jede Anfrage an das Modell, das am besten zu ihr passt, meist das kleinste, das sie wahrscheinlich
gut beantwortet.** Einfache Anfragen gehen an kleine, günstige Modelle; schwierige werden eskaliert.

Veröffentlichte Forschung zeigt das Potenzial:

- **FrugalGPT** (Chen, Zaharia und Zou, 2023) verkettete Modelle von günstig bis teuer und hielt an, sobald eine Antwort
  als gut genug beurteilt wurde. Berichtet wurde, dass die Leistung von GPT-4 bei bis zu 98 % geringeren Kosten
  erreicht wurde.
- **RouteLLM** (Ong und Kollegen, 2024) trainierte Router mit Daten zu menschlichen Präferenzen, um zu entscheiden,
  wann eine Anfrage ein starkes Modell braucht, und berichtete, die Kosten in einigen Fällen ohne Qualitätsverlust um
  mehr als die Hälfte gesenkt zu haben.
- **Hybrid LLM** (Ding und Kollegen, 2024) leitete Anfragen je nach vorhergesagter Schwierigkeit zwischen einem kleinen
  und einem großen Modell weiter und kam mit bis zu 40 % weniger Aufrufen des großen Modells aus, ohne dass die
  Antwortqualität sank.

Diese Studien messen Kosten statt direkt Energie, aber beim selben Anbieter und derselben Hardware bedeuten weniger
Token auf großen Modellen in der Regel weniger Energie. Siehe [das richtige Modell wählen](/de/gute-praxis/das-richtige-modell-fuer-die-aufgabe-waehlen/).

## Was ist Retrieval, und warum hilft es? {#what-is-retrieval-and-why-does-it-help}

**Retrieval (Abruf) sucht die relevanten Informationen heraus und gibt dem Modell nur diese, statt es alles lesen oder
aus dem Gedächtnis abrufen zu lassen.** Retrieval-Augmented Generation (RAG), 2020 von Lewis und Kollegen eingeführt,
kombiniert einen Suchschritt mit einem Generator.

Für die Energie kommt es auf die Zahl der Token an. Ganze Dokumente oder Codebasen durch das Kontextfenster eines Modells
zu schicken, kostet bei jeder Anfrage Energie. GreenCode, ein europäisches (ITEA-)Forschungsprojekt zu
energieeffizienter Software, nutzt den Abruf aus einem Index der Codebasis, sodass „die Zahl der Token die Aufgabe
widerspiegelt und nicht das Repository“, ergänzt durch kleine, per Fine-Tuning angepasste Modelle und Routing zur
kleinsten geeigneten Komponente.

## Was zeigt die Arbeit von GreenCode? {#what-does-the-greencode-work-show}

**Dass die Kosten der KI-Nutzung erfasst werden müssen und dass es ebenso wichtig ist, wie ein Agent arbeitet, wie
welches Modell er verwendet.** Zwei Partnerpapiere veranschaulichen das:

- **EnergyBench** (Ionescu, Jensen und Thomsen, 2025) bewertet KI-generierten Code sowohl nach Korrektheit als auch nach
  der Energie, die er bei der Ausführung verbraucht. Die Studie ergab, dass die Formulierung des Prompts die
  Energieeffizienz des generierten Codes in einigen Fällen um bis zu 91,9 % verbessern konnte, oft aber auf Kosten der
  Genauigkeit. Prompts, die grünen Code verlangen, sind für sich allein keine verlässliche Lösung.
- **Die GreenCode Constitution** (Kapenekakis und Kollegen, 2026) gab einem Coding-Agenten schriftliche Grundsätze vor,
  zuerst Korrektheit, dann 37 Energie-Antimuster, und ließ ihn den Energieverbrauch vor und nach jeder Änderung messen.
  Bei llama.cpp, einer bereits stark optimierten Inferenz-Engine, senkte er den GPU-Energieverbrauch um 4,7 %. Die
  Energieeinsparung war größer als der Geschwindigkeitsgewinn, eine Erinnerung daran, dass schneller nicht immer grüner
  ist und Energie daher direkt gemessen werden muss.

Die eigene Pipeline von GreenCode wendet das Prinzip der Orchestrierung an: Sie bevorzugt kleine, aufgabenspezifische
Modelle, Retrieval und Routing und führt eine Vorabbewertung durch, damit eine Aufgabe, deren Inferenzkosten sich nicht
auszahlen würden, gar nicht erst ausgeführt wird.

## Was kann schiefgehen? {#what-can-go-wrong}

**Routing und Wiederverwendung sparen nur dann Energie, wenn sie gut auswählen.** Die wichtigsten Risiken:

- **Unterdimensionierung.** Ein zu kleines Modell kann scheitern, und der erneute Versuch mit einem größeren Modell
  kostet mehr, als gleich dorthin zu gehen. In agentischen Systemen, in denen ein einziger Fehler viele spätere Schritte
  aus der Bahn werfen kann, fällt das stärker ins Gewicht. Den Schwellenwert festzulegen, ist ein echtes
  Gestaltungsproblem.
- **Veraltete Bibliotheken.** Komponenten brauchen Verantwortliche, Tests und Aktualisierungen, sonst verbreitet die
  Wiederverwendung alte Fehler.
- **Versteckte Kosten.** Der Klassifikator, der Index und der Abrufschritt verbrauchen alle Energie. Sie sind meist weit
  günstiger als die Generierung, sollten aber ebenfalls gemessen werden.
- **Rebound.** Günstigere KI lädt zu mehr KI ein. Siehe [Effizienz ist nicht Suffizienz](/de/artikel/effizienz-ist-nicht-suffizienz-der-rebound-effekt-bei-ki/).

## Die nächsten Schritte {#what-to-do-next}

- Suchen Sie vor dem Generieren: Gibt es bereits eine getestete Komponente, eine Vorlage oder eine frühere Antwort?
- Leiten Sie Anfragen nach Schwierigkeit weiter; verwenden Sie standardmäßig ein kleines Modell und eskalieren Sie bei Bedarf. Siehe [KI effizient nutzen](/de/gute-praxis/ki-effizient-nutzen-gewohnheiten-fuer-den-alltag/).
- Nutzen Sie Retrieval, um Prompts kurz zu halten, statt ganze Dokumente einzufügen.
- Führen Sie eine Bibliothek geprüfter Ergebnisse mit Tests und einer verantwortlichen Person und erweitern Sie sie laufend.
- Messen Sie Energie oder Token pro abgeschlossener Aufgabe einschließlich erneuter Versuche, nicht pro Anfrage.
- Lesen Sie [agentische KI und Token-Verschwendung](/de/artikel/agentische-ki-und-token-verschwendung/), wenn Sie mehrstufige Agenten einsetzen.

## Häufige Fragen

### Was ist Orchestrierung in der KI?

Die Koordination mehrerer Modelle, Werkzeuge und gespeicherter Komponenten, um eine Aufgabe zu erledigen, statt ein großes Modell die gesamte Antwort generieren zu lassen. Ein Planer entscheidet, was gebraucht wird; günstigere Teile erledigen den Großteil der Arbeit.

### Was ist Modell-Routing?

Jede Anfrage an das Modell zu schicken, das am besten zu ihr passt, meist das kleinste und günstigste, das sie wahrscheinlich gut beantwortet, und nur bei Bedarf an ein größeres Modell zu eskalieren.

### Verringert Routing die Qualität?

Veröffentlichte Routing-Systeme berichten von großen Kosteneinsparungen, während der Großteil der Qualität des stärksten Modells erhalten bleibt. Das Ergebnis hängt aber von der Aufgabe ab und davon, wie gut der Router die Schwierigkeit einschätzt.

## Quellen

- [FrugalGPT: how to use large language models while reducing cost and improving performance](https://arxiv.org/abs/2305.05176), Chen, Zaharia and Zou, Transactions on Machine Learning Research (2023)
- [RouteLLM: learning to route LLMs with preference data](https://arxiv.org/abs/2406.18665), Ong et al., ICLR 2025 (2024)
- [Hybrid LLM: cost-efficient and quality-aware query routing](https://arxiv.org/abs/2404.14618), Ding et al., ICLR (2024)
- [Retrieval-augmented generation for knowledge-intensive NLP tasks](https://arxiv.org/abs/2005.11401), Lewis et al., NeurIPS (2020)
- [Green optimised generative AI](https://greencode.ai/feature/green-optimised-generative-ai/), GreenCode (2026)
- [Green AI and energy-aware computing](https://greencode.ai/benefit/green-ai-and-energy-aware-computing/), GreenCode (2026)
- [Comparative analysis of carbon footprint in manual vs. LLM-assisted code development](https://doi.org/10.1145/3711919.3728678), Cheung, Kaul, Jahangirova, Mousavi and Zie, ResponsibleSE 2025 (ACM) (2025)
- [EnergyBench: holistic benchmark for correct and energy-efficient LLM-generated code](https://doi.org/10.1109/flta67013.2025.11336593), Ionescu, Jensen and Thomsen, FLTA 2025 (2025)
- [GreenCode Constitution: agent principles for optimizing code and LLM inference energy use](https://greencode.ai/publications/greencode-constitution-agent-principles-for-optimizing-code-and-llm-inference-en/), Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)
