greenai.guide

Startseite › Artikel › Orchestrierung statt Generierung

Artikel

Orchestrierung statt Generierung

Aktualisiert · 5 Min. Lesezeit

Kurz gesagt

Jede Antwort, jede Codezeile oder jedes Bild mit einem großen Modell von Grund auf neu zu generieren, ist die teuerste Art, KI zu nutzen. Orchestrierung setzt KI zum Planen und Auswählen ein, stellt das Ergebnis dann aus getesteten Komponenten zusammen und leitet jeden Schritt an das günstigste Modell weiter, das ihn erledigen kann. Das günstigste Token ist das, das Sie nie generieren.

Das Wichtigste

  • Die Generierung ist der teure Schritt in der generativen KI; vorhandene, getestete Komponenten auszuwählen und wiederzuverwenden, ist weit günstiger.
  • Routing schickt jede Anfrage an das kleinste Modell, das sie bewältigen kann, und veröffentlichte Router senken die Kosten erheblich bei geringem Qualitätsverlust.
  • Retrieval (Abruf) liefert nur den relevanten Ausschnitt eines Dokuments oder einer Codebasis, sodass das Modell weniger Token liest.
  • Die Wiederverwendung geprüfter Komponenten hilft auch bei Sicherheit und Wartung: Eine Korrektur erreicht jede Stelle, an der die Komponente verwendet wird.
  • Routing hat einen Haken: Ein zu kleines Modell kann scheitern und einen teuren neuen Versuch mit einem großen Modell erzwingen.

Die meisten Debatten über den Fußabdruck von KI fragen, wie sich die Generierung günstiger machen lässt: kleinere Modelle, schnellere Chips, sauberer Strom. Eine andere Frage lautet, wie viel Generierung überhaupt nötig ist. Orchestrierung beantwortet sie, indem sie die Generierung als letztes Mittel behandelt und nicht als Standard.

Was bedeutet „Orchestrierung statt Generierung“?

Es bedeutet, KI zu nutzen, um eine Aufgabe zu planen und die Bausteine auszuwählen, und das Ergebnis dann überwiegend aus Dingen zu bauen, die bereits existieren und geprüft wurden. Ein großes Modell soll nur dann etwas Neues generieren, wenn nichts Passendes vorhanden ist.

Vieles von dem, was Menschen von generativer KI verlangen, ist nicht neu. Software steckt voller gleicher Muster: Anmeldebildschirme, Datei-Uploads, Datumsverarbeitung, Datenvalidierung. Verträge verwenden Standardklauseln wieder. Berichte verwenden Standardabschnitte wieder. Jedes davon jedes Mal neu zu generieren, wiederholt die Energiekosten und erzeugt leicht unterschiedliche Versionen, die alle einzeln geprüft werden müssen.

Ein orchestriertes System arbeitet eher wie ein gut geführtes Ingenieursteam:

  1. Ein Planer ermittelt, was die Aufgabe erfordert.
  2. Ein günstiger Klassifikator oder eine Suche findet eine vorhandene, getestete Komponente, die passt.
  3. Nur die wirklich neuen Teile werden generiert, und zwar vom kleinsten Modell, das sie erledigen kann.
  4. Neu generierte Teile werden getestet und der Bibliothek hinzugefügt, damit die nächste Anfrage sie wiederverwenden kann.

Die Bibliothek verhält sich wie ein Cache. Eine britische Green-AI-Sandpit-Veranstaltung im Jahr 2026 mit Mathematikerinnen und Mathematikern, Informatikerinnen und Informatikern sowie Vertretern der Industrie diskutierte dieses Muster unter der Überschrift „Das günstigste Token ist das, das Sie nie generieren“.

Warum sollte Wiederverwendung Energie sparen?

Weil das Abrufen und Anpassen einer Komponente nur einen winzigen Bruchteil ihrer Generierung kostet und getestete Komponenten weniger Nacharbeit erfordern. Bei der Generierung werden die Token und damit der größte Teil der Inferenzenergie verbraucht.

Die Energiekosten von KI-geschriebenen Ergebnissen sind nicht trivial. Eine Studie des King's College London (Cheung und Kollegen, 2025), ein Partnerpapier im GreenCode-Projekt, verglich das Lösen von Programmieraufgaben von Hand mit dem Lösen mithilfe eines KI-Assistenten. Im Durchschnitt über die Aufgaben, bei denen es sich um Aufgaben aus Programmierwettbewerben handelte, hatte die KI-gestützte Codegenerierung den 32,72-fachen CO2-Fußabdruck des manuellen Vorgehens, und der Abstand wuchs, je komplexer die Aufgaben wurden. Wiederverwendung setzt genau bei diesen Kosten an.

Es gibt Vorteile über die Energie hinaus:

  • Qualität. Eine geprüfte Komponente wurde einmal getestet und kann viele Male als verlässlich gelten.
  • Sicherheit. Stellt sich eine Komponente als fehlerhaft heraus, wissen Sie, an welchen Stellen sie verwendet wird, und eine Korrektur erreicht alle davon.
  • Wartung. Eine Codebasis aus gemeinsam genutzten Teilen ist kleiner und leichter zu verstehen als eine voller Beinahe-Duplikate.

Was ist Modell-Routing?

Routing schickt jede Anfrage an das Modell, das am besten zu ihr passt, meist das kleinste, das sie wahrscheinlich gut beantwortet. Einfache Anfragen gehen an kleine, günstige Modelle; schwierige werden eskaliert.

Veröffentlichte Forschung zeigt das Potenzial:

  • FrugalGPT (Chen, Zaharia und Zou, 2023) verkettete Modelle von günstig bis teuer und hielt an, sobald eine Antwort als gut genug beurteilt wurde. Berichtet wurde, dass die Leistung von GPT-4 bei bis zu 98 % geringeren Kosten erreicht wurde.
  • RouteLLM (Ong und Kollegen, 2024) trainierte Router mit Daten zu menschlichen Präferenzen, um zu entscheiden, wann eine Anfrage ein starkes Modell braucht, und berichtete, die Kosten in einigen Fällen ohne Qualitätsverlust um mehr als die Hälfte gesenkt zu haben.
  • Hybrid LLM (Ding und Kollegen, 2024) leitete Anfragen je nach vorhergesagter Schwierigkeit zwischen einem kleinen und einem großen Modell weiter und kam mit bis zu 40 % weniger Aufrufen des großen Modells aus, ohne dass die Antwortqualität sank.

Diese Studien messen Kosten statt direkt Energie, aber beim selben Anbieter und derselben Hardware bedeuten weniger Token auf großen Modellen in der Regel weniger Energie. Siehe das richtige Modell wählen.

Was ist Retrieval, und warum hilft es?

Retrieval (Abruf) sucht die relevanten Informationen heraus und gibt dem Modell nur diese, statt es alles lesen oder aus dem Gedächtnis abrufen zu lassen. Retrieval-Augmented Generation (RAG), 2020 von Lewis und Kollegen eingeführt, kombiniert einen Suchschritt mit einem Generator.

Für die Energie kommt es auf die Zahl der Token an. Ganze Dokumente oder Codebasen durch das Kontextfenster eines Modells zu schicken, kostet bei jeder Anfrage Energie. GreenCode, ein europäisches (ITEA-)Forschungsprojekt zu energieeffizienter Software, nutzt den Abruf aus einem Index der Codebasis, sodass „die Zahl der Token die Aufgabe widerspiegelt und nicht das Repository“, ergänzt durch kleine, per Fine-Tuning angepasste Modelle und Routing zur kleinsten geeigneten Komponente.

Was zeigt die Arbeit von GreenCode?

Dass die Kosten der KI-Nutzung erfasst werden müssen und dass es ebenso wichtig ist, wie ein Agent arbeitet, wie welches Modell er verwendet. Zwei Partnerpapiere veranschaulichen das:

  • EnergyBench (Ionescu, Jensen und Thomsen, 2025) bewertet KI-generierten Code sowohl nach Korrektheit als auch nach der Energie, die er bei der Ausführung verbraucht. Die Studie ergab, dass die Formulierung des Prompts die Energieeffizienz des generierten Codes in einigen Fällen um bis zu 91,9 % verbessern konnte, oft aber auf Kosten der Genauigkeit. Prompts, die grünen Code verlangen, sind für sich allein keine verlässliche Lösung.
  • Die GreenCode Constitution (Kapenekakis und Kollegen, 2026) gab einem Coding-Agenten schriftliche Grundsätze vor, zuerst Korrektheit, dann 37 Energie-Antimuster, und ließ ihn den Energieverbrauch vor und nach jeder Änderung messen. Bei llama.cpp, einer bereits stark optimierten Inferenz-Engine, senkte er den GPU-Energieverbrauch um 4,7 %. Die Energieeinsparung war größer als der Geschwindigkeitsgewinn, eine Erinnerung daran, dass schneller nicht immer grüner ist und Energie daher direkt gemessen werden muss.

Die eigene Pipeline von GreenCode wendet das Prinzip der Orchestrierung an: Sie bevorzugt kleine, aufgabenspezifische Modelle, Retrieval und Routing und führt eine Vorabbewertung durch, damit eine Aufgabe, deren Inferenzkosten sich nicht auszahlen würden, gar nicht erst ausgeführt wird.

Was kann schiefgehen?

Routing und Wiederverwendung sparen nur dann Energie, wenn sie gut auswählen. Die wichtigsten Risiken:

  • Unterdimensionierung. Ein zu kleines Modell kann scheitern, und der erneute Versuch mit einem größeren Modell kostet mehr, als gleich dorthin zu gehen. In agentischen Systemen, in denen ein einziger Fehler viele spätere Schritte aus der Bahn werfen kann, fällt das stärker ins Gewicht. Den Schwellenwert festzulegen, ist ein echtes Gestaltungsproblem.
  • Veraltete Bibliotheken. Komponenten brauchen Verantwortliche, Tests und Aktualisierungen, sonst verbreitet die Wiederverwendung alte Fehler.
  • Versteckte Kosten. Der Klassifikator, der Index und der Abrufschritt verbrauchen alle Energie. Sie sind meist weit günstiger als die Generierung, sollten aber ebenfalls gemessen werden.
  • Rebound. Günstigere KI lädt zu mehr KI ein. Siehe Effizienz ist nicht Suffizienz.

Die nächsten Schritte

  • Suchen Sie vor dem Generieren: Gibt es bereits eine getestete Komponente, eine Vorlage oder eine frühere Antwort?
  • Leiten Sie Anfragen nach Schwierigkeit weiter; verwenden Sie standardmäßig ein kleines Modell und eskalieren Sie bei Bedarf. Siehe KI effizient nutzen.
  • Nutzen Sie Retrieval, um Prompts kurz zu halten, statt ganze Dokumente einzufügen.
  • Führen Sie eine Bibliothek geprüfter Ergebnisse mit Tests und einer verantwortlichen Person und erweitern Sie sie laufend.
  • Messen Sie Energie oder Token pro abgeschlossener Aufgabe einschließlich erneuter Versuche, nicht pro Anfrage.
  • Lesen Sie agentische KI und Token-Verschwendung, wenn Sie mehrstufige Agenten einsetzen.

Häufige Fragen

Was ist Orchestrierung in der KI?

Die Koordination mehrerer Modelle, Werkzeuge und gespeicherter Komponenten, um eine Aufgabe zu erledigen, statt ein großes Modell die gesamte Antwort generieren zu lassen. Ein Planer entscheidet, was gebraucht wird; günstigere Teile erledigen den Großteil der Arbeit.

Was ist Modell-Routing?

Jede Anfrage an das Modell zu schicken, das am besten zu ihr passt, meist das kleinste und günstigste, das sie wahrscheinlich gut beantwortet, und nur bei Bedarf an ein größeres Modell zu eskalieren.

Verringert Routing die Qualität?

Veröffentlichte Routing-Systeme berichten von großen Kosteneinsparungen, während der Großteil der Qualität des stärksten Modells erhalten bleibt. Das Ergebnis hängt aber von der Aufgabe ab und davon, wie gut der Router die Schwierigkeit einschätzt.

Quellen

  1. FrugalGPT: how to use large language models while reducing cost and improving performance, Chen, Zaharia and Zou, Transactions on Machine Learning Research (2023)
  2. RouteLLM: learning to route LLMs with preference data, Ong et al., ICLR 2025 (2024)
  3. Hybrid LLM: cost-efficient and quality-aware query routing, Ding et al., ICLR (2024)
  4. Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
  5. Green optimised generative AI, GreenCode (2026)
  6. Green AI and energy-aware computing, GreenCode (2026)
  7. Comparative analysis of carbon footprint in manual vs. LLM-assisted code development, Cheung, Kaul, Jahangirova, Mousavi and Zie, ResponsibleSE 2025 (ACM) (2025)
  8. EnergyBench: holistic benchmark for correct and energy-efficient LLM-generated code, Ionescu, Jensen and Thomsen, FLTA 2025 (2025)
  9. GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)

Machen Sie mit

Helfen Sie, die Umweltwirkung von KI zu senken

Erhalten Sie neue Leitfäden, Förderausschreibungen und Verzeichniseinträge etwa einmal im Monat per E-Mail. Oder tragen Sie Ihr Produkt, Ihren Kurs, Ihre PhD-Stelle oder Ihre Forschung in die Verzeichnisse ein.

Kein Tracking. Abmeldung mit einem Klick. Weitere Möglichkeiten mitzumachen · Datenschutz