greenai.guide

Startseite › Gute Praxis › Edge oder Cloud: Wo sollte KI laufen?

Gute Praxis

Edge oder Cloud: Wo sollte KI laufen?

Aktualisiert · 5 Min. Lesezeit

Kurz gesagt

Weder Edge noch Cloud ist von vornherein grüner. Zentrale Rechenzentren betreiben große Modelle meist effizienter, während KI auf dem Gerät und am Edge Netzwerkverkehr vermeiden, Daten lokal halten und offline funktionieren kann. Entscheiden Sie von Fall zu Fall, indem Sie die Energie pro nützlichem Ergebnis über das gesamte System vergleichen, einschließlich Geräten, Netz und Hardware.

Das Wichtigste

  • Führen Sie kleine, häufige oder latenzkritische Aufgaben lokal aus; schicken Sie große oder seltene Aufgaben an effiziente zentrale Hardware.
  • Die IEA schätzt, dass Datenübertragungsnetze 2022 260–360 TWh verbrauchten, etwa 1–1,5 % des weltweiten Stroms, davon rund zwei Drittel Mobilfunknetze.
  • Der Energieverbrauch von Netzen wächst nicht einfach proportional zur Datenmenge, daher werden Einsparungen pro Gigabyte oft überschätzt.
  • Milliarden Geräte summieren sich: Berücksichtigen Sie die Geräte der Nutzer, ihre Akkus und die Hardware, die sie möglicherweise ersetzen müssen.
  • Lokale KI hält Daten auf dem Gerät, was Datenschutz, Souveränität und Resilienz stärkt.

Ist Edge-KI oder Cloud-KI grüner?

Das hängt von der Aufgabe, dem Modell und dem Gerät ab. Vergleichen Sie daher über das gesamte System, statt Annahmen zu treffen. Zentrale Rechenzentren betreiben Beschleuniger mit hoher Auslastung und spezialisierter Kühlung und erledigen die Rechenarbeit eines großen Modells deshalb meist effizienter. Edge-KI, die auf dem Gerät oder einem nahegelegenen Server läuft, muss keine Daten über das Netz schicken und kann sich im Leerlauf vollständig abschalten.

Eine britische Sandpit-Veranstaltung zu grüner KI im Jahr 2026 mit Mathematikerinnen und Mathematikern, Informatikern und Fachleuten aus der Industrie stellte genau diese Frage. KI verbreitet sich in Sensoren, Kameras, Türklingeln, Autos und Sprachassistenten auf Smartphones. Verbraucht lokale KI, multipliziert mit Millionen von Geräten, mehr oder weniger Energie, als die Daten an ein Rechenzentrum zu senden? Die Teilnehmenden stellten fest, dass es für einige kleinere Bildverarbeitungsmodelle am Edge durchgängige Energiestudien gibt, für große Sprachmodelle aber kaum. Die ehrliche Antwort lautet heute: Messen Sie Ihren Fall.

Was sind die Zielkonflikte?

Jede Option punktet bei anderen Dingen.

Faktor Auf dem Gerät / Edge Zentrales Rechenzentrum
Energie pro Rechenoperation Auf Universalchips meist höher; besser auf dedizierten neuronalen Beschleunigern Meist niedriger, besonders bei hoher Auslastung
Modellgröße Kleine, oft quantisierte Modelle Jede Größe
Netzenergie Wenig oder keine Jede Anfrage geht über das Netz
Energie im Leerlauf Kann in den Ruhezustand gehen oder abschalten Gemeinsame Kapazität wird bereitgehalten
Hardware Verteilt auf Milliarden Geräte; kann Neuanschaffungen fördern Konzentriert, alle paar Jahre erneuert
Latenz Schnell, funktioniert offline Hängt von der Verbindung ab
Datenschutz Daten können auf dem Gerät bleiben Daten verlassen die Kontrolle der Nutzer
Messung Schwierig: verstreut, nicht gemeldet Möglich, wenn Anbieter berichten
Kontrolle Verteilt Bei wenigen Anbietern konzentriert

Wie wichtig ist das Netz?

Netze verbrauchen insgesamt viel Energie, aber ein großer Teil davon ist eine nahezu konstante Grundlast. Die Wirkung einer einzelnen Anfrage ist daher kleiner, als Rechner auf Byte-Basis vermuten lassen.

  • Die Internationale Energieagentur schätzt, dass Datenübertragungsnetze 2022 260 bis 360 TWh verbrauchten, etwa 1 bis 1,5 % des weltweiten Stroms, davon rund zwei Drittel Mobilfunknetze.
  • Mytton, Lundén und Malmodin zeigten 2024, dass der Energieverbrauch von Netzen nicht direkt proportional zur Datenmenge ist. Netzwerktechnik zieht Strom, ob sie ausgelastet ist oder nicht. Wer Gigabyte direkt in Kilowattstunden umrechnet, überschätzt daher die Einsparung durch weniger Datenverkehr.
  • Reduzieren Sie die Datenmenge trotzdem: Das spart Energie auf Servern und Geräten, und vermiedener Verkehr kann künftigen Ausbau der Netzkapazität vermeiden. Nutzen Sie Einsparungen im Netz pro Gigabyte aber nicht als Hauptargument für Edge-KI.

Beachten Sie, dass viele veröffentlichte Werte pro Prompt das Netz und die Geräte der Nutzer nicht berücksichtigen. Die Gemini-Werte von Google aus dem Jahr 2025 etwa schließen beides aus. Prüfen Sie die Systemgrenze, bevor Sie Zahlen für Edge und Cloud vergleichen.

Und die Geräte selbst?

Berücksichtigen Sie Energie, Akku und Hardware der Geräte, auf denen Ihre KI läuft, denn sie gehören zu Ihrem Fußabdruck.

  • Graue Emissionen: Die Herstellung von Geräten verursacht CO2. Die SCI-Spezifikation rechnet einen Anteil der grauen Emissionen in den Fußabdruck eines Softwaresystems ein. Wenn KI auf dem Gerät Menschen dazu bringt, funktionierende Smartphones oder Laptops früher zu ersetzen, können diese Kosten jede Einsparung im Betrieb übersteigen.
  • Akkuverbrauch ist versteckter Energieaufwand, den die Nutzer tragen. Die Sandpit-Veranstaltung nannte KI-Assistenten auf Smartphones als Beispiel.
  • Anpassung: Die Green Software Foundation empfiehlt, auf kleinere Modelle oder eine geringere Frequenz umzuschalten, wenn der Akku schwach oder ein Gerät heiß ist.
  • Größenordnung: Eine winzige Einsparung oder ein winziger Aufwand pro Gerät wird groß, wenn Millionen Geräte ständig laufen.

Welche Rolle spielen Datenschutz und Resilienz?

Lokale KI hält Daten auf dem Gerät und arbeitet weiter, wenn die Verbindung oder der zentrale Dienst ausfällt.

  • Datenschutz: Lokal verarbeitete Daten müssen nicht an einen Anbieter übertragen oder dort gespeichert werden. Das unterstützt den Grundsatz der Datenminimierung im britischen und europäischen Datenschutzrecht und eignet sich für sensible Daten wie Gesundheitsdaten oder Daten kritischer Infrastrukturen. Die Sandpit-Veranstaltung stellte fest, dass sensible Betriebsdaten in Sektoren der kritischen Infrastruktur oft innerhalb der Organisation bleiben müssen, was effiziente lokale Modelle erfordert.
  • Souveränität und Kontrolle: Verteilte Inferenz verlagert Kontrolle weg von wenigen großen Anbietern.
  • Resilienz: Die Sandpit-Veranstaltung sprach auch die Abhängigkeit an: Was passiert, wenn sich die Gesellschaft auf KI verlässt und Verbindung oder Strom ausfallen? Lokale Fähigkeiten können wesentliche Funktionen aufrechterhalten.
  • Rechenschaft: Edge-KI ist schwerer zu überwachen. Wenn Sie sie einsetzen, planen Sie, wie Sie sie messen und darüber berichten.

Wie entscheide ich Schritt für Schritt?

Ermitteln Sie die Energie pro nützlichem Ergebnis für jede Option und wägen Sie dann Datenschutz, Latenz und Resilienz ab.

  1. Legen Sie die Aufgabe und ihre Qualitätsanforderungen fest. Was gilt als erfolgreiches Ergebnis?
  2. Finden Sie das kleinste Modell, das die Anforderungen erfüllt (das richtige Modell wählen). Quantisierte Modelle brauchen weniger Speicher: In der Studie zu LLM.int8() halbierte 8-Bit-Inferenz den Speicherbedarf.
  3. Schätzen Sie die Cloud-Energie pro Ergebnis, einschließlich des Zusatzaufwands im Rechenzentrum und, wo möglich, des Netzes.
  4. Messen Sie die Geräteenergie pro Ergebnis auf repräsentativen Geräten, auch auf älteren und stromsparenden.
  5. Berücksichtigen Sie Hardware-Effekte: Werden dafür neue Geräte oder eigene Edge-Server nötig?
  6. Bedenken Sie die Häufigkeit: Häufige, kleine Aufgaben eignen sich oft für das Gerät, seltene, aufwendige für die Cloud.
  7. Wägen Sie Datenschutz, Latenz, Offline-Nutzung und Resilienz ab.
  8. Erwägen Sie eine Aufteilung: Ein kleines lokales Modell bearbeitet die meisten Anfragen und eskaliert schwierige an die Cloud.
  9. Messen Sie nach dem Einsatz und prüfen Sie erneut, wenn sich Modelle und Hardware ändern.

Checkliste

  • [ ] Energie pro nützlichem Ergebnis für Edge, Cloud und eine Aufteilung verglichen
  • [ ] Systemgrenze umfasst Geräte und, wo möglich, das Netz
  • [ ] Kleinstes geeignetes Modell gewählt, für Geräte quantisiert, wo die Qualität hält
  • [ ] Keine Geräte-Upgrades durch die KI-Funktion erzwungen
  • [ ] Akku und Wärme berücksichtigt, mit einem leichteren Modus bei niedrigem Akkustand
  • [ ] Vorteile für Privatsphäre und Datenschutz dokumentiert
  • [ ] Überwachung für Edge-Einsätze geplant

Wie es weitergeht

  1. Wählen Sie eine KI-Funktion aus und skizzieren Sie ihre Optionen für Edge, Cloud und eine Aufteilung.
  2. Messen Sie die Energie pro Ergebnis auf einem typischen Gerät und schätzen Sie den Cloud-Gegenwert; siehe KI-Energie messen.
  3. Testen Sie ein quantisiertes kleines Modell auf Ihrem ältesten unterstützten Gerät.
  4. Legen Sie fest, welche Daten aus Gründen des Datenschutzes oder der Souveränität lokal bleiben müssen.
  5. Lesen Sie KI am Edge für das Gesamtbild und Hosting und Rechenzentren für die Cloud-Seite.
  6. Finden Sie Werkzeuge für Edge-KI im Produktverzeichnis und Forschungsgruppen unter Forschung.

Häufige Fragen

Ist KI auf dem Gerät grüner als KI in der Cloud?

Manchmal. Ein kleines Modell auf einem Smartphone vermeidet den Energieverbrauch von Rechenzentrum und Netz, aber Geräte sind pro Rechenoperation weniger effizient als Beschleuniger im Rechenzentrum, und der Kauf neuer Hardware für KI hat einen eigenen Fußabdruck. Vergleichen Sie das gesamte System.

Verbraucht das Senden von Daten in die Cloud viel Energie?

Netze verbrauchen erheblich Energie, aber ein großer Teil davon ist eine nahezu konstante Grundlast. Weniger Daten helfen Geräten und Servern trotzdem, doch Einsparungen im Netz pro Gigabyte werden meist überschätzt.

Was ist Edge-Computing?

Rechnen nahe dem Ort, an dem Daten entstehen oder genutzt werden: auf dem Gerät selbst oder auf einem nahegelegenen Gateway oder kleinen lokalen Server statt in einem entfernten Rechenzentrum.

Warum spielt der Datenschutz eine Rolle?

Daten, die auf dem Gerät verarbeitet werden, müssen es nicht verlassen. Das verringert das Risiko und kann die Einhaltung von Datenschutzregeln wie der Datenminimierung erleichtern.

Quellen

  1. Data centres and data transmission networks, International Energy Agency (2023)
  2. Network energy use not directly proportional to data volume: the power model approach for more reliable network energy consumption calculations, Mytton, Lundén and Malmodin, Journal of Industrial Ecology (2024)
  3. Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)
  4. Green Software Patterns: optimise power consumption for edge AI inference, Green Software Foundation (2025)
  5. Measuring the environmental impact of delivering AI at Google scale, Google (arXiv 2508.15734) (2025)
  6. Software Carbon Intensity (SCI) specification, Green Software Foundation (2024)
  7. Principle (c): Data minimisation, Information Commissioner's Office (2023)
  8. LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale, Dettmers et al. (arXiv 2208.07339) (2022)

Machen Sie mit

Helfen Sie, die Umweltwirkung von KI zu senken

Erhalten Sie neue Leitfäden, Förderausschreibungen und Verzeichniseinträge etwa einmal im Monat per E-Mail. Oder tragen Sie Ihr Produkt, Ihren Kurs, Ihre PhD-Stelle oder Ihre Forschung in die Verzeichnisse ein.

Kein Tracking. Abmeldung mit einem Klick. Weitere Möglichkeiten mitzumachen · Datenschutz