greenai.guide

Startseite › Wie kann ich …? › Soll ich KI auf meinem Gerät oder in der Cloud laufen lassen?

Wie kann ich …?

Soll ich KI auf meinem Gerät oder in der Cloud laufen lassen?

Aktualisiert · 1 Min. Lesezeit

Kurz gesagt

Lassen Sie kleine, häufige, private oder latenzkritische Aufgaben auf dem Gerät laufen und schicken Sie große oder gelegentliche Aufgaben, die große Modelle brauchen, an einen effizienten Cloud-Dienst. Einige Studien finden bei geeigneten Modellen große Energieeinsparungen auf dem Gerät, aber gut betriebene Rechenzentren sind ein harter Vergleichsmaßstab. Messen Sie deshalb für Ihren eigenen Fall, wo Sie können.

Schritte

  1. Listen Sie die Anforderungen der Aufgabe auf: Modellgröße, Häufigkeit, Datenschutz und ob sie offline funktionieren muss.
  2. Bevorzugen Sie das Gerät für kleine Modelle, häufige Nutzung, private Daten und Offline-Bedarf.
  3. Bevorzugen Sie die Cloud für große Modelle, gelegentliche schwere Aufgaben und Arbeit, die sich bündeln lässt.
  4. Vergleichen Sie den Energieverbrauch pro Aufgabe bei beiden Optionen, einschließlich des Netzwerks, wo Sie ihn messen können.
  5. Berücksichtigen Sie Akkulaufzeit und Alter der Hardware als Teil der Kosten des Geräts.

Klein und häufig passt zum Gerät, groß und gelegentlich passt zur Cloud. Keine der beiden Optionen ist in jedem Fall grüner. Die Antwort hängt vom Modell ab, davon, wie oft es läuft, und davon, wie effizient jede Seite ist.

Was sagt die Evidenz?

Sie ist gemischt. Li, Islam und Ren fanden für mehrere generative Modelle einen geringeren Fußabdruck beim Einsatz auf dem Gerät, mit Energieeinsparungen von über 90 % in Tests auf einem aktuellen Smartphone. Ihr Cloud-Vergleichswert war jedoch kein vollständig optimierter Produktionsdienst, und gut ausgelastete Server mit Batching in einem effizienten Rechenzentrum sind schwerer zu schlagen. Ein britisches Green-AI-Sandpit aus Mathematik, Informatik und Industrie im Jahr 2026 nannte die Netto-Energiewirkung von KI, die auf Millionen Geräte verteilt ist, als offene Frage.

Wie entscheide ich?

Spricht für das Gerät Spricht für die Cloud
Kleines Modell, etwa Apples On-Device-Modell mit rund drei Milliarden Parametern Großes Modell, das lokal nicht passt
Läuft oft, zum Beispiel bei jedem Foto oder jedem Tastenanschlag Läuft gelegentlich
Private oder sensible Daten Arbeit, die sich bündeln oder zeitlich planen lässt
Muss offline oder sofort funktionieren Braucht das neueste, leistungsfähigste Modell

Die Green Software Foundation führt das Ausführen von KI-Modellen am Edge unter ihren Green-Software-Patterns, als Option für geeignete Modelle und nicht als Regel.

Häufige Fehler

  • Annehmen, lokal sei kostenlos. Es verbraucht Ihren Akku und kann Sie zu neuer Hardware drängen.
  • Das Netzwerk ignorieren. Große Dateien in die Cloud zu schicken, kostet ebenfalls etwas.
  • Ein Modell ausführen, das zu groß für das Gerät ist, sodass es langsam ist und viel Strom zieht.

Eine ausführlichere Entscheidungshilfe finden Sie unter Edge oder Cloud und KI am Edge.

Quellen

  1. A case study of environmental footprints for generative AI inference: cloud versus edge, Li, Islam and Ren, ACM SIGMETRICS Performance Evaluation Review (2025)
  2. Apple Intelligence Foundation Language Models: Tech Report 2025, Apple (2025)
  3. Green Software Patterns: run AI models at the edge, Green Software Foundation (2025)

Machen Sie mit

Helfen Sie, die Umweltwirkung von KI zu senken

Erhalten Sie neue Leitfäden, Förderausschreibungen und Verzeichniseinträge etwa einmal im Monat per E-Mail. Oder tragen Sie Ihr Produkt, Ihren Kurs, Ihre PhD-Stelle oder Ihre Forschung in die Verzeichnisse ein.

Kein Tracking. Abmeldung mit einem Klick. Weitere Möglichkeiten mitzumachen · Datenschutz