W skrócie
Naukowcy mogą uczynić AI bardziej ekologiczną na dwa sposoby: rozwijając metody wymagające mniej obliczeń oraz mierząc i raportując energię zużywaną przez własną pracę. Przycinanie (pruning), kwantyzacja, destylacja wiedzy, lepsze metody numeryczne i hybrydowe modele łączące fizykę z uczeniem maszynowym obniżają koszt AI, a narzędzia takie jak CodeCarbon i kalkulator Green Algorithms sprawiają, że koszt ten staje się widoczny w publikacjach.
Najważniejsze punkty
- Patterson i współpracownicy ustalili, że wybór modelu, centrum danych i procesora może zmniejszyć ślad węglowy trenowania nawet około 100 do 1000 razy.
- Uwagi badaczy wymaga nie tylko trenowanie, ale też inferencja: działa za każdym razem, gdy model jest używany.
- W każdej publikacji należy podawać energię, sprzęt, czas działania i lokalizację, korzystając z bezpłatnego narzędzia, takiego jak CodeCarbon lub kalkulator Green Algorithms.
- Wkład matematyki wykracza poza algorytmy: obejmuje metryki, niepewność, benchmarki i modelowanie rozprzestrzeniania się korzystania z AI.
- Dla projektu należy ustalić budżet obliczeniowy obejmujący nieudane uruchomienia i przeszukiwanie hiperparametrów, a nie tylko ostateczny model.
Dlaczego zielona AI ma znaczenie dla nauki?
Dlatego, że nauka wyznacza metody, które wszyscy inni powielają, i dlatego, że sama nauka zużywa dużo mocy obliczeniowej. Technika, która o połowę obniża koszt inferencji (wnioskowania), po upowszechnieniu oszczędza energię za każdym razem, gdy działa jakikolwiek model, który z niej korzysta.
Argumenty przedstawiono wcześnie. Artykuł Strubell, Ganesha i McCalluma z 2019 roku określił finansowy i środowiskowy koszt trenowania kilku modeli językowych i zaproponował sposoby jego obniżenia. Patterson i współpracownicy ustalili później, że wybór architektury modelu, centrum danych i procesora może zmniejszyć ślad węglowy trenowania nawet około 100 do 1000 razy. Luccioni, Jernite i Strubell wykazali, że uruchamianie wielozadaniowych modeli generatywnych może być o rzędy wielkości droższe niż modeli dedykowanych temu samemu zadaniu.
Brytyjski sandpit (intensywne warsztaty badawcze, na których naukowcy i przemysł wspólnie wypracowują pomysły na projekty) poświęcony zielonej AI w 2026 roku, z udziałem matematyków, informatyków i przedstawicieli przemysłu, ujął program badań w trzech etapach, z których każdy jest otwarty na inne techniki: trenowanie od zera, fine-tuning (dostrajanie) lub adaptacja oraz wdrożenie, w chmurze albo na urządzeniu o niskim zużyciu energii. Zauważono też, że wiele istniejących prac kryje się w rezultatach projektów i mało znanych repozytoriach kodu, więc pierwszym krokiem każdego projektu jest ustalenie, co już zrobiono.
Jakie metody zwiększają efektywność modeli?
Główne rodziny metod to usuwanie tego, czego model nie potrzebuje, używanie mniejszej liczby bitów, uczenie się z mniejszej ilości danych i wbudowywanie znanej struktury w model. Większość z nich można łączyć.
Przycinanie i rzadkość
Przycinanie (pruning) usuwa wagi, które mają niewielki wpływ na wynik. Rzadkość (sparsity) oznacza, że większość wartości w macierzy lub aktywacji to zera, więc obliczenia mogą je pomijać. Duże sieci często mają znacznie więcej parametrów, niż wymaga ostateczne zadanie, ponieważ nadmiarowa parametryzacja pomaga w optymalizacji, dlatego po trenowaniu wiele można usunąć.
Otwarte pytania to m.in.: jak ustalać docelową rzadkość przed trenowaniem, a nie metodą prób i błędów; jak zachować efektywność dynamicznej rzadkości (gdy położenie zer zależy od danych wejściowych) na rzeczywistym sprzęcie; oraz dlaczego rzadkość jest wciąż za mało wykorzystywana, biorąc pod uwagę ograniczenia architektoniczne popularnych chipów. Zyski teoretyczne często przewyższają zmierzone przyspieszenia, więc liczą się wyniki empiryczne na rzeczywistym sprzęcie.
Kwantyzacja i mieszana precyzja
Kwantyzacja polega na przechowywaniu danych i liczeniu z użyciem mniejszej liczby bitów, np. 8-bitowych liczb całkowitych zamiast 32-bitowych liczb zmiennoprzecinkowych. Mieszana precyzja to niższa precyzja tam, gdzie jest bezpieczna, i wyższa tam, gdzie jest potrzebna. UNESCO i UCL podają, że kompresja, taka jak kwantyzacja, może oszczędzić do 44% energii przy zachowaniu dokładności. Specjaliści od analizy numerycznej mają dobre podstawy, by ocenić, gdzie obniżona precyzja jest bezpieczna i jak propagują się błędy.
Destylacja i mniejsze modele
Destylacja wiedzy polega na trenowaniu małego modelu „ucznia”, który naśladuje duży model „nauczyciela”. Uczeń jest tańszy w działaniu przy każdym zapytaniu. Pokrewne prace nad fine-tuningiem efektywnym parametrowo, który dostosowuje niewielką liczbę dodatkowych parametrów zamiast całego modelu, oraz nad uczeniem ciągłym pozwalają uniknąć ponownego trenowania od zera.
Ponowne wykorzystanie modeli
Zamiast trenować nowe modele, można łączyć istniejące. Wortsman i współpracownicy wykazali, że uśrednianie wag kilku dostrojonych modeli („model soups”) może poprawić dokładność bez żadnego dodatkowego kosztu inferencji. Scalanie i ponowne wykorzystywanie modeli to obiecujący obszar badań nad efektywnością.
Efektywność danych
Trenowanie na mniejszej ilości lepszych danych bezpośrednio obniża energię trenowania. Techniki obejmują usuwanie duplikatów i przykładów o małej wartości, uczenie aktywne (wybór najbardziej informatywnych przykładów do oznaczenia) oraz architektury uogólniające na podstawie niewielu przykładów.
Metody numeryczne i przesyłanie danych
Duża część AI to algebra liniowa, do której mają zastosowanie dziesięciolecia analizy numerycznej. Randomizowana numeryczna algebra liniowa i sketching (kompresja macierzy z zachowaniem jej ważnych własności) mogą ograniczyć zarówno arytmetykę, jak i przesyłanie danych, które na wielu urządzeniach kosztuje więcej energii niż sama arytmetyka. Przybliżona uwaga (approximate attention), która oblicza tylko istotne części macierzy uwagi, to aktywnie rozwijany przykład w dużych modelach językowych. Automatyczne różniczkowanie, ogólna technika stojąca za propagacją wsteczną, łączy AI z istniejącymi kodami naukowymi.
Hybrydowe modele fizyka-ML
Zamiast zastępować całą symulację siecią neuronową, można zastąpić tylko tę część, do której się nadaje. Częstym wzorcem jest wyuczony model zastępczy (surrogate) dla najbardziej energochłonnego komponentu modelu klimatu lub modelu inżynierskiego, przy zachowaniu reszty fizyki. Modele informowane fizyką (physics-informed) wbudowują znane prawa w funkcję straty lub architekturę, co może wymagać znacznie mniej parametrów i danych. Inne narzędzia strukturalne to wypukłość, algorytmy rozwinięte (zamiana kroków klasycznego solwera na warstwy sieci) i symetria, jak w geometrycznym uczeniu głębokim.
Na sandpicie pojawiły się też mniej zbadane pomysły:
- dodanie członu energetycznego lub „węglowego” do funkcji celu trenowania, np. karanie aktywnych neuronów lub kosztownych ekspertów w modelu mixture of experts (MoE);
- korekcja błędów podczas długich obliczeń, ze sprawdzaniem w odstępach, aby nie trzeba było powtarzać całego uruchomienia; oraz
- wykrywanie, kiedy wieloagentowe systemy AI utknęły w pętlach i marnują tokeny.
Więcej na stronach efektywne trenowanie i inferencja oraz matematyka dla efektywnej AI.
Jak mierzyć i raportować energię w publikacjach?
Należy mierzyć na bieżąco, raportować standardowy zestaw informacji i uwzględniać uruchomienia, które nie trafiły do publikacji. Bez tego deklaracji o efektywności nie da się sprawdzić ani porównać.
Bezpłatne narzędzia:
- CodeCarbon, otwartoźródłowy pakiet Pythona, szacuje emisje na podstawie mocy pobieranej przez CPU, GPU i pamięć oraz emisyjności lokalnej sieci elektroenergetycznej. Warto dodać go do skryptów trenowania i ewaluacji.
- Kalkulator Green Algorithms, autorstwa Lannelongue'a, Grealey i Inouye'a, szacuje ślad obliczeń na podstawie sprzętu, czasu działania, pamięci i lokalizacji. Nadaje się do zadań HPC i do prac wykonanych przed rozpoczęciem rejestrowania.
- Liczniki sprzętowe, takie jak RAPL w wielu procesorach i interfejsy zasilania producentów GPU, dają bezpośrednie odczyty, na których opierają się te narzędzia.
Co raportować:
| Pozycja | Przykład |
|---|---|
| Sprzęt | Model i liczba GPU, CPU, pamięć |
| Czas działania | GPU-godziny dla ostatecznych uruchomień oraz dla wszystkich uruchomień strojących i nieudanych |
| Energia | kWh, zmierzone lub szacowane, z nazwą i wersją narzędzia |
| Lokalizacja | Kraj lub region sieci elektroenergetycznej oraz użyta emisyjność |
| Emisje | kg CO₂e |
| Inferencja | Energia na 1000 zapytań przy podanej wielkości partii (batch size) i długości sekwencji |
| Granice | Czy uwzględniono chłodzenie i narzuty centrum danych (PUE) |
Należy jasno określać niepewność. Szacunki z modeli mocy mogą różnić się od wartości zmierzonych licznikiem, a dane dostawców, takie jak podawane przez Google 0,24 Wh na medianowy tekstowy prompt w Gemini, opierają się na ich własnych metodach i granicach. Dalej idą nasz przewodnik pomiar energii AI oraz artykuł pomiar jest wąskim gardłem.
Jak ustalić budżet obliczeniowy?
Należy z góry zdecydować, ile mocy obliczeniowej może zużyć projekt, i śledzić ją jak pieniądze. Budżet sprawia, że kompromisy stają się widoczne, i zatrzymuje niekończące się strojenie.
- Oszacować GPU-godziny dla głównych eksperymentów, a następnie dodać margines na eksplorację.
- Prowadzić pilotaże na małą skalę, aby odrzucić pomysły przed skalowaniem.
- Preferować efektywne przeszukiwanie hiperparametrów, np. wczesne zatrzymywanie słabych uruchomień, zamiast dużych przeszukiwań siatki (grid search).
- Ponownie wykorzystywać punkty kontrolne (checkpointy) i wstępnie wytrenowane modele, gdy pasują.
- Planować elastyczne zadania na godziny lub w regionach, w których sieć jest czystsza.
- Raportować wyniki względem mocy obliczeniowej, np. dokładność na kWh, a nie tylko najlepszą dokładność.
Zasady GREENER autorstwa Lannelongue'a i współpracowników (Governance, Responsibility, Estimation, Energy and embodied impacts, New collaborations, Education and Research — zarządzanie, odpowiedzialność, szacowanie, energia i wpływ wbudowany, nowe współprace, edukacja i badania) dają ramy dla zespołów i instytucji.
Jak efektywność wpływa na odtwarzalność?
Raportowanie energii i mocy obliczeniowej ułatwia odtwarzanie prac, a efektywne metody czynią je tańszym. Wynik wymagający tysięcy GPU-godzin może sprawdzić niewiele zespołów.
- Publikować kod, konfiguracje i ziarna losowości (seeds) oraz podawać, na ilu uruchomieniach opiera się wynik.
- Podawać wariancję między uruchomieniami. Pojedyncza wartość dokładności z jednego uruchomienia niedeterministycznego procesu może wprowadzać w błąd.
- W miarę możliwości udostępniać mniejsze lub destylowane wersje modeli, aby inni mogli na nich budować.
- Dzielić się negatywnymi wynikami dotyczącymi metod efektywności, co oszczędza innym ich powtarzania.
W czym może pomóc matematyka?
Matematyka pomaga nie tylko w tworzeniu szybszych algorytmów, ale też w decydowaniu, co mierzyć, na ile ufać modelowi i jak korzystanie z AI rozprzestrzenia się w społeczeństwie. Uczestnicy sandpitu podkreślali, że matematycy muszą pokazać, za pomocą narzędzi i dowodów, co mogą poprawić.
- Teoria efektywności: teoria macierzy losowych dla przycinania i rzadkości, teoria aproksymacji dla małych modeli, teoria optymalizacji dla szybszego trenowania.
- Analiza numeryczna: precyzja, stabilność, oszacowania błędów i solwery w potokach AI.
- Kwantyfikacja niepewności: na ile można ufać modelowi zastępczemu, zwłaszcza poza jego danymi treningowymi, co decyduje o tym, czy może on zastąpić kosztowny model fizyczny.
- Metryki i benchmarki: uzgodnione, porównywalne miary energii i jakości oraz metryki jakości z wbudowaną efektywnością.
- Modelowanie scenariuszy i systemów: jak wzrost efektywności zmienia całkowite zużycie (efekt odbicia (rebound effect)), teoria gier wyjaśniająca, dlaczego organizacje czują presję, by korzystać z AI, oraz równowaga między obliczeniami na brzegu sieci (edge) a obliczeniami centralnymi.
- Wybór metody: ramy pozwalające ocenić, kiedy problem w ogóle wymaga AI, a kiedy klasyczny algorytm już dobrze go rozwiązuje.
Jak znaleźć finansowanie i współpracowników?
Warto połączyć pytanie badawcze dotyczące efektywności z rzeczywistym partnerem aplikacyjnym, któremu zależy na kosztach lub szybkości. Fundatorzy i przemysł lepiej reagują na oszczędności energii, które przynoszą też szybsze, tańsze lub bardziej niezawodne wyniki.
- Krajowe rady badawcze, takie jak EPSRC w Wielkiej Brytanii, NSF w USA i ich odpowiedniki, finansują badania nad metodami; warto śledzić konkursy dotyczące AI, cyfrowej infrastruktury badawczej i neutralności klimatycznej (net zero).
- Programy europejskie, takie jak Horizon Europe, oraz klastry Eureka, takie jak ITEA, finansują projekty realizowane wspólnie z przemysłem. GreenCode, projekt ITEA, jest jednym z przykładów w obszarze zielonej AI i energii oprogramowania.
- Krótkie projekty przemysłowe, staże i współfinansowane stypendia doktoranckie to tani sposób na rozpoczęcie współpracy.
- Inżynierowie oprogramowania badawczego (research software engineers) i centra HPC często dysponują wiedzą i szkoleniami z zakresu zielonych obliczeń.
Najlepiej sprawdzają się zespoły interdyscyplinarne: specjaliści od sprzętu, oprogramowania, metod numerycznych i danej dziedziny w jednym pokoju. Katalog badań zawiera zespoły i projekty z zakresu zielonej AI.
Jakie są ścieżki doktoranckie?
Istnieją projekty doktorskie z zakresu efektywnego uczenia maszynowego, analizy numerycznej, zrównoważonych i niskoemisyjnych obliczeń, HPC oraz wspólnego projektowania sprzętu i oprogramowania. Wiele z nich nie ma etykiety „zielona AI”, więc warto szukać także według tych tematów.
Ścieżki obejmują:
- centra i programy kształcenia doktorantów, takie jak UKRI Centres for Doctoral Training w Wielkiej Brytanii;
- sieci doktoranckie w ramach unijnych działań Marie Skłodowska-Curie Actions;
- stypendia doktoranckie współfinansowane lub sponsorowane przez przemysł; oraz
- projekty powiązane z większymi grantami badawczymi.
Aktualne oferty zawiera katalog studiów doktoranckich, a krótkie kursy z efektywnej AI, zielonego oprogramowania i obliczeń naukowych katalog kursów.
Co dalej
- Dodać CodeCarbon lub podobne rejestrowanie do następnego eksperymentu albo oszacować ostatni projekt kalkulatorem Green Algorithms.
- Dodać tabelę energii i mocy obliczeniowej do następnej publikacji, uwzględniając uruchomienia strojące i nieudane.
- Ustalić budżet obliczeniowy dla bieżącego projektu i przeglądać go co miesiąc.
- Wypróbować jedną metodę efektywności, taką jak kwantyzacja lub destylacja wiedzy, na już używanym modelu i zaraportować kompromis.
- Sprawdzić, co już istnieje, zanim zacznie się budować: przeszukać katalog badań i niedawne rezultaty projektów.
- Znaleźć partnera z kosztownym obciążeniem AI lub symulacyjnym i zaproponować wspólny projekt.
- Poszukać szkoleń w katalogu kursów i udostępnić studentom katalog studiów doktoranckich.
Najczęściej zadawane pytania
Jak raportować zużycie energii w eksperymentach?
Należy rejestrować energię narzędziem takim jak CodeCarbon w trakcie eksperymentów albo oszacować ją później kalkulatorem Green Algorithms na podstawie sprzętu, czasu działania i lokalizacji. Warto podawać kWh, CO₂e, sprzęt, godziny i region sieci elektroenergetycznej oraz uwzględniać uruchomienia nieudane i strojące.
Czy kwantyzacja pogarsza dokładność?
Często tylko nieznacznie, ale zależy to od modelu i zadania. UNESCO i UCL podają oszczędności energii do 44% dzięki kompresji, takiej jak kwantyzacja, przy zachowaniu dokładności; należy to sprawdzić na własnych benchmarkach.
Czy zielona AI to prawdziwa dziedzina badań, czy temat poboczny?
To rosnąca dziedzina obejmująca uczenie maszynowe, analizę numeryczną, sprzęt i systemy obliczeniowe. Badania energii trenowania i inferencji sięgają co najmniej 2019 roku, a EU AI Act wymaga obecnie od dostawców modeli ogólnego przeznaczenia dokumentowania zużycia energii.
Czy można zrobić doktorat z zielonej AI?
Tak. Warto szukać projektów z zakresu efektywnego uczenia maszynowego, metod numerycznych, zrównoważonych obliczeń lub HPC. Nasz katalog studiów doktoranckich zawiera aktualne oferty.
Źródła
- Carbon emissions and large neural network training, Patterson et al. (2021)
- Energy and policy considerations for deep learning in NLP, Strubell, Ganesh and McCallum, ACL (2019)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- Green Algorithms: quantifying the carbon footprint of computation, Lannelongue, Grealey and Inouye, Advanced Science (2021)
- GREENER principles for environmentally sustainable computational science, Lannelongue et al., Nature Computational Science (2023)
- CodeCarbon, CodeCarbon (2026)
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time, Wortsman et al., ICML (2022)
- Measuring the environmental impact of delivering AI at Google scale, Elsworth et al., Google (2025)
- AI Act, Annex XI: technical documentation for providers of general-purpose AI models, European Commission AI Act Service Desk (2024)
- Green AI and energy-aware computing, GreenCode (ITEA) (2026)
Powiązane
Efektywne trenowanie i inferencja AI
Techniki ograniczania zużycia energii przez AI dla programistów i badaczy: przycinanie, rzadkość, kwantyzacja, destylacja, KV cache, batching i harmonogramy.
Jak mierzyć zużycie energii i emisje AI
Praktyczny przewodnik po pomiarze lub szacowaniu energii i emisji AI: narzędzia, granice systemu, wskaźniki na zadanie i uczciwa niepewność.
Matematyka, która czyni AI bardziej efektywną
Przycinanie, rzadkość, szkicowanie, teoria macierzy losowych i modele oparte na fizyce: jak matematyka ogranicza obliczenia, pamięć i energię potrzebne AI.
Pomiar to wąskie gardło zielonej AI
Dlaczego dane o zużyciu energii przez AI trudno sprawdzić i porównać: deklaracje firm, szacunki zamiast pomiarów, różne granice systemu i dobre praktyki.