greenai.guide

Strona główna › Jak…? › Jak ocenić, czy zamiast LLM wystarczy klasyczne uczenie maszynowe?

Jak…?

Jak ocenić, czy zamiast LLM wystarczy klasyczne uczenie maszynowe?

Aktualizacja · Czas czytania: 1 min

W skrócie

Jeśli dane wejściowe to dane ustrukturyzowane lub krótki tekst z etykietami, a wynikiem jest liczba, kategoria lub ranking, najpierw warto wypróbować model klasyczny: model liniowy, drzewa wzmacniane gradientowo lub mały klasyfikator. Są one znacznie tańsze w działaniu, szybsze, łatwiejsze do wyjaśnienia i często równie dokładne. Po duży model językowy należy sięgać, gdy zadanie naprawdę wymaga swobodnego języka.

Kroki

  1. Zapisać typ danych wejściowych, typ wyniku i wymagany poziom jakości.
  2. Najpierw zbudować prosty punkt odniesienia, np. regułę, model liniowy lub drzewa wzmacniane gradientowo.
  3. Jeśli dane wejściowe to swobodny tekst, wypróbować mały, dostrojony klasyfikator.
  4. Testować LLM tylko wtedy, gdy punkty odniesienia nie osiągają wymaganego poziomu, i na tym samym zbiorze ewaluacyjnym.
  5. Przed wyborem porównać jakość, opóźnienie i energię na predykcję.

Należy używać najprostszego modelu, który spełnia wymagany poziom jakości. W przypadku danych ustrukturyzowanych i wąskich zadań etykietowania jest to zwykle klasyczny model uczenia maszynowego, a nie duży model językowy.

Dlaczego to ważne?

Luccioni, Jernite i Strubell zmierzyli energię działania modeli w wielu zadaniach. Klasyfikacja tekstu należała do najtańszych zadań: około 0,002 kWh na 1000 inferencji. Ogólne modele generatywne kosztowały natomiast o rzędy wielkości więcej niż modele dedykowane temu samemu zadaniu. Wytyczne W3C Web Sustainability Guidelines również zalecają zespołom ocenę, czy AI jest potrzebna, zanim zostanie wdrożona.

Brytyjski sandpit (intensywne warsztaty badawcze, na których naukowcy i przemysł wspólnie wypracowują pomysły na projekty) o zielonej AI z 2026 roku, w którym uczestniczyli matematycy, informatycy i przedstawiciele przemysłu, doszedł do tego samego wniosku z innej strony: ludzie często sięgają po AI, gdy dobrze znana metoda statystyczna lub numeryczna już wykonuje to zadanie.

Szybki test

Zadanie Co wypróbować najpierw
Przewidywanie liczby z danych tabelarycznych Model liniowy lub drzewa wzmacniane gradientowo
Przypisanie jednej z kilku etykiet Mały, dostrojony klasyfikator
Wyszukiwanie podobnych elementów Embeddingi i indeks najbliższych sąsiadów
Prognozowanie szeregu czasowego Sprawdzone statystyczne metody prognozowania
Pisanie, wyjaśnianie lub rozmowa Tu LLM jest wart swojego kosztu

Częste błędy

  • Pomijanie punktu odniesienia. Bez niego nie wiadomo, czy LLM cokolwiek wnosi.
  • Używanie LLM do etykietowania danych, na których potem nigdy nie trenuje się modelu. Należy użyć go raz do utworzenia etykiet, a następnie wytrenować mały model.
  • Porównywanie wyłącznie dokładności. Należy uwzględnić opóźnienie, energię na predykcję i to, jak łatwo wyjaśnić błędy.

Więcej w częściach wybór właściwego modelu i matematyka dla wydajnej AI.

Źródła

  1. Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
  2. Web Sustainability Guidelines, W3C (2025)

Dołącz do nas

Pomóżmy zmniejszyć wpływ AI na planetę

Nowe przewodniki, nabory wniosków i wpisy w katalogach e-mailem, mniej więcej raz w miesiącu. Można też dodać do katalogów swój produkt, kurs, ofertę studiów doktoranckich lub badania.

Bez śledzenia. Rezygnacja jednym kliknięciem. Inne sposoby dołączenia · Prywatność