W skrócie
Dane treningowe i dane cech należy przechowywać w formacie kolumnowym, tak aby zadania czytały tylko potrzebne kolumny i partycje. Surowy tekst warto raz przekonwertować do formatu binarnego, zamiast parsować go od nowa przy każdym przebiegu lub epoce. Należy zmierzyć typowe zadanie przed zmianą i po niej, aby sprawdzić, czy konwersja się zwraca. Obsługę danych łatwo przeoczyć obok modelu, ale działa ona przy każdym eksperymencie.
Kroki
- Znaleźć potoki, które przy każdym przebiegu czytają w całości pliki tekstowe, np. CSV lub JSON.
- Przekonwertować je raz do formatu kolumnowego lub binarnego.
- Partycjonować dane według pól, po których się filtruje, np. daty lub źródła.
- Przetwarzać wstępnie i tokenizować raz, a wynik wykorzystywać ponownie we wszystkich przebiegach i epokach.
- Przed trenowaniem usunąć zduplikowane i nieużywane dane.
- Zmierzyć czas i zużycie typowego zadania przed zmianą i po niej.
Każde zadanie powinno czytać tylko to, czego używa, i parsować to tylko raz. Dane treningowe często są przechowywane w plikach tekstowych, które za każdym razem są czytane i parsowane w całości, nawet gdy model potrzebuje kilku kolumn.
Dlaczego to ważne?
Czytanie i parsowanie danych kosztuje czas procesora, pamięć i ruch w systemie przechowywania przy każdym przebiegu, każdej epoce i każdym eksperymencie. W badaniach i rozwoju, gdzie ten sam zbiór danych przetwarza się setki razy, to się sumuje. Wzorzec Green Software Foundation dotyczący formatów przechowywania danych dla AI zaleca formaty kolumnowe, tak aby zadania czytały tylko potrzebne kolumny i partycje, oraz jednorazową konwersję danych do formatu binarnego zamiast ponownego parsowania tekstu.
Co zmienić?
- Formaty kolumnowe, takie jak Parquet, przechowują każdą kolumnę osobno, więc zadanie korzystające z pięciu kolumn z pięćdziesięciu czyta mniej więcej jedną dziesiątą danych.
- Partycjonowanie według daty, źródła lub etykiety pozwala zadaniu pomijać całe niepotrzebne pliki.
- Wstępnie stokenizowane zbiory danych oszczędzają powtarzania tego samego przetwarzania tekstu w każdej epoce.
- Deduplikacja zmniejsza zbiór danych, a wraz z nim przebieg trenowania.
Częste błędy
- Konwertowanie danych czytanych tylko raz. Konwersja też ma swój koszt; opłaca się przy danych czytanych wielokrotnie.
- Przechowywanie każdej kopii pośredniej. Stare wersje przetworzonych danych zajmują miejsce, które ma własny ślad.
- Brak pomiarów. Typowe zadanie należy przed zmianą i po niej objąć narzędziem do śledzenia, takim jak CodeCarbon, albo przynajmniej zmierzyć jego czas.
Oszczędności po stronie modelu: zob. jak zmniejszyć energię trenowania modelu.
Źródła
- Green Software Patterns: optimise data storage formats for AI training and inference, Green Software Foundation (2025)
- CodeCarbon, CodeCarbon (2026)
Powiązane
Jak zmniejszyć zużycie energii podczas trenowania modelu?
Główne sposoby na mniejsze zużycie energii przy trenowaniu: model wstępnie wytrenowany, właściwy rozmiar, mieszana precyzja, wczesne zatrzymanie, pomiar.
Jak zwiększyć efektywność wyszukiwania wektorowego i RAG?
Jak ograniczyć obliczenia w generowaniu wspomaganym wyszukiwaniem: indeksy przybliżone, mniej i krótsze fragmenty, indeksowanie przyrostowe i mniejsze modele.
Efektywne trenowanie i inferencja AI
Techniki ograniczania zużycia energii przez AI dla programistów i badaczy: przycinanie, rzadkość, kwantyzacja, destylacja, KV cache, batching i harmonogramy.
Jak zmierzyć, ile energii zużywa AI na moim komputerze lub GPU?
Pomiar energii lokalnej AI: liczniki sprzętowe, telemetria GPU lub miernik w gniazdku, próbkowanie przez całe zadanie i odjęcie poboru w spoczynku.