En resumen
Guarde los datos de entrenamiento y de características en un formato columnar para que los trabajos lean solo las columnas y particiones que usan, y convierta el texto en bruto a un formato binario una sola vez en lugar de volver a analizarlo en cada ejecución o época. Mida un trabajo típico antes y después para comprobar que la conversión compensa. El manejo de datos es fácil de pasar por alto al lado del modelo, pero se ejecuta en cada experimento.
Pasos
- Localice las cadenas de procesamiento que leen archivos de texto como CSV o JSON completos en cada ejecución.
- Conviértalos una vez a un formato columnar o binario.
- Particione los datos por los campos por los que filtra, como la fecha o el origen.
- Preprocese y tokenice una vez, y reutilice el resultado entre ejecuciones y épocas.
- Elimine los datos duplicados y los que no se usan antes de entrenar.
- Cronometre y mida un trabajo típico antes y después del cambio.
Haga que cada trabajo lea solo lo que usa, y que lo analice una sola vez. Los datos de entrenamiento suelen estar en archivos de texto que se leen y analizan completos cada vez, aunque el modelo solo necesite unas pocas columnas.
¿Por qué importa?
Leer y analizar datos cuesta tiempo de CPU, memoria y tráfico de almacenamiento en cada ejecución, cada época y cada experimento. En la investigación y el desarrollo, donde el mismo conjunto de datos se procesa cientos de veces, eso se acumula. El patrón de la Green Software Foundation sobre formatos de almacenamiento de datos para la IA recomienda formatos columnares, para que los trabajos lean solo las columnas y particiones que necesitan, y convertir los datos a un formato binario una sola vez en lugar de volver a analizar el texto.
¿Qué debo cambiar?
- Los formatos columnares, como Parquet, guardan cada columna por separado, de modo que un trabajo que usa cinco columnas de cincuenta lee aproximadamente una décima parte de los datos.
- El particionado por fecha, origen o etiqueta permite a un trabajo saltarse archivos enteros que no necesita.
- Los conjuntos de datos pretokenizados evitan repetir el mismo procesamiento de texto en cada época.
- La deduplicación reduce el conjunto de datos y, con él, la ejecución de entrenamiento.
Errores frecuentes
- Convertir datos que se leen una sola vez. La conversión también tiene un coste; compensa con los datos que se leen repetidamente.
- Conservar todas las copias intermedias. Las versiones preprocesadas antiguas llenan un almacenamiento que tiene su propia huella.
- No medir. Envuelva un trabajo típico en un medidor como CodeCarbon, o al menos cronométrelo, antes y después.
Para el ahorro en el lado del modelo, consulte cómo reducir la energía de entrenar un modelo.
Fuentes
- Green Software Patterns: optimise data storage formats for AI training and inference, Green Software Foundation (2025)
- CodeCarbon, CodeCarbon (2026)
Relacionado
¿Cómo reduzco la energía de entrenar un modelo?
Las palancas para reducir la energía del entrenamiento: partir de un preentrenado, ajustar el tamaño, precisión mixta, parada temprana, lugar y hora limpios.
¿Cómo hago más eficientes la búsqueda vectorial y RAG?
Formas de reducir el cómputo de la generación aumentada por recuperación: índices aproximados, menos fragmentos y más cortos, indexación incremental y modelos más pequeños.
Entrenamiento e inferencia eficientes de la IA
Técnicas para reducir la energía de la IA: poda, dispersión, cuantización, destilación, caché KV, procesamiento por lotes, precisión mixta y planificación.
¿Cómo mido la energía que usa la IA en mi propio ordenador o GPU?
Mida la energía de la IA local con contadores de hardware, telemetría de la GPU o un medidor de enchufe, muestree todo el trabajo y reste el consumo en reposo.