En resumen
Defina la tarea con precisión, busque luego en un repositorio de modelos como Hugging Face por tipo de tarea y pruebe dos o tres candidatos pequeños con sus propios ejemplos. Un modelo creado para un solo trabajo puede ser órdenes de magnitud más barato de ejecutar que un modelo generativo general que haga lo mismo, así que merece la pena dedicar una tarde a probarlo antes de decidirse por un chatbot.
Pasos
- Describa la tarea en una línea, por ejemplo «clasificar los correos de soporte en seis categorías».
- Busque en un repositorio de modelos filtrando por ese tipo de tarea, por ejemplo clasificación de texto o traducción.
- Preseleccione dos o tres modelos pequeños y compruebe sus licencias e idiomas.
- Pruebe cada uno con 50 a 100 de sus propios ejemplos reales y un umbral de aprobado.
- Compare la energía por solicitud cuando exista una calificación, y reserve un modelo general solo para los casos que fallen.
Para trabajos bien definidos, un modelo entrenado para ese trabajo suele ser más barato y a menudo igual de bueno. Un chatbot general paga, en cada solicitud, por capacidades que su tarea nunca usa.
¿Por qué importa?
Luccioni, Jernite y Strubell compararon muchos modelos en tareas comunes y hallaron que los modelos generativos multiuso eran órdenes de magnitud más caros de ejecutar que los sistemas específicos para las mismas tareas. La UNESCO y el University College London informan de que los modelos pequeños específicos pueden reducir el consumo de energía hasta en un 90%.
¿Dónde busco?
Empiece por un repositorio público de modelos y busque por tarea, no por marca. Hugging Face, por ejemplo, permite filtrar los modelos por tareas como clasificación de texto, reconocimiento de entidades nombradas, resumen, traducción o reconocimiento de voz. Busque:
- modelos ajustados con datos parecidos a los suyos (mismo idioma, mismo tipo de texto);
- una tarjeta del modelo clara que indique con qué se entrenó y cómo se evaluó;
- un tamaño que pueda permitirse ejecutar, medido en parámetros.
Para comparar la energía, el AI Energy Score califica los modelos según la energía de GPU en diez tareas comunes, de una a cinco estrellas.
Errores frecuentes
- Juzgar solo por las pruebas de referencia públicas. Pruebe con sus propios ejemplos; es la única puntuación que le importa.
- Pedir a un chatbot una clasificación masiva. Si va a etiquetar miles de elementos, un clasificador pequeño es más rápido y más barato.
- Olvidar la alternativa. Reserve un modelo más grande para los casos difíciles, y consulte cómo enrutar solicitudes a modelos más pequeños.
Para el método completo, lea elegir el modelo adecuado.
Fuentes
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- AI Energy Score, Hugging Face (2025)
Relacionado
¿Cómo elijo un modelo de IA más pequeño?
Cómo elegir el modelo de IA más pequeño que haga bien su tarea: fije un nivel de calidad, pruebe de menor a mayor y tenga uno grande de reserva.
¿Cómo decido si basta el aprendizaje automático clásico en lugar de un LLM?
Una prueba rápida para científicos de datos: cuándo una regresión, un modelo de árboles o un clasificador pequeño supera a un LLM en coste, energía, rapidez y fiabilidad.
¿Cómo comparo el consumo de energía de distintos modelos de IA?
Cómo comparar con justicia la energía de los modelos de IA: use referencias como el AI Energy Score o mídalos usted con la misma tarea, hardware y ajustes.
Elija el modelo adecuado para cada tarea
Cómo dimensionar bien la IA: cuándo usar modelos pequeños o especializados, cuándo compensa un modelo de frontera, cómo funciona el enrutamiento y cuándo no usar IA.