En resumen
Defina qué significa «suficientemente bueno» con ejemplos reales, pruebe luego los modelos del más pequeño al más grande y quédese con el primero que apruebe. Los modelos pequeños y específicos para una tarea pueden consumir una fracción de la energía de los grandes modelos generales: la UNESCO y el University College London informan de ahorros de hasta el 90% en tareas adecuadas.
Pasos
- Anote la tarea y un umbral de aprobado, como la proporción de respuestas que deben ser correctas.
- Reúna entre 20 y 50 ejemplos reales con los que hacer pruebas.
- Pruebe primero el modelo más pequeño o «mini», y pase a uno mayor solo si no alcanza el umbral.
- Consulte etiquetas energéticas públicas como el AI Energy Score cuando existan.
- Reserve un modelo más grande para los casos que el pequeño no pueda resolver.
- Vuelva a probar cuando cambien los modelos o su tarea.
Use el modelo más pequeño que alcance su nivel de calidad, no el más capaz disponible. Un gran modelo general paga, en cada solicitud, por capacidades que su tarea quizá nunca use.
¿Por qué importa tanto el tamaño del modelo?
Suele ser la palanca individual más importante sobre la energía. Luccioni, Jernite y Strubell observaron que los modelos generativos multiuso son órdenes de magnitud más caros de ejecutar que los sistemas específicos para las mismas tareas. La UNESCO y el University College London hallaron que los modelos pequeños adaptados a tareas concretas podían reducir el consumo de energía hasta en un 90%.
¿Cómo pruebo a los candidatos?
- Defina el nivel con su propio trabajo, por ejemplo «extrae correctamente el total de la factura el 98% de las veces».
- Pruebe primero los pequeños. Muchos proveedores ofrecen versiones «mini», «lite» o «flash»; las familias de pesos abiertos vienen en varios tamaños.
- Deténgase en el primero que apruebe. Más grande no es automáticamente más preciso en tareas acotadas.
- Compare la energía, no solo el precio. El AI Energy Score de Hugging Face califica los modelos abiertos de una a cinco estrellas según la energía por consulta en tareas comunes; consulte interpretar una calificación del AI Energy Score.
Para los usuarios cotidianos, la idea es la misma: elija la opción rápida o ligera de su chatbot para las preguntas sencillas.
Errores frecuentes
- Elegir por reputación en lugar de probar con sus propios ejemplos.
- Medir el coste por llamada, no por acierto. Un modelo demasiado pequeño que falla y obliga a repetir con uno grande puede costar más en total.
- No revisar nunca la elección. Los modelos pequeños mejoran deprisa; vuelva a probar cada pocos meses.
Para enviar automáticamente cada solicitud al tamaño adecuado, consulte enrutar solicitudes a modelos más pequeños. El método completo está en elegir el modelo adecuado.
Fuentes
- Smarter, smaller, stronger: resource-efficient generative AI and the future of digital transformation, UNESCO and University College London (2025)
- Power Hungry Processing: Watts Driving the Cost of AI Deployment?, Luccioni, Jernite and Strubell, ACM FAccT (2024)
- AI Energy Score, Hugging Face (2025)
Relacionado
Elija el modelo adecuado para cada tarea
Cómo dimensionar bien la IA: cuándo usar modelos pequeños o especializados, cuándo compensa un modelo de frontera, cómo funciona el enrutamiento y cuándo no usar IA.
¿Cómo encuentro un modelo específico para una tarea en lugar de usar un chatbot general?
Cómo encontrar un modelo pequeño creado para un solo trabajo, como clasificar, extraer o traducir, y comprobar que iguala a un chatbot general con menos energía.
¿Cómo enruto las solicitudes a modelos más pequeños?
Cómo enviar las solicitudes rutinarias a un modelo pequeño y solo las difíciles a uno grande, y cómo ajustar el enrutador para que los reintentos no se coman el ahorro.
¿Cómo comparo el consumo de energía de distintos modelos de IA?
Cómo comparar con justicia la energía de los modelos de IA: use referencias como el AI Energy Score o mídalos usted con la misma tarea, hardware y ajustes.