¿Cuándo elegirías un modelo de IA menos capaz?
Razones de ingeniería, más allá del costo, para elegir un modelo de IA más pequeño o menos capaz.
Desde una perspectiva puramente técnica, ¿qué razones hay para elegir un modelo de IA menos capaz si tienes acceso a uno más potente?
Dejemos el costo a un lado por un momento. Me interesan las razones de ingeniería: latencia, privacidad, restricciones de despliegue, previsibilidad o mejor rendimiento en una tarea específica. ¿Y cómo decides si esas ventajas compensan la diferencia de capacidad?
¿Cuál sería un ejemplo concreto en el que elegirías deliberadamente el modelo menos capaz y por qué?
#AI #LLMs #AIEngineering