¿Prompting, RAG o fine-tuning? El camino de decisión

Tres caminos resuelven un problema de IA de forma fundamentalmente distinta: elegir el equivocado cuesta semanas de trabajo para un efecto que un mejor prompt habría logrado en una hora.

No es un capítulo de fundamentos

Qué significa técnicamente el fine-tuning lo explica el capítulo "Fine-tuning: seguir entrenando un modelo". Aquí se trata de la decisión previa: ¿cuándo vale la pena mejorar el prompting, cuándo RAG, cuándo realmente fine-tuning?

Paso 1: probar primero con prompting

Un system prompt más claro, mejores ejemplos o una estructura de salida fija resuelven sorprendentemente muchos problemas, no cuestan nada más que tiempo y actúan de inmediato. El prompting no cambia las capacidades del modelo, pero suele dirigir suficientemente bien el tono, el formato y el enfoque.

Paso 2: RAG cuando falta conocimiento

Si la tarea fracasa porque al modelo le falta conocimiento actual o propio de la empresa —listas de precios, documentos internos, contenido publicado la semana pasada—, RAG es la palanca correcta, no el fine-tuning. El fine-tuning graba nuevos hechos de forma poco fiable; RAG los entrega frescos en cada consulta.

Paso 3: el fine-tuning solo como último paso

El fine-tuning vale la pena solo cuando el prompting y RAG ya se han agotado y un formato o comportamiento fijo sigue sin cuajar, o con un volumen muy alto, donde prompts más cortos ahorran costes y latencia de forma perceptible.

Los criterios de un vistazo

Cantidad de datos, frecuencia de cambio del conocimiento (los cambios frecuentes favorecen RAG en lugar de un nuevo entrenamiento), coste y tiempo requerido (prompting: minutos, RAG: días, fine-tuning: semanas) y consistencia de formato con alto volumen.

EJEMPLO

Tabla de decisión para tres casos de ejemplo: Caso A: 'El modelo no conoce nuestros precios de productos actuales.' → laguna de conocimiento, cambia con frecuencia → RAG Caso B: 'Las respuestas son demasiado formales, necesitamos un tono de marca más desenfadado.' → cuestión de comportamiento/estilo, no falta conocimiento → prompting (system prompt con ejemplos) Caso C: 'Con 2 millones de tickets de soporte al mes, la clasificación debe ejecutarse ultra ajustada y siempre en el mismo formato JSON exacto; los prompts largos son demasiado caros.' → volumen alto, consistencia fija, presión de costes → fine-tuning

🛠️ EJERCICIO — PRUÉBALO TÚ

Asigna tres problemas reales o inventados de tu entorno cada uno a uno de los tres caminos y justifica la elección.

Reúne tres problemas de IA distintos que hayas encontrado o que te resulten plausibles (por ejemplo, tono incorrecto, falta de conocimiento técnico, formato de salida inconsistente con alto volumen).
Comprueba primero para cada problema: ¿bastaría con un mejor prompt?
Comprueba después: ¿falta realmente conocimiento que cambia?
Solo después determina si alguno de los tres problemas realmente justifica el fine-tuning, y justifica por qué los otros dos caminos no bastan para ese caso.

✅ AUTOEVALUACIÓN

☐ ¿Comprobaste primero el prompting para cada problema antes de recurrir a una solución más costosa?
☐ ¿Puedes indicar concretamente para tu problema candidato a fine-tuning por qué RAG NO bastaría en ese caso?

QUIZ RÁPIDO

Un equipo constata: el modelo simplemente no tiene el conocimiento necesario (la lista de precios actual de la empresa). ¿Cuál de los tres caminos encaja primero según la lógica de decisión?