Fine-tuning (ajuste fino)
Última actualización:
Qué es el fine-tuning
Los modelos de lenguaje grandes empiezan con un preentrenamiento general sobre enormes cantidades de texto. El fine-tuning es un segundo entrenamiento, mucho más pequeño, con ejemplos que eliges tú, normalmente pares de entrada y salida deseada. El resultado es una nueva versión del modelo cuyos parámetros internos, llamados pesos, se han desplazado hacia esos ejemplos.
El fine-tuning funciona bien para enseñar patrones: un tono constante, un formato de salida fijo, un esquema de clasificación o un lenguaje propio del sector. Encaja peor con datos que cambian, como precios, stock u horarios, porque cada cambio exigiría otro entrenamiento.
Cómo funciona el fine-tuning
Un proyecto de fine-tuning típico sigue cuatro pasos:
- Reunir ejemplos: pares de entrada y salida de calidad que muestren el comportamiento deseado. La calidad y la coherencia importan más que el volumen.
- Entrenar: el proveedor del modelo o tu propia infraestructura ajusta los pesos del modelo con esos ejemplos, a menudo con métodos como LoRA que solo modifican una pequeña parte del modelo.
- Evaluar: comparar el modelo ajustado con el original en preguntas de prueba que no ha visto, para comprobar que mejora sin perder capacidades generales.
- Desplegar y mantener: el modelo ajustado sustituye al modelo base en tu aplicación y hay que volver a entrenarlo cuando el modelo base se retira o cambia el comportamiento deseado.
Ejemplo
Un despacho de abogados quiere que su asistente interno resuma las llamadas con clientes en un formato estricto de cinco partes. Solo con instrucciones, el formato sale bien casi siempre, pero no siempre. El despacho aplica fine-tuning a un modelo con unos cientos de resúmenes escritos por su equipo, y el modelo ajustado respeta el formato con más constancia. Para los datos factuales, como las tarifas vigentes, el despacho sigue usando la recuperación de documentos, porque esos datos cambian a lo largo del año.
Por qué importa en los chatbots de empresa
En la mayoría de los chatbots web, la tarea principal es responder con precisión a partir del contenido actual de la empresa. La generación aumentada por recuperación (RAG) suele hacerlo mejor que el fine-tuning: los cambios se aplican en cuanto el contenido se vuelve a indexar, las respuestas se pueden rastrear hasta sus fuentes y no hace falta crear un conjunto de datos de entrenamiento. El fine-tuning merece la pena cuando una empresa necesita un comportamiento concreto que no consigue con instrucciones claras y ejemplos, y tiene los datos y el presupuesto para mantener un modelo propio.
| Fine-tuning | RAG | |
|---|---|---|
| Qué cambia | Los pesos del modelo | El texto que recibe el modelo |
| Ideal para | Estilo, formato, tareas concretas | Datos, políticas, información de producto |
| Actualizar el conocimiento | Volver a entrenar el modelo | Editar y volver a indexar el contenido |
| Trazabilidad | Difícil saber de dónde sale una respuesta | Las respuestas remiten a fragmentos de origen |
El fine-tuning e intoCHAT
intoCHAT no hace fine-tuning de modelos. Cuando «entrenas» un agente de intoCHAT, tus páginas web, archivos, fragmentos de texto y pares de preguntas y respuestas se convierten en fragmentos consultables con embeddings. El modelo de base, un modelo de OpenAI elegido y gestionado por intoCHAT, no cambia. Por eso los cambios se aplican en cuanto vuelves a entrenar una fuente, sin esperar a un ciclo de entrenamiento. El tono y el comportamiento los defines con las instrucciones del agente y con pares de preguntas y respuestas para lo que deba ser exacto.