Modelo de lenguaje grande (LLM)
Última actualización:
Qué es un modelo de lenguaje grande
Un modelo de lenguaje calcula qué palabra, o más exactamente qué token, es más probable que venga después en un texto. Un modelo de lenguaje grande lo hace con una red neuronal de miles de millones de parámetros, entrenada con grandes colecciones de textos públicos, libros y código. Esa escala es lo que le permite resumir, traducir, responder preguntas y seguir instrucciones sin programarlo para cada tarea.
Entre las familias de LLM más conocidas están los modelos GPT de OpenAI, Claude de Anthropic, Gemini de Google, Llama de Meta y los modelos de Mistral. Se diferencian en tamaño, coste, velocidad, idiomas que dominan y fiabilidad al seguir instrucciones.
Cómo funciona un LLM
Crear y usar un LLM ocurre, a grandes rasgos, en tres fases:
Un LLM no tiene conexión directa con internet ni con tus sistemas, salvo que la aplicación que lo usa se la proporcione. Su conocimiento termina en su fecha de corte de entrenamiento y todo lo que lee durante una conversación tiene que caber en su ventana de contexto.
- Preentrenamiento: el modelo lee cantidades enormes de texto y aprende a predecir el siguiente token. Así asimila gramática, datos, estilos y patrones de razonamiento.
- Ajuste con instrucciones y valoraciones: un entrenamiento adicional con ejemplos de respuestas útiles y valoraciones humanas le enseña a seguir instrucciones y a rechazar peticiones dañinas.
- Inferencia: cuando envías un prompt, el texto se divide en tokens y el modelo genera la respuesta token a token, cada elección basada en todo lo anterior.
Ejemplo
Si preguntas a un LLM generalista «¿Qué horario tiene la panadería García de la calle Mayor?», no puede saberlo, porque esa información no estaba en sus datos de entrenamiento o ha cambiado desde entonces. Puede que lo diga o puede que invente una respuesta plausible. Si das al mismo modelo la página actualizada de horarios como parte del prompt, responde correctamente y en el idioma del visitante.
Por qué los LLM importan en los chatbots de empresa
El LLM es el motor de un chatbot con IA, pero por sí solo no es una fuente fiable de datos sobre tu empresa. Por eso los chatbots de empresa combinan el LLM con una búsqueda en tu propio contenido, instrucciones claras y reglas sobre qué hacer cuando falta información. El modelo influye en la calidad de las respuestas, la velocidad y el coste, y los proveedores lo actualizan con frecuencia, así que quien gestiona el chatbot debe probar y mantener esa elección.
Cómo usa intoCHAT los LLM
intoCHAT ejecuta cada agente con un modelo de OpenAI que intoCHAT elige y gestiona. No eliges el modelo ni ajustas sus parámetros: orientas las respuestas con tu contenido, tus instrucciones y tus pares de preguntas y respuestas. En cada mensaje, intoCHAT recupera los fragmentos relevantes de tus fuentes y se los pasa al modelo junto con reglas que mantienen las respuestas ancladas a ese material.