RAG, IA generativa y chatbots: términos explicados simple
Una guía corta a los términos que más aparecen cuando se habla de chatbots con IA para empresas, sin tecnicismos innecesarios.
Inteligencia Artificial generativa
La familia de modelos de IA capaces de generar texto, imágenes u otro contenido nuevo a partir de una instrucción, en lugar de solo clasificar o predecir datos existentes. Es la tecnología detrás de los asistentes conversacionales modernos.
LLM (Large Language Model)
El modelo de lenguaje que entiende y genera texto en un chatbot. Se entrena con grandes volúmenes de texto para predecir la respuesta más adecuada a una consulta, y puede combinarse con información específica de tu empresa.
RAG (Retrieval-Augmented Generation)
La arquitectura que le permite a un chatbot "buscar" en tu documentación, manuales o catálogo antes de responder, en lugar de depender solo de lo que el modelo aprendió en su entrenamiento general. Es lo que hace que un asistente responda con la información real de tu empresa y no con datos genéricos o inventados.
Base de conocimiento vectorial
La forma en que se almacena tu documentación para que el sistema RAG la pueda buscar de forma eficiente: cada fragmento de texto se convierte en una representación numérica ("vector") que permite encontrar la información más relevante para una consulta, aunque no use las mismas palabras exactas.
Prompt
La instrucción que define cómo debe comportarse el asistente: su tono, qué información puede usar, cuándo derivar a un humano y qué límites tiene. Es, en buena medida, el "manual de instrucciones" del bot.
Fine-tuning
Un reentrenamiento adicional del modelo con ejemplos específicos de tu caso de uso. Es distinto de RAG: mientras RAG le da al modelo información para consultar en el momento, el fine-tuning ajusta el comportamiento del modelo en sí. La mayoría de los chatbots empresariales usan RAG por ser más simple de mantener y actualizar.
Multi-tenant
El modelo de infraestructura donde una misma plataforma atiende a muchos clientes distintos sobre la misma base compartida. Es la arquitectura típica de las plataformas SaaS genéricas de chatbot, y se diferencia de la infraestructura privada o dedicada.
Infraestructura on-premise / privada
El despliegue del chatbot en un entorno dedicado a una sola empresa, ya sea en un servidor propio (on-premise) o en una nube privada exclusiva, en lugar de una plataforma compartida con otros clientes.
Derivación a humano (human-in-the-loop)
El mecanismo por el cual el chatbot escala una conversación a una persona cuando no puede resolverla, generalmente con el historial completo para que el operador no tenga que empezar de cero.
Alucinación
Cuando un modelo de IA genera una respuesta que suena convincente pero es incorrecta o inventada. Una arquitectura RAG bien implementada, con instrucciones claras de no responder fuera de la base de conocimiento, reduce mucho este riesgo frente a un modelo sin ese control.
¿Querés ver estos conceptos aplicados? Mirá cómo los usamos en chatbot privado vs. genérico.