Un LLM es una red neuronal —típicamente con arquitectura transformer— entrenada para predecir la siguiente palabra en un texto. De esa tarea aparentemente simple, aplicada a corpus gigantescos, emergen capacidades generales: entender preguntas, seguir instrucciones, resumir, traducir o mantener un diálogo. Modelos como GPT, Claude o Gemini son ejemplos de esta familia.
En un sistema telefónico con IA, el LLM es el «cerebro» que decide qué responder: recibe la transcripción de lo que ha dicho el llamante junto con las instrucciones y datos del negocio (el prompt del sistema) y genera la respuesta que luego pronunciará la síntesis de voz. También decide acciones: cuándo anotar un dato, consultar una agenda o transferir la llamada.
Sus límites son conocidos y hay que diseñarlos fuera: un LLM puede «alucinar» (afirmar con seguridad algo falso), por lo que en aplicaciones de negocio se le restringe a responder solo con la información proporcionada y a reconocer cuándo no sabe algo. Su conocimiento general además tiene fecha de corte, otra razón para alimentarlo con los datos actuales del negocio en cada llamada.
Para el caso telefónico importan dos parámetros más: la velocidad de generación, porque cada décima de segundo suma a la latencia de voz, y la ventana de contexto, que determina cuánta conversación e instrucciones puede tener presentes a la vez el modelo.
También se conoce como
- modelo de lenguaje grande
- gran modelo de lenguaje
- large language model
- modelo de lenguaje
Términos relacionados
- Agente de voz IAUn agente de voz IA es un programa que mantiene conversaciones telefónicas en tiempo real combinando reconocimiento de voz (ASR), un modelo de lenguaje (LLM) y síntesis de voz (TTS). A diferencia de un IVR de menús, entiende peticiones en lenguaje natural y puede ejecutar acciones como agendar, informar o transferir la llamada.
- Reconocimiento de voz (ASR)El reconocimiento de voz o ASR (automatic speech recognition) es la tecnología que convierte automáticamente la voz humana en texto. Es la primera pieza de cualquier sistema de voz con IA: transforma lo que dice el llamante en texto que un modelo de lenguaje puede procesar.
- IA conversacionalLa IA conversacional es la rama de la inteligencia artificial que permite a las máquinas mantener diálogos naturales con personas, por texto o por voz. Combina comprensión del lenguaje, gestión del contexto de la conversación y generación de respuestas, y es la base de los chatbots y agentes de voz modernos.
- Latencia de vozLa latencia de voz es el tiempo que transcurre entre que una persona termina de hablar y su interlocutor —humano o máquina— empieza a responder. En los agentes de voz con IA suma los tiempos de reconocimiento, generación y síntesis; por debajo de unos 800 milisegundos la conversación se percibe como natural.