En una conversación humana, los turnos se encadenan con pausas de unos 200-300 milisegundos; nuestro oído está calibrado para ese ritmo. Cuando la respuesta tarda más de un segundo, percibimos un silencio incómodo: el llamante duda de si le han oído, repite la frase o habla encima de la respuesta que por fin llega.
En un agente de voz IA, la latencia total es la suma de una cadena: detectar que el hablante ha terminado (los sistemas esperan una pausa para no interrumpir), transcribir con el ASR, generar la respuesta con el modelo de lenguaje, sintetizarla con el TTS y transportar el audio por la red. Cada eslabón aporta décimas de segundo.
La regla práctica del sector sitúa el objetivo por debajo de unos 800 ms de media entre el fin del turno del usuario y el primer sonido de la respuesta. Se consigue con procesamiento en streaming (cada etapa empieza antes de que acabe la anterior), modelos rápidos, infraestructura cercana al usuario y trucos conversacionales legítimos, como emitir un «un momento, lo compruebo» mientras se completa una consulta lenta.
En la telefonía en general, la latencia de red también degrada la conversación entre humanos: la recomendación clásica de la UIT (norma G.114) es mantener el retardo de ida por debajo de 150 ms para una calidad buena en VoIP.
También se conoce como
- latencia conversacional
- tiempo de respuesta de voz
- retardo de voz
Términos relacionados
- Agente de voz IAUn agente de voz IA es un programa que mantiene conversaciones telefónicas en tiempo real combinando reconocimiento de voz (ASR), un modelo de lenguaje (LLM) y síntesis de voz (TTS). A diferencia de un IVR de menús, entiende peticiones en lenguaje natural y puede ejecutar acciones como agendar, informar o transferir la llamada.
- VoIP (voz sobre IP)VoIP (Voice over IP, voz sobre IP) es la tecnología que transmite llamadas de voz a través de redes de datos como internet, en lugar de por la red telefónica conmutada tradicional. Convierte la voz en paquetes de datos y es la base de las centralitas virtuales y la telefonía en la nube.
- Síntesis de voz (TTS)La síntesis de voz o TTS (text-to-speech) es la tecnología que convierte texto escrito en voz hablada. Los modelos neuronales actuales generan voces con entonación, ritmo y pausas naturales, muy difíciles de distinguir de una locución humana en frases cortas.
- Reconocimiento de voz (ASR)El reconocimiento de voz o ASR (automatic speech recognition) es la tecnología que convierte automáticamente la voz humana en texto. Es la primera pieza de cualquier sistema de voz con IA: transforma lo que dice el llamante en texto que un modelo de lenguaje puede procesar.