Como estructurar una base de conocimiento para IA de voz
Estructurala en chunks de Markdown recursivos de 512 tokens etiquetados con metadatos de producto, region y audiencia, recuperados con un umbral de similitud de 0,65 o superior y una instruccion de rechazo explicita. Este es el patron de cuatro capas (curacion, chunking, delimitacion por metadatos y recuperacion con rechazo por defecto) que usan los agentes de voz en produccion en plataformas como Retell AI para evitar el fallo de inventarse pasos.
El resto de esta guia desglosa cada capa con los valores de configuracion exactos, una estructura de referencia inspirada en bibliotecas de soporte empresarial como la de Lenovo y el protocolo de pruebas que detecta las alucinaciones antes de que lleguen a quien llama.
Una arquitectura de recuperacion que fundamenta cada respuesta del agente en tu contenido verificado, impide que el modelo invente pasos y se mantiene dentro del presupuesto de latencia que exigen las conversaciones telefonicas naturales.
Al final de este tutorial, tu base de conocimiento:
Archiva todo documento desactualizado, contradictorio o que no sea la unica fuente de verdad sobre su tema antes de indexar una sola pagina. La mayor fuente de alucinaciones de un agente de voz no es el modelo. Es el contenido contradictorio o desactualizado del material de origen.
Si dos paginas no coinciden sobre tu plazo de reembolso, el recuperador no tiene forma de elegir la correcta y el LLM leera con total seguridad el chunk que gane la puntuacion de similitud. Reune todos los documentos, preguntas frecuentes y articulos de ayuda que pienses indexar. Para cada uno, comprueba tres cosas: si esta vigente este trimestre, si es la unica fuente de verdad sobre su tema y si coincide con lo que tus agentes de soporte senior dicen realmente en las llamadas. Si un documento no deberia usarse para responder preguntas de clientes, no deberia estar en tu base de conocimiento en absoluto. ElevenLabs
Ahora deberias tener un conjunto curado de documentos que te sentirias comodo enviando literalmente a un cliente.
Convierte todo a Markdown estructurado con un H1 por documento, un H2 descriptivo por cada pregunta de usuario que se pueda resolver y parrafos cortos con sujetos explicitos. Los agentes de voz recuperan chunks de texto, no paginas web renderizadas. Markdown es el formato que sobrevive al pipeline de chunking conservando intacta la mayor parte de la estructura semantica.
La propia documentacion de Retell recomienda Markdown frente a .txt porque los encabezados bien estructurados dan al recuperador limites claros por los que dividir. Sustituye cada "haz clic aqui" o "como se describe mas arriba" por la referencia concreta, porque el chunk que contiene "mas arriba" puede recuperarse sin el chunk al que apunta. Cada chunk se lee de forma aislada, asi que cada chunk debe tener sentido por si solo.
Ahora deberias tener una carpeta de archivos Markdown en la que cada archivo cubre un area de producto y cada H2 cubre una pregunta de usuario que se puede resolver.
Usa chunking recursivo de 512 tokens con un solapamiento del 10-15%, dividiendo primero por encabezados de Markdown, luego por parrafos y luego por frases. Este es el valor por defecto validado en benchmarks para contenido general de RAG y funciona bien en concreto para material de soporte por voz.
Un divisor recursivo de 512 tokens bien ajustado, con un solapamiento del 15% y enriquecimiento de metadatos, supera a un costoso enfoque de chunking semantico en la mayoria de los conjuntos de documentos reales. Los chunks largos llenan de ruido la ventana de contexto del LLM. Los chunks cortos fragmentan las instrucciones entre varias recuperaciones y hacen que el agente se salte pasos a mitad de la explicacion. La regla estricta: nunca dividas un procedimiento numerado entre dos chunks. Si el "paso 3" esta en el chunk A y el "paso 4" en el chunk B, el recuperador puede devolver uno sin el otro y tu agente se saltara una accion. Substack
Ahora deberias tener chunks en los que cada unidad contiene un procedimiento completo o bien contiene prosa contextual que tiene sentido sin sus vecinos.
Etiqueta cada chunk con un minimo de cinco campos: product, version, region, audience y last_verified_date. Esto es lo que evita que quien llama desde Texas escuche las politicas de devolucion de California y evita que una pregunta sobre ThinkPad recupere respuestas sobre ThinkCentre.
Si un mismo agente ve contenido de la KB para varios estados o ubicaciones, la recuperacion puede sacar el chunk del estado equivocado (por ejemplo, la politica de California para quien llama desde Texas) a menos que la delimitacion y los metadatos se disenen con cuidado. El mismo problema se aplica a las lineas de producto, las versiones de software, los niveles de cliente y los canales de soporte. En tiempo de ejecucion, tu agente pasa los filtros relevantes con la consulta para que la busqueda vectorial solo considere los chunks que coinciden con el contexto de quien llama. En Retell, puedes pasarlos como variables dinamicas recopiladas antes en la llamada. Optimize Smart
Ahora deberias tener un esquema de metadatos en el que cualquier chunk pueda delimitarse de forma univoca a un unico contexto de quien llama.
Fija el umbral de similitud en 0,65 o superior y limita la recuperacion a entre 3 y 5 chunks. Un sistema de recuperacion que siempre devuelve algo es una maquina de alucinaciones disfrazada.
Cuando quien llama pregunta por una funcion que no documentas, el recuperador seguira sacando la coincidencia semantica mas cercana. El LLM recibira ese chunk y lo integrara con fluidez en una respuesta equivocada. En los ajustes de la base de conocimiento de Retell, dos parametros controlan este comportamiento. El parametro "Chunks to retrieve" define cuantos resultados se pasan al LLM (por defecto 3, con un maximo recomendado de 5 para voz). El "Similarity Threshold" fija la similitud coseno minima para que un chunk se considere relevante (por defecto 0,6). En casos de soporte de software donde una informacion equivocada es peor que ninguna informacion, sube el umbral a 0,7.
Ahora deberias ver que tu sistema de recuperacion devuelve menos coincidencias, pero de mayor calidad, y rechaza las marginales.
Anade esta instruccion exacta al prompt del agente: "Responde unicamente usando la informacion de ## Related Knowledge Base Contexts. Si esa seccion falta o no contiene informacion relevante, indica que no hay informacion relacionada disponible y ofrece transferir la llamada." Esta unica instruccion es el control antialucinaciones mas eficaz en cualquier agente de voz.
Sin ella, el LLM recurrira a sus datos de entrenamiento cuando la recuperacion vuelva vacia. Este es el fallo que hay detras de casi todos los desastres publicos de chatbots, incluido el caso de la tarifa por duelo de Air Canada, en el que se declaro a la aerolinea legalmente responsable. El patron de rechazo cambia el fallo de "respuesta equivocada con seguridad" a "honesto, dejame pasarte con una persona", que es exactamente lo que quiere quien llama y usa tu software cuando el sistema se topa con un caso limite.
Ahora deberias ver que tu agente dice "No tengo eso documentado; dejame transferirte" ante preguntas fuera de ambito, en lugar de inventarse pasos.
Activa la actualizacion automatica en las fuentes de URL para que Retell vuelva a recuperarlas cada 24 horas, versiona tus archivos Markdown en Git y haz una revision trimestral de todo archivo cuya last_verified_date tenga mas de 90 dias. El conocimiento desactualizado es el aliado silencioso de las alucinaciones.
Si la base de conocimiento esta desactualizada, el RAG simplemente recupera la respuesta equivocada mas rapido. La solucion es automatizar la actualidad en lugar de depender de que alguien se acuerde de volver a subir los archivos cuando cambie la documentacion de producto. Combina la actualizacion automatica con el rastreo automatico de las subrutas del centro de ayuda para que los articulos nuevos se indexen de forma automatica sin intervencion manual. CX Today
Ahora deberias tener una base de conocimiento que se actualiza sola cuando cambia tu contenido de base, sin intervencion humana.
Pasa tus 50 preguntas reales de quienes llaman por el sistema de recuperacion e inspecciona lo que devuelve antes de que se produzca ninguna generacion del LLM. Para cada consulta importan tres cosas: si el chunk correcto esta entre los 3 primeros, si la puntuacion de similitud supera tu umbral y si una persona que leyera solo los chunks recuperados podria responder a la pregunta.
Para cualquier pregunta en la que la recuperacion falle, la solucion casi siempre esta en el origen. O falta por completo el contenido relevante, o el chunking dividio un procedimiento entre limites, o los metadatos lo estan filtrando. Resiste la tentacion de arreglar los fallos de recuperacion anadiendo instrucciones al prompt del agente. Los parches en el prompt son la via por la que las bases de conocimiento acaban convirtiendose en un caos inmanejable. Aspira a una precision de recuperacion superior al 90% en el conjunto de pruebas antes de desplegar en llamadas reales.
Ahora deberias tener una cifra medida de precision de recuperacion para tus principales preguntas de quienes llaman y una lista de correcciones en los documentos de origen para las preguntas que fallaron.
Usa un flujo de conversacion con bases de conocimiento a nivel de nodo para cualquier agente de voz en el que la intencion de quien llama se divida en flujos de trabajo diferenciados, sobre todo en soporte de software, programacion de citas sanitarias y entornos multiproducto. Una base de conocimiento plana bajo un unico prompt es la arquitectura mas laxa posible.
En el soporte de software en concreto, el patron de mayor calidad es un flujo de conversacion en el que cada nodo solo recupera de la parte de la documentacion relevante para esa fase de la llamada. Un flujo tipico de soporte de software tiene nodos para el triaje, la consulta de cuenta, la resolucion de problemas, el escalado y la confirmacion posterior a la resolucion. El nodo de resolucion de problemas carga la KB de resolucion de problemas. El nodo de consulta de cuenta no carga ninguna KB, porque deberia estar llamando a una API. Esta estructura es mas fiable de mantener que un unico prompt gigante con una unica KB gigante. Combinalo con el analisis posterior a la llamada integrado para ver que nodos estan lanzando recuperaciones y que consultas vuelven por debajo del umbral.
Ahora deberias tener un despliegue en el que el alcance de la recuperacion se estrecha a medida que la conversacion se concreta, en lugar de que cada turno busque en todos los documentos.
Organiza la base de conocimiento por niveles segun la audiencia y delimita la recuperacion al nivel de quien llama. Este es el patron estructural que usa la biblioteca de soporte empresarial de Lenovo para evitar que el contenido de gestion del aula dirigido al profesorado choque con el contenido tecnico de ingenieria.
Lenovo establecio tres niveles de articulos —temas generales e informacion de producto, temas especificos para el profesorado y temas y problemas tecnicos—, con articulos centrados, eliminando redundancias y estandarizando las convenciones de nomenclatura en los tres niveles. Aplica el mismo patron a una base de conocimiento de IA de voz: Contiem
Nivel 1: producto general y precios. Datos de cara al publico que cualquiera que llame podria preguntar. Etiquetado audience: all. Indexa todo.
Nivel 2: guias para el usuario final. Procedimientos paso a paso para quien llama de forma estandar. Etiquetado audience: end_user, delimitado por product y region. Este nivel concentra el grueso del trafico de recuperacion.
Nivel 3: tecnico y de administracion. Configuracion, integraciones y casos limite. Etiquetado audience: admin. Solo se recupera cuando se ha identificado antes en la llamada que quien llama es administrador.
Los runbooks internos, las matrices de escalado y las notas de ingenieria van en una base de conocimiento completamente aparte, nunca accesible para el agente de cara al cliente. Los niveles son lo que evita que una llamada de resolucion de problemas de un usuario final saque por accidente un procedimiento de escalado interno.
No. La base de conocimiento sirve para aportar informacion de apoyo, no el comportamiento del agente. Si te descubres subiendo un archivo Markdown titulado "Como debe comportarse el agente cuando ocurre X", ese contenido corresponde al prompt o a un nodo del flujo de conversacion. Mezclarlos diluye ambos: el recuperador clasifica las instrucciones de comportamiento frente a las consultas factuales y las saca en los momentos equivocados.
Empieza por el objetivo del usuario, no por el nombre de la funcion. "Configurar la autenticacion de dos factores" pasa a ser "Activar el inicio de sesion en dos pasos". El recuperador coteja con las palabras habladas de quien llama, y las preguntas en lenguaje natural coinciden mucho mejor con encabezados en lenguaje natural que con la terminologia de producto.
Cada chunk se recupera por separado. Usa nombres completos en lugar de pronombres, nombres completos de producto en lugar de "la plataforma" y repite cualquier contexto condicional en cada paso en lugar de decir "si usas la consola de administracion, entonces..." tres parrafos despues. Esta unica regla elimina una fraccion sorprendente de alucinaciones, porque suprime la ambiguedad que, de lo contrario, el LLM intenta resolver adivinando.
Captura los chunks recuperados, las puntuaciones de similitud y los filtros de metadatos de cada llamada junto con la transcripcion. Registrar solo la respuesta final del agente hace casi imposible depurar las alucinaciones: ves la respuesta equivocada, pero no si el recuperador devolvio el chunk equivocado o si el chunk correcto se genero de forma incorrecta. La mayoria de los tickets de "alucinacion" resultan ser problemas de clasificacion en la recuperacion, que se corrigen en el origen.
El pipeline de chunking no puede conservar las relaciones espaciales que hacen legibles las tablas, asi que una celda a menudo se recupera sin su encabezado de columna. Reescribe las tablas criticas como prosa con frases explicitas. "El plan Pro admite 50 usuarios e incluye acceso a la API" es mejor que una celda de tabla que el recuperador separa de su encabezado de columna.
Una base de conocimiento con 4000 chunks de los que 50 son relevantes para quien llama es peor que una con 400 chunks de los que 50 son relevantes, porque el recuperador tiene 10 veces mas coincidencias en competencia que lo confunden. En su lugar, construye bases de conocimiento acotadas por flujo de trabajo y vinculalas a nivel de nodo.
Cuando el agente dice algo incorrecto, el instinto es anadir "no digas X" al prompt. Con tres de estas el prompt se vuelve contradictorio; con diez, inmanejable. Averigua por que el LLM dijo X. Casi siempre, un chunk de la KB lo sugirio, o la ausencia de un chunk obligo al modelo a recurrir a los datos de entrenamiento. Parchea el origen.
Cada chunk adicional anade tokens al prompt y milisegundos a la respuesta. Poner "chunks to retrieve" en 10 porque mas contexto parece mas seguro es un error habitual. Quedate en 3 chunks para el contenido de soporte tipico, sube a 5 solo cuando las preguntas de quien llama abarquen varios temas y no subas mas a menos que hayas medido que mejora la precision.
Porque se permite que el agente hable sin una instruccion de rechazo explicita. Se declaro responsable al chatbot de Air Canada tras generar una politica de duelo inexistente que contradecia las normas reales de la aerolinea, y fallos similares siguen repitiendose entre proveedores que se saltan la capa de rechazo. Haz que el rechazo sea explicito, comprueba que se activa y trata cualquier caso en el que el agente invente informacion como un bug P0. CanLII
Anadir un documento nuevo cambia el panorama de recuperacion de todas las consultas existentes. Un chunk que ayer quedaba primero puede quedar tercero hoy. Manten automatizado el conjunto de pruebas de 50 preguntas y vuelve a ejecutarlo siempre que el contenido de base cambie de forma significativa.
SWTCH desplego un agente de voz impulsado por Retell llamado Lucas para atender las llamadas de soporte de cargadores de VE, en las que quien llama suele estar ante un cargador averiado, con la bateria baja y sin paciencia para una instruccion equivocada. La implementacion redujo los costes de soporte en mas de un 50% y mejoro notablemente los margenes de SaaS, con el agente respondiendo en segundos en lugar de minutos. El listón de fiabilidad lo marco el caso de uso: un paso equivocado en la resolucion de problemas es la diferencia entre un cargador que funciona y un conductor tirado.
Anker implanto Retell en su soporte global de electronica de consumo, donde quienes llaman hacen preguntas especificas de producto sobre decenas de SKU y en varios idiomas. El caso practico ilustra por que la delimitacion por metadatos importa a escala. Sin un filtrado a nivel de producto en la recuperacion, una pregunta sobre una barra de sonido puede sacar el manual de una aspiradora, y el agente los combinara con total seguridad. Con una estructura de KB adecuada, el agente se mantiene dentro del contexto del producto durante toda la llamada.
Retell AI impulsa ahora mas de 50 millones de llamadas con IA en tiempo real cada mes para clientes de miles de empresas, sin que se haya reportado ningun agente descontrolado en todo ese volumen. La arquitectura de esta guia es la misma que funciona por debajo de esas llamadas. Yahoo Finance
El chunking recursivo de 512 tokens con un solapamiento del 10-15% es el valor por defecto validado en benchmarks. Los chunks mas pequenos (200-300 tokens) funcionan para contenido tipo preguntas frecuentes; los mas grandes (1024 tokens) funcionan para prosa narrativa. Divide siempre primero por encabezados de Markdown, luego por parrafos y luego por frases.
Anade una instruccion de rechazo explicita al prompt del agente: "Responde unicamente usando la informacion de ## Related Knowledge Base Contexts. Si esa seccion falta o no contiene informacion relevante, responde que no hay informacion relacionada disponible." Combinado con un umbral de similitud de 0,65 o superior, este es el control antialucinaciones individual mas eficaz.
Menos de 100 ms por turno en el pipeline de recuperacion optimizado de Retell, lo que mantiene al agente dentro de la ventana total de respuesta de unos 600 ms que espera quien llama. Si observas una latencia notablemente mayor, comprueba si estas recuperando mas chunks de los necesarios o si el filtrado por metadatos se aplica en el momento de la consulta en lugar de despues de la recuperacion.
El flujo de conversacion gana en el soporte de software y en cualquier escenario donde la intencion de quien llama se divida en flujos de trabajo diferenciados. Las bases de conocimiento a nivel de nodo permiten que cada estado de la conversacion recupere de una porcion acotada de contenido, lo que mejora la precision y simplifica el mantenimiento. Los prompts unicos sirven para casos de uso acotados, como las preguntas frecuentes de un solo producto. La guia de Retell sobre desplegar IA conversacional aborda esta decision de arquitectura con mas detalle.
Activa la actualizacion automatica en las fuentes de URL para que Retell vuelva a recuperarlas cada 24 horas. En los documentos subidos, haz una revision manual siempre que cambie el producto o la politica de base y considera que todo lo que tenga mas de 90 dias necesita verificacion.
Si, en parte. Puedes usar las transcripciones de llamadas exitosas y las grabaciones de agentes senior como material de origen para la base de conocimiento. Extrae los pares de pregunta y respuesta, conviertelos a Markdown e indexalos junto a tu documentacion formal. Esto es especialmente util para captar las expresiones concretas que usan tus mejores agentes, que a menudo resuelven las incidencias mas rapido que el texto oficial del centro de ayuda. No sustituye la documentacion estructurada; la complementa.
Como minimo: product, version, region, audience y last_verified_date. Anade topic para un enrutamiento granular en un flujo de conversacion y compliance_scope si tienes contenido regulado (HIPAA, asesoramiento financiero) que nunca deberia recuperarse fuera de contextos de llamada especificos.
Crea un conjunto de pruebas de entre 50 y 100 preguntas reales de quienes llaman a partir de los tickets de soporte de los ultimos 30 dias. Para cada una, inspecciona los chunks recuperados antes de cualquier generacion del LLM: si el chunk correcto esta entre los 3 primeros, si la puntuacion de similitud supera el umbral y si una persona podria responder a la pregunta solo con esos chunks. Aspira a una precision de recuperacion superior al 90% en el conjunto de pruebas antes de desplegar.
Con una instruccion de rechazo activa y un umbral de similitud de 0,65 o superior, el agente indica que no tiene esa informacion documentada y ofrece tomar un mensaje o hacer una transferencia asistida mediante transferencia de llamadas a un agente humano con todo el contexto de la conversacion. Sin estos controles, el agente recurre a los datos de entrenamiento del LLM subyacente, que es exactamente el fallo que esta guia esta disenada para evitar.
Ahora tienes una arquitectura de base de conocimiento que fundamenta cada respuesta del agente en contenido verificado, delimita la recuperacion segun el contexto de quien llama, se niega a responder cuando la respuesta no esta documentada y se actualiza sola a medida que cambia tu material de origen. Esta es la base que permite a un agente de voz gestionar el soporte de software, sectores regulados o cualquier llamada de alto riesgo en la que un paso equivocado importa mas que uno rapido.
Para llevarlo mas alla, la misma arquitectura de recuperacion admite casos de uso como la automatizacion de la atencion al cliente con IA, la cualificacion de leads con enrutamiento especifico de producto y los recepcionistas con IA para consultas sanitarias donde la delimitacion del cumplimiento no es negociable. Los mismos patrones tambien se aplican a los despliegues en sanidad y seguros, donde el coste de una alucinacion es un problema normativo, no solo de experiencia del cliente.
Empieza a construir gratis con 10 $ en creditos de uso en retellai.com.
Descubre cuánto podría ahorrar tu empresa al pasar a agentes de voz impulsados por IA.
Total Human Agent Cost
AI Agent Cost
Estimated Savings
Un número de teléfono de demostración de Retell Clinic Office
Start building smarter conversations today.
.avif)
.avif)
