Come strutturare una knowledge base per l'IA vocale

Come strutturare una knowledge base per l'IA vocale
BACK TO BLOGS
ON THIS PAGE
Back to top

Come strutturare una knowledge base per l'IA vocale in modo che il tuo agente smetta di produrre allucinazioni?

Strutturala in chunk Markdown ricorsivi da 512 token, taggati con metadati di prodotto, area geografica e pubblico, recuperati con una soglia di similaritΓ  di 0,65 o superiore e con un'istruzione di rifiuto esplicita. Questo Γ¨ il modello a quattro livelli (cura dei contenuti, chunking, ambito dei metadati, recupero con rifiuto predefinito) che gli agenti vocali in produzione su piattaforme come Retell AI usano per prevenire la modalitΓ  di errore del passaggio inventato.

Il resto di questa guida analizza ogni livello con i valori di configurazione esatti, una struttura di riferimento modellata sulle librerie di assistenza enterprise come quella di Lenovo e il protocollo di test che individua le allucinazioni prima che raggiungano un chiamante.

Cosa costruirai?

Un'architettura di recupero che ancora ogni risposta dell'agente ai tuoi contenuti verificati, impedisce al modello di inventare passaggi e rimane entro il budget di latenza richiesto per conversazioni telefoniche naturali.

Al termine di questo tutorial, la tua knowledge base sarΓ  in grado di:

  • Restituire il chunk corretto al primo recupero almeno il 90% delle volte durante i test
  • Aggiungere meno di 100 ms di latenza per turno, mantenendo il tempo di risposta totale intorno ai 600 ms
  • Rifiutarsi di rispondere quando la risposta non Γ¨ nel materiale di origine invece di tirare a indovinare
  • Filtrare il recupero per prodotto, area geografica o flusso di lavoro in modo che i contenuti multi-tenant non si contaminino a vicenda
  • Restare aggiornata automaticamente man mano che la documentazione sottostante cambia

Di cosa hai bisogno prima di iniziare?

  • Un account Retell AI con un agente funzionante (la funzionalitΓ  knowledge base Γ¨ inclusa in ogni piano)
  • La tua documentazione di assistenza esistente in un formato che puoi esportare in Markdown
  • Un elenco delle 50 domande piΓΉ frequenti dei chiamanti degli ultimi 30 giorni di ticket telefonici o via chat
  • Accesso in modifica al tuo centro assistenza o alla documentazione di prodotto (riscriverai alcune pagine)
  • Un'ora per valutare la qualitΓ  del recupero dopo la prima creazione

Come costruire una knowledge base per l'IA vocale che non produce allucinazioni?

Passaggio 1: come verificare e curare i contenuti di origine prima dell'indicizzazione?

Archivia ogni documento obsoleto, contraddittorio o che non sia l'unica fonte di veritΓ  per il suo argomento prima di indicizzare una sola pagina. La principale fonte di allucinazioni degli agenti vocali non Γ¨ il modello. Sono i contenuti contraddittori o obsoleti nel materiale di origine.

Se due pagine sono in disaccordo sulla tua finestra di rimborso, il sistema di recupero non ha modo di scegliere quella corretta, e l'LLM leggerΓ  con sicurezza qualunque chunk vinca il punteggio di similaritΓ . Estrai ogni documento, FAQ e articolo di assistenza che intendi indicizzare. Per ciascuno, controlla tre cose: Γ¨ aggiornato a questo trimestre, Γ¨ l'unica fonte di veritΓ  per il suo argomento e corrisponde a ciΓ² che i tuoi addetti all'assistenza senior dicono effettivamente durante le chiamate. Se un documento non dovrebbe essere usato per rispondere alle domande dei clienti, non dovrebbe affatto trovarsi nella tua knowledge base. ElevenLabs

Ora dovresti avere un insieme curato di documenti che ti sentiresti a tuo agio nell'inviare testualmente a un cliente.

Passaggio 2: perchΓ© Markdown e come dovresti formattarlo?

Converti tutto in Markdown strutturato con un H1 per documento, un H2 descrittivo per ogni domanda risolvibile dell'utente e paragrafi brevi con soggetti espliciti. Gli agenti vocali recuperano chunk di testo, non pagine web renderizzate. Markdown Γ¨ il formato che sopravvive alla pipeline di chunking con la maggior parte della struttura semantica intatta.

La documentazione di Retell consiglia Markdown al posto di .txt perchΓ© intestazioni ben strutturate offrono al sistema di recupero confini puliti su cui suddividere. Sostituisci ogni "clicca qui" o "come descritto sopra" con il riferimento concreto, perchΓ© il chunk che contiene "sopra" potrebbe essere recuperato senza il chunk a cui punta. Ogni chunk viene letto da solo, quindi ogni chunk deve avere senso da solo.

Ora dovresti avere una cartella di file Markdown in cui ogni file copre un'area di prodotto e ogni H2 copre una domanda risolvibile dell'utente.

Passaggio 3: quale dimensione dei chunk funziona meglio per l'IA vocale?

Usa il chunking ricorsivo a 512 token con una sovrapposizione del 10-15%, suddividendo prima sulle intestazioni Markdown, poi sui paragrafi, poi sulle frasi. Questo Γ¨ il valore predefinito validato dai benchmark per i contenuti RAG generici, e regge bene anche per il materiale di assistenza vocale nello specifico.

Uno splitter ricorsivo da 512 token ben calibrato con una sovrapposizione del 15% e l'arricchimento dei metadati supera un costoso approccio di chunking semantico sulla maggior parte dei set di documenti reali. I chunk lunghi riempiono la finestra di contesto dell'LLM di rumore. I chunk brevi frammentano le istruzioni su più recuperi e fanno sì che l'agente salti dei passaggi a metà spiegazione. La regola ferrea: non suddividere mai una procedura numerata su due chunk. Se il "Passaggio 3" si trova nel chunk A e il "Passaggio 4" nel chunk B, il sistema di recupero può restituirne uno senza l'altro e il tuo agente salterà un'azione. Substack

Ora dovresti avere chunk in cui ogni unitΓ  contiene una procedura completa oppure contiene testo contestuale che ha senso senza i suoi vicini.

Passaggio 4: con quali metadati dovresti taggare ogni chunk?

Tagga ogni chunk con almeno cinque campi: product, version, region, audience e last_verified_date. È questo che impedisce a un chiamante del Texas di sentirsi leggere le politiche di reso della California e impedisce a una domanda su ThinkPad di richiamare risposte su ThinkCentre.

Se un singolo agente vede contenuti della KB per piΓΉ stati o localitΓ , il recupero puΓ² richiamare il chunk dello stato sbagliato (ad esempio la politica della California per un chiamante del Texas) a meno che l'ambito e i metadati non siano progettati con cura. Lo stesso problema si applica alle linee di prodotto, alle versioni software, ai livelli dei clienti e ai canali di assistenza. In fase di esecuzione, il tuo agente passa i filtri pertinenti insieme alla query in modo che la ricerca vettoriale consideri solo i chunk che corrispondono al contesto del chiamante. In Retell, puoi passarli come variabili dinamiche raccolte in precedenza durante la chiamata. Optimize Smart

Ora dovresti avere uno schema di metadati in cui qualsiasi singolo chunk puΓ² essere delimitato in modo univoco a un unico contesto del chiamante.

Passaggio 5: quale soglia di recupero blocca le allucinazioni?

Imposta la soglia di similaritΓ  a 0,65 o superiore e limita il recupero a 3-5 chunk. Un sistema di recupero che restituisce sempre qualcosa Γ¨ una macchina per le allucinazioni sotto mentite spoglie.

Quando un chiamante chiede di una funzionalitΓ  che non documenti, il sistema di recupero mostrerΓ  comunque la corrispondenza semantica piΓΉ vicina. L'LLM riceverΓ  quel chunk e lo intreccerΓ  fluentemente in una risposta sbagliata. Nelle impostazioni della knowledge base di Retell, due parametri controllano questo comportamento. Il parametro "Chunks to retrieve" imposta quanti risultati vengono passati all'LLM (predefinito 3, massimo consigliato 5 per la voce). La "Similarity Threshold" imposta la similaritΓ  del coseno minima perchΓ© un chunk sia considerato pertinente (predefinito 0,6). Per i casi d'uso di assistenza software in cui un'informazione sbagliata Γ¨ peggiore di nessuna informazione, aumenta la soglia a 0,7.

Ora dovresti vedere il tuo sistema di recupero restituire meno corrispondenze, ma di qualitΓ  superiore, e rifiutare quelle marginali.

Passaggio 6: come costringere l'agente a rifiutare invece di tirare a indovinare?

Aggiungi questa istruzione esatta al prompt dell'agente: "Rispondi solo usando le informazioni in ## Related Knowledge Base Contexts. Se quella sezione Γ¨ assente o non contiene informazioni pertinenti, di' che non ci sono informazioni correlate disponibili e offriti di trasferire la chiamata." Questa singola istruzione Γ¨ il controllo anti-allucinazione piΓΉ efficace di qualsiasi agente vocale.

Senza di essa, l'LLM attingerΓ  ai propri dati di addestramento quando il recupero torna vuoto. Questa Γ¨ la modalitΓ  di errore dietro quasi ogni disastro pubblico di chatbot, incluso il caso della tariffa per lutto di Air Canada, in cui la compagnia aerea Γ¨ stata ritenuta legalmente responsabile. Il modello di rifiuto ribalta la modalitΓ  di errore da "risposta sbagliata con sicurezza" a "onesto lascia-che-ti-passi-una-persona", che Γ¨ esattamente ciΓ² che i chiamanti che usano il tuo software vogliono davvero quando il sistema incontra un caso limite.

Ora dovresti vedere il tuo agente dire "Non ho quell'informazione documentata; ti trasferisco" alle domande fuori ambito invece di inventare passaggi.

Passaggio 7: come evitare che la knowledge base diventi obsoleta?

Abilita l'aggiornamento automatico sulle fonti URL in modo che Retell le recuperi nuovamente ogni 24 ore, gestisci le versioni dei tuoi file Markdown in Git ed esegui una revisione trimestrale di ogni file con un last_verified_date piΓΉ vecchio di 90 giorni. La conoscenza obsoleta Γ¨ il partner silenzioso delle allucinazioni.

Se la knowledge base Γ¨ obsoleta, il RAG recupera semplicemente la risposta sbagliata piΓΉ in fretta. La soluzione Γ¨ automatizzare l'aggiornamento invece di affidarsi a qualcuno che si ricordi di ricaricare i file quando la documentazione di prodotto cambia. Abbina l'aggiornamento automatico al crawling automatico dei sotto-percorsi del centro assistenza in modo che i nuovi articoli vengano indicizzati automaticamente senza intervento manuale. CX Today

Ora dovresti avere una knowledge base che si aggiorna da sola quando i tuoi contenuti sottostanti si aggiornano, senza alcun intervento umano.

Passaggio 8: come testare il recupero prima di andare in produzione?

Esegui le tue 50 domande reali dei chiamanti attraverso il sistema di recupero e ispeziona ciΓ² che torna prima che avvenga qualsiasi generazione dell'LLM. Tre cose contano per ogni query: il chunk corretto Γ¨ tra i primi 3, il punteggio di similaritΓ  Γ¨ sopra la tua soglia e una persona che legge solo i chunk recuperati sarebbe in grado di rispondere alla domanda.

Per qualsiasi domanda in cui il recupero fallisce, la soluzione Γ¨ quasi sempre alla fonte. O il contenuto pertinente manca del tutto, o il chunking ha suddiviso una procedura tra i confini, oppure i metadati la stanno filtrando. Resisti alla tentazione di correggere gli errori di recupero aggiungendo istruzioni al prompt dell'agente. Le patch al prompt sono il modo in cui le knowledge base degenerano in un pasticcio ingestibile. Punta a una precisione di recupero del 90% o piΓΉ sul set di test prima di distribuire alle chiamate reali.

Ora dovresti avere un numero misurato di precisione di recupero per le tue domande piΓΉ frequenti dei chiamanti e un elenco di correzioni ai documenti di origine per le domande che hanno fallito.

Passaggio 9: quando dovresti usare un flusso di conversazione invece di un singolo prompt?

Usa il flusso di conversazione con knowledge base a livello di nodo per qualsiasi agente vocale in cui l'intento del chiamante si suddivide in flussi di lavoro distinti, in particolare l'assistenza software, la pianificazione sanitaria e gli ambienti multi-prodotto. Una knowledge base piatta collocata sotto un singolo prompt Γ¨ l'architettura piΓΉ lasca possibile.

Per l'assistenza software nello specifico, il modello di qualità più alta è il flusso di conversazione in cui ogni nodo recupera solo dalla porzione di documentazione pertinente a quella parte della chiamata. Un tipico flusso di assistenza software ha nodi per il triage, la ricerca dell'account, la risoluzione dei problemi, l'escalation e la conferma post-risoluzione. Il nodo di risoluzione dei problemi carica la KB di risoluzione dei problemi. Il nodo di ricerca dell'account non carica alcuna KB perché dovrebbe chiamare un'API. Questa struttura è più affidabile da mantenere rispetto a un unico prompt gigantesco con un'unica KB gigantesca. Abbinala all' analisi post-chiamata integrata così puoi vedere quali nodi attivano il recupero e quali query tornano sotto soglia.

Ora dovresti avere una distribuzione in cui l'ambito di recupero si restringe man mano che la conversazione si focalizza, invece di far cercare a ogni turno tutti i documenti.

Come dovresti strutturare la knowledge base stessa? Un riferimento in stile Lenovo

Suddividi la knowledge base in livelli per pubblico e delimita il recupero al livello del chiamante. Questo Γ¨ il modello strutturale che la libreria di assistenza enterprise di Lenovo usa per evitare che i contenuti di gestione della classe rivolti agli insegnanti si scontrino con i contenuti tecnici di ingegneria.

Lenovo ha stabilito tre livelli di articoli β€” argomenti generali e informazioni di prodotto, argomenti specifici per gli insegnanti e argomenti e problemi tecnici, con articoli mirati, ridondanze eliminate e convenzioni di denominazione standardizzate su tutti e tre i livelli. Applica lo stesso modello a una knowledge base per l'IA vocale: Contiem

Livello 1: prodotto generale e prezzi. Fatti pubblici che ogni chiamante potrebbe chiedere. Taggato audience: all. Indicizza tutto.

Livello 2: guide pratiche per l'utente finale. Procedure passo dopo passo per il chiamante standard. Taggato audience: end_user, delimitato per product e region. Questo livello sostiene la maggior parte del traffico di recupero.

Livello 3: tecnico e amministrativo. Configurazione, integrazioni e casi limite. Taggato audience: admin. Recuperato solo quando il chiamante Γ¨ stato identificato come amministratore in precedenza durante la chiamata.

I runbook interni, le matrici di escalation e le note di ingegneria vanno in una knowledge base completamente separata, mai accessibile all'agente rivolto al cliente. La suddivisione in livelli Γ¨ ciΓ² che impedisce a una chiamata di risoluzione dei problemi di un utente finale di far emergere accidentalmente una procedura di escalation interna.

Quali sono le best practice una volta che la knowledge base Γ¨ in produzione?

La knowledge base dovrebbe contenere istruzioni per l'agente?

No. La knowledge base serve a fornire informazioni di supporto, non il comportamento dell'agente. Se ti ritrovi a caricare un file Markdown intitolato "Come dovrebbe comportarsi l'agente quando accade X", quel contenuto appartiene al prompt o a un nodo del flusso di conversazione. Mescolarli diluisce entrambi: il sistema di recupero classifica le istruzioni di comportamento rispetto alle query fattuali e le richiama nei momenti sbagliati.

Come dovresti scrivere le intestazioni per il recupero vocale?

Inizia con l'obiettivo dell'utente, non con il nome della funzionalitΓ . "Configura l'autenticazione a due fattori" diventa "Attiva l'accesso a due fattori". Il sistema di recupero effettua le corrispondenze rispetto al linguaggio parlato del chiamante, e le domande in linguaggio naturale corrispondono a intestazioni in linguaggio naturale molto meglio di quanto corrispondano alla terminologia di prodotto.

PerchΓ© ogni chunk dovrebbe essere autonomo?

Ogni chunk viene recuperato da solo. Usa i nomi completi invece dei pronomi, i nomi completi dei prodotti invece di "la piattaforma" e ripeti qualsiasi contesto condizionale in ogni passaggio invece di dire "se stai usando la console di amministrazione, allora..." tre paragrafi piΓΉ avanti. Questa singola regola elimina una frazione sorprendente di allucinazioni perchΓ© rimuove l'ambiguitΓ  che l'LLM altrimenti cerca di risolvere tirando a indovinare.

Come si esegue il debug di un'allucinazione a posteriori?

Cattura i chunk recuperati, i punteggi di similaritΓ  e i filtri dei metadati su ogni chiamata insieme alla trascrizione. Registrare solo la risposta finale dell'agente rende il debug delle allucinazioni quasi impossibile: vedi la risposta sbagliata ma non se il sistema di recupero ha restituito il chunk sbagliato o se il chunk corretto Γ¨ stato generato in modo errato. La maggior parte dei ticket di "allucinazione" si rivelano problemi di classificazione del recupero, che si risolvono alla fonte.

PerchΓ© i dati tabellari si recuperano male?

La pipeline di chunking non riesce a preservare le relazioni spaziali che rendono leggibili le tabelle, quindi la cella di una tabella spesso viene recuperata senza l'intestazione della sua colonna. Riscrivi le tabelle critiche come testo con frasi esplicite. "Il piano Pro supporta 50 utenti e include l'accesso API" batte una cella di tabella che il sistema di recupero separa dall'intestazione della sua colonna.

Quali sono le insidie comuni e come evitarle?

PerchΓ© scaricare tutto il centro assistenza in un'unica KB Γ¨ un errore?

Una knowledge base con 4.000 chunk di cui 50 sono pertinenti per un dato chiamante Γ¨ peggiore di una con 400 chunk di cui 50 sono pertinenti, perchΓ© il sistema di recupero ha 10 volte piΓΉ corrispondenze concorrenti a confonderlo. Costruisci invece knowledge base ristrette per flusso di lavoro e collegale a livello di nodo.

PerchΓ© non dovresti correggere le allucinazioni nel prompt?

Quando l'agente dice qualcosa di sbagliato, l'istinto Γ¨ di aggiungere "non dire X" al prompt. Tre di queste e il prompt diventa contraddittorio; dieci e diventa ingestibile. Scopri perchΓ© l'LLM ha detto X. Quasi sempre un chunk nella KB l'ha suggerito, oppure l'assenza di un chunk ha costretto il modello a ripiegare sui dati di addestramento. Correggi alla fonte.

Qual Γ¨ il costo dell'eccesso di recupero?

Ogni chunk aggiuntivo aggiunge token al prompt e millisecondi alla risposta. Impostare "chunks to retrieve" a 10 perchΓ© piΓΉ contesto sembra piΓΉ sicuro Γ¨ un errore comune. Rimani a 3 chunk per i contenuti di assistenza tipici, aumenta a 5 solo quando le domande dei chiamanti spaziano su piΓΉ argomenti e non andare mai oltre a meno che tu non abbia misurato un miglioramento della precisione.

PerchΓ© i fallimenti pubblici dei chatbot continuano ad accadere?

PerchΓ© all'agente Γ¨ consentito parlare senza un'istruzione di rifiuto esplicita. Il chatbot di Air Canada Γ¨ stato ritenuto responsabile dopo aver generato una politica per lutto inesistente che contraddiceva le regole effettive della compagnia aerea, e fallimenti simili continuano a ripresentarsi tra i fornitori che saltano il livello di rifiuto. Rendi il rifiuto esplicito, verifica che si attivi e tratta qualsiasi caso in cui l'agente inventa informazioni come un bug P0. CanLII

PerchΓ© ripetere i test dopo ogni aggiornamento della fonte?

Aggiungere un nuovo documento cambia il panorama del recupero per ogni query esistente. Un chunk che ieri si classificava al primo posto potrebbe classificarsi al terzo oggi. Mantieni automatizzato il set di test da 50 domande e rieseguilo ogni volta che i contenuti sottostanti cambiano in modo significativo.

Quali risultati hanno visto i team reali?

Come ha usato SWTCH questo modello per l'assistenza ai caricatori per veicoli elettrici?

SWTCH ha distribuito un agente vocale basato su Retell chiamato Lucas per gestire le chiamate di assistenza sui caricatori per veicoli elettrici, dove i chiamanti sono tipicamente in piedi davanti a un caricatore fuori uso con la batteria scarica e senza pazienza per un'istruzione sbagliata. L'implementazione ha ridotto i costi di assistenza di oltre il 50% e ha migliorato significativamente i margini SaaS, con l'agente che risponde in secondi invece di minuti. L'asticella dell'affidabilitΓ  Γ¨ stata fissata dal caso d'uso: un passaggio di risoluzione dei problemi sbagliato Γ¨ la differenza tra un caricatore funzionante e un guidatore bloccato.

Come ha scalato Anker questo modello sull'assistenza globale?

Anker ha implementato Retell nell'assistenza globale per l'elettronica di consumo, dove i chiamanti pongono domande specifiche di prodotto su decine di SKU e in piΓΉ lingue. Il case study illustra perchΓ© l'ambito dei metadati conta su larga scala. Senza il filtraggio a livello di prodotto sul recupero, una domanda su una soundbar puΓ² richiamare il manuale di un aspirapolvere, e l'agente li combinerΓ  con sicurezza. Con una struttura della KB adeguata, l'agente resta all'interno del contesto di prodotto per l'intera chiamata.

Qual Γ¨ il volume di produzione che questa architettura ha gestito?

Retell AI alimenta ora oltre 50 milioni di chiamate telefoniche con IA in tempo reale ogni mese per clienti in migliaia di aziende, senza che alcun agente sia stato segnalato andare fuori controllo su quel volume. L'architettura in questa guida Γ¨ la stessa che gira sotto quelle chiamate. Yahoo Finance

Domande frequenti

Qual Γ¨ la dimensione dei chunk migliore per una knowledge base per l'IA vocale?

Il chunking ricorsivo a 512 token con una sovrapposizione del 10-15% Γ¨ il valore predefinito validato dai benchmark. I chunk piΓΉ piccoli (200-300 token) funzionano per i contenuti in stile FAQ; i chunk piΓΉ grandi (1024 token) funzionano per il testo narrativo. Suddividi sempre prima sulle intestazioni Markdown, poi sui paragrafi, poi sulle frasi.

Come impedisco all'LLM di generare informazioni non presenti nella knowledge base?

Aggiungi un'istruzione di rifiuto esplicita al prompt dell'agente: "Rispondi solo usando le informazioni in ## Related Knowledge Base Contexts. Se quella sezione Γ¨ assente o non contiene informazioni pertinenti, rispondi che non ci sono informazioni correlate disponibili." Combinata con una soglia di similaritΓ  di 0,65 o superiore, questo Γ¨ il singolo controllo anti-allucinazione piΓΉ efficace.

Quanta latenza aggiunge la knowledge base per turno?

Meno di 100 ms per turno sulla pipeline di recupero ottimizzata di Retell, mantenendo l'agente entro la finestra di risposta totale di circa 600 ms che i chiamanti si aspettano. Se noti una latenza sensibilmente piΓΉ alta, verifica se stai recuperando piΓΉ chunk di quelli necessari o se il filtraggio dei metadati viene applicato al momento della query anzichΓ© dopo il recupero.

Dovrei usare un singolo prompt o un flusso di conversazione con knowledge base a livello di nodo?

Il flusso di conversazione vince per l'assistenza software e qualsiasi scenario in cui l'intento del chiamante si suddivide in flussi di lavoro distinti. Le knowledge base a livello di nodo permettono a ogni stato della conversazione di recuperare da una porzione focalizzata di contenuti, il che migliora la precisione e rende la manutenzione semplice. I singoli prompt funzionano per casi d'uso ristretti come una FAQ mono-prodotto. La guida di Retell su come distribuire l'IA conversazionale tratta la scelta architetturale in maggior dettaglio.

Con quale frequenza dovrei aggiornare la knowledge base?

Abilita l'aggiornamento automatico sulle fonti URL in modo che Retell le recuperi nuovamente ogni 24 ore. Per i documenti caricati, esegui una revisione manuale ogni volta che il prodotto o la policy sottostante cambia e tratta qualsiasi cosa piΓΉ vecchia di 90 giorni come bisognosa di verifica.

Posso addestrare l'agente vocale sulle mie registrazioni delle chiamate invece di scrivere documentazione?

Sì, in parte. Puoi usare le trascrizioni delle chiamate riuscite e le registrazioni degli addetti senior come materiale di origine per la knowledge base. Estrai le coppie domanda-risposta, convertile in Markdown e indicizzale insieme alla tua documentazione formale. Questo è particolarmente utile per catturare la formulazione specifica che usano i tuoi addetti migliori, che spesso risolve i problemi più in fretta della copia ufficiale del centro assistenza. Non sostituisce la documentazione strutturata; la integra.

Quali campi di metadati sono piΓΉ importanti per il recupero dell'agente vocale?

Come minimo: product, version, region, audience e last_verified_date. Aggiungi topic per l'instradamento granulare in un flusso di conversazione, e compliance_scope se hai contenuti regolamentati (HIPAA, consulenza finanziaria) che non dovrebbero mai essere recuperati al di fuori di contesti di chiamata specifici.

Come verifico se la mia knowledge base funziona prima di andare in produzione?

Costruisci un set di test di 50-100 domande reali dei chiamanti dagli ultimi 30 giorni di ticket di assistenza. Per ciascuna, ispeziona i chunk recuperati prima di qualsiasi generazione dell'LLM: il chunk corretto Γ¨ tra i primi 3, il punteggio di similaritΓ  Γ¨ sopra soglia e una persona potrebbe rispondere alla domanda solo con quei chunk. Punta a una precisione di recupero del 90% o piΓΉ sul set di test prima di distribuire.

Cosa succede quando un chiamante chiede qualcosa che non Γ¨ nella knowledge base?

Con un'istruzione di rifiuto in atto e una soglia di similaritΓ  di 0,65 o superiore, l'agente dice che non ha quell'informazione documentata e o si offre di prendere un messaggio o effettua un trasferimento assistito tramite trasferimento di chiamata a un agente umano con il contesto completo della conversazione. Senza questi controlli, l'agente ripiega sui dati di addestramento dell'LLM sottostante, che Γ¨ esattamente la modalitΓ  di errore che questa guida Γ¨ progettata per prevenire.

Cosa dovresti fare dopo?

Ora hai un'architettura di knowledge base che ancora ogni risposta dell'agente a contenuti verificati, delimita il recupero in base al contesto del chiamante, si rifiuta di rispondere quando la risposta non Γ¨ documentata e si aggiorna man mano che il tuo materiale di origine cambia. Questa Γ¨ la base che permette a un agente vocale di gestire l'assistenza software, i settori regolamentati o qualsiasi chiamata ad alto rischio in cui un passaggio sbagliato conta piΓΉ di uno rapido.

Per estenderla ulteriormente, la stessa architettura di recupero supporta casi d'uso come l'automazione dell' assistenza clienti con IA, la qualificazione dei lead con instradamento specifico per prodotto e i receptionist virtuali con IA per le strutture sanitarie dove l'ambito di conformitΓ  Γ¨ imprescindibile. Gli stessi modelli si applicano anche alle distribuzioni in ambito sanitario e assicurativo dove il costo di un'allucinazione Γ¨ un problema normativo, non solo di customer experience.

Inizia a costruire gratuitamente con 10 $ di crediti d'uso su retellai.com.

ROI Calculator
Estimate Your ROI from Automating Calls

See how much your business could save by switching to AI-powered voice agents.

All done!Β 
Your submission has been sent to your email
Oops! Something went wrong while submitting the form.
Β Β Β 1
Β Β Β 8
20
Oops! Something went wrong while submitting the form.

ROI Result

2,000

Total Human Agent Cost

$5,000
/month

AI Agent Cost

$3,000
/month

Estimated Savings

$2,000
/month
Demo dal vivo
Prova la nostra demo dal vivo

Un numero di telefono demo di Retell Clinic Office

Grazie! Il tuo modulo Γ¨ stato ricevuto!
Ops! Qualcosa Γ¨ andato storto durante l'invio del modulo.

Read Other Blogs

Revolutionize your call operation with Retell