Der Lasttest für Sprach-KI, den die meisten Teams vergessen: Anrufbeendigung

Die meisten Lasttests für Sprach-KI beantworten eine Frage: Kommen Anrufe bei Spitzenlast zustande? Eine zweite Frage ist genauso wichtig: Wenn ein Anruf vorbei ist, wird er dann tatsächlich beendet?

Ein Anruf, der nie geschlossen wird, belegt weiterhin einen Concurrency-Slot auf der Sprach-KI-Plattform, einen Kanal auf Ihrem SIP-Trunk und oft einen Port oder eine Lizenz auf Ihrer Contact-Center-Plattform. Niemand spricht darauf. Bei Spitzenlast können einige Dutzend solcher Anrufe Sie an Ihre Grenzen bringen, während das Anrufvolumen normal aussieht.

Dieser Leitfaden behandelt die Beendigungsseite von Lasttests. Zu Latenz, Genauigkeit und Durchsatz unter Last lesen Sie unseren Leitfaden zum Lasttest von Sprachagenten.

Was bedeutet „Anrufbeendigung“ bei einem Sprach-KI-Anruf?

Ein Anruf ist beendet, wenn jeder seiner Anrufzweige von jedem System freigegeben wurde, das er durchlaufen hat: der Zweig des Anrufers, jeder Weiterleitungszweig und die Sitzung des KI-Agenten.

Bei einem SIP-Anruf ist die Beendigung ein Signalisierungsereignis. Eine Seite sendet eine BYE-Nachricht, die andere antwortet mit 200 OK, und jedes System gibt den Kanal frei. Ein Zweig, der geklingelt hat, aber nie angenommen wurde, wird mit einem CANCEL aufgelöst.

Bei einer Sprach-KI-Bereitstellung müssen drei Dinge zutreffen:

• Beide Zweige legen auf. Wenn der Anrufer oder die Gegenseite auflegt, wird auch der andere Zweig abgebaut und nicht in der Stille offen gelassen.
• Weiterleitungen werden abgeschlossen. Eine Weiterleitung wird entweder verbunden oder schlägt sauber fehl, und der KI-Zweig steigt in beiden Fällen aus.
• Alle Systeme stimmen überein. Der Carrier, Ihr Session Border Controller (SBC) oder Ihre Contact-Center-Plattform und die Sprach-KI-Plattform zeigen den Anruf alle als beendet an.

Bei Retell hat ein beendeter Anruf den Status ended und einen Trennungsgrund wie user_hangup, agent_hangup oder call_transfer. Ein noch laufender Anruf hat den Status ongoing, und laufende Anrufe zählen zu Ihrer aktuellen Concurrency.

Warum lassen Weiterleitungen Anrufe offen?

Eine Weiterleitung macht aus einem Anruf zwei oder mehr Zweige, oft über zwei Plattformen hinweg, und ein Auflegen auf einem Zweig muss die anderen erreichen. Geht dieses Signal verloren oder wird es ignoriert, bleibt ein Zweig aktiv, ohne dass jemand darauf ist.

Muster, die Sie in Ihrem Setup prüfen sollten:

• Blind-Weiterleitung an die KI. Viele Contact Center behalten die Anrufsteuerung auf ihrer bestehenden Plattform und leiten Anrufer per Blind-Weiterleitung an die Nummer des KI-Agenten weiter. Legt der Anrufer auf und das Auflegen wird nicht über die Weiterleitung hinweg übertragen, läuft der KI-Zweig weiter. Beendet die KI den Anruf und Ihre Plattform gibt ihre Seite nicht frei, bleibt dieser Port belegt.
• Unbetreute Weiterleitung aus der KI. Der KI-Agent steigt aus, sobald er den Anruf übergibt. Retell unterstützt zwei SIP-Methoden: SIP INVITE überbrückt die Weiterleitung, während SIP REFER die andere Seite des Anrufs, in der Regel Ihren Carrier oder Trunk, auffordert, einen separaten Anruf zum Ziel aufzubauen. REFER funktioniert nur, wenn Ihr Anbieter es zulässt.
• Betreute und agentenbasierte betreute Weiterleitung. Der Agent wählt das Ziel an, während der Anrufer in der Warteschleife wartet, sodass gleichzeitig zwei aktive Zweige bestehen. Nimmt das Ziel nie ab, muss der Versuch per Timeout enden und beide Seiten bereinigen.
• Ihre eigene Weiterleitungslogik. Wenn die Sprach-KI-Plattform die Nummer nicht steuert (zum Beispiel bei der Dial-to-SIP-Methode von Retell), laufen Weiterleitung und Anrufende über Ihre eigenen benutzerdefinierten Funktionen, die Beendigung ist also Aufgabe Ihres Codes.

Wie sich die einzelnen Typen für Anrufer anfühlen, erfahren Sie unter So funktionieren Anrufweiterleitungen zwischen KI-Sprachagenten und menschlichen Teams und in unserem Leitfaden zur betreuten Weiterleitung.

Was kostet Sie ein offener Anruf bei Spitzenlast?

Einen Concurrency-Slot, solange er offen bleibt. Concurrency zählt gleichzeitig aktive Anrufe, und ein leerer Anruf zählt genauso wie ein echter.

Die Rechnung ist einfach: zusätzliche offene Anrufe zu jedem Zeitpunkt = nicht beendete Anrufe pro Stunde × Stunden, die jeder davon offen bleibt.

Die dritte Zeile zeigt, wie Teams bei Spitzenlast auf Dutzende Phantomanrufe kommen: ein einziges Konfigurationsproblem, etwa nicht über die Weiterleitung übertragene Auflegesignale, das sich auf jeden weitergeleiteten Anruf auswirkt.

Diese Kapazität ist nicht kostenlos. Bei Retell sind die ersten 20 gleichzeitigen Anrufe inklusive, zusätzliche Kapazität kostet 8 $ pro gleichzeitigem Anruf und Monat (siehe Preise). Erreicht ein Workspace sein Limit, warten neue eingehende Anrufe etwa 40 Sekunden auf einen freien Slot und gehen dann an die Fallback-Nummer der Rufnummer, sofern eine festgelegt ist, oder enden mit concurrency_limit_reached. Neue ausgehende Anrufe werden abgelehnt, sofern Concurrency Burst nicht aktiviert ist. Bei Spitzenlast weisen hängende Anrufe echte Anrufer ab.

Dieselbe Rechnung gilt für Trunk-Kanäle und Contact-Center-Lizenzen, die die Sprach-KI-Plattform nicht sehen kann.

Wie testen Sie die Anrufbeendigung während eines Lasttests?

Beenden Sie jeden Anruf gezielt, über jeden möglichen Beendigungspfad, mit Ihrer Spitzenrate, und weisen Sie anschließend nach, dass die Zahl aktiver Anrufe in jedem System auf null zurückgeht.

Führen Sie eine Beendigungsmatrix durch

Transfer-Webhooks sind standardmäßig deaktiviert. Fügen Sie für den Test transfer_started, transfer_bridged, transfer_cancelled und transfer_ended zu den Webhook-Ereignissen des Agenten hinzu.

Führen Sie einen Drain-Test durch

Stoppen Sie nach dem Hochfahren auf Spitzenlast neue Anrufe und beobachten Sie, wie die Zähler sinken. Fragen Sie alle paar Sekunden die Get Concurrency API von Retell ab, die current_concurrency (die Anzahl laufender Anrufe) zurückgibt. Der Wert sollte innerhalb der Dauer Ihres längsten geskripteten Anrufs null erreichen. Prüfen Sie zu denselben Zeitpunkten die Zähler Ihres SBC, Contact Centers und Trunks. Jeder Zähler, der hoch bleibt, ist das Leck, und das System, das ihn hält, zeigt Ihnen, welche Seite nicht freigibt.

Abgleichen und prüfen

• Zu jedem call_started-Webhook sollte ein passender call_ended existieren. Zu jedem transfer_started sollte ein transfer_ended oder transfer_cancelled existieren.
• Nutzen Sie nach dem Drain die List Calls API mit einem call_status-Filter auf ongoing, um Nachzügler zu finden.
• Öffnen Sie einen Nachzügler in der Call History und prüfen Sie, sofern verfügbar, den Tab Packet Capture. Achten Sie im SIP-Ablaufdiagramm darauf, welche Partei BYE oder CANCEL gesendet hat und ob die andere Seite geantwortet hat.

Was sollten Sie nach dem Go-live überwachen?

Achten Sie auf Concurrency, die hoch bleibt, wenn das Volumen sinkt, auf mehr durch Timeouts beendete Anrufe und auf fehlgeschlagene Weiterleitungen.

• Concurrency im Verhältnis zum Volumen. Alert-Regeln in Retell können concurrency_used (Spitzenwert gleichzeitiger Anrufe in einem Zeitfenster) zusammen mit call_count (im Zeitfenster beendete Anrufe) überwachen. Steigt die Concurrency, während die beendeten Anrufe gleich bleiben, werden Anrufe nicht beendet.
• Fehlgeschlagene Weiterleitungen. Richten Sie einen Alert auf transfer_call_failure_count ein.
• Beendigungen durch Timeouts. Filtern Sie in der Call History nach Trennungsgrund. Ein wachsender Anteil von inactivity oder max_duration_reached nach Weiterleitungen bedeutet, dass die Sicherheitsmechanismen und nicht das Auflegen Ihre Anrufe beenden.
• Lang laufende Anrufe. Live Monitoring listet jeden laufenden Anruf mit live mitlaufender Dauer auf. Ein Anruf, der deutlich älter ist als Ihr längstes echtes Gespräch, ist ein Kandidat. Sie können ihn über Live Monitoring oder mit der Stop Call API beenden.
• Systemübergreifende Zähler. Die aktiven Zähler von KI-Plattform, Trunk und Contact Center sollten sich gemeinsam bewegen.

Welche Einstellungen begrenzen den Schaden, wenn ein Anruf nicht beendet wird?

Timeouts. Sie beheben keine fehlerhafte Signalisierung, begrenzen aber, wie lange ein hängender Anruf einen Slot belegen kann.

Legen Sie die Stille- und Dauerlimits nahe an Ihren realen Anruflängen fest. Mit den Standardwerten kann ein toter, stiller Zweig einen Slot 10 Minuten lang belegen, und einer, den der Stille-Timer nicht erfasst, bis zu einer Stunde.

Was sollten Sie Ihren Anbieter und Ihr Telefonie-Team fragen?

Holen Sie sich vor dem Launch schriftliche Antworten ein:

1. Wenn der Anrufer bei einem per Blind-Weiterleitung übergebenen Anruf auflegt: Welches System sendet das BYE an den KI-Zweig, und wurde das bei Spitzenlast getestet?
2. Wenn die KI einen Anruf beendet: Gibt Ihre Contact-Center-Plattform den Port sofort frei?
3. Zählt der Anruf, nachdem eine Weiterleitung verbunden ist und der KI-Agent ausgestiegen ist, weiterhin zur Concurrency der Sprach-KI-Plattform, bis beide Parteien auflegen?
4. Erlaubt Ihr SIP-Trunk SIP REFER, und falls nicht, welche Weiterleitungsmethode sollten Sie verwenden?
5. Können Sie für Testanrufe Packet Captures von jeder Station erhalten: Carrier, SBC, Contact Center und Sprach-KI-Plattform?

Machen Sie die Anrufbeendigung zum Teil Ihrer Freigabekriterien

Behandeln Sie „Concurrency geht nach dem Test auf null zurück“ als Bestanden-/Nicht-bestanden-Kriterium. Führen Sie die Beendigungsmatrix und den Drain-Test vor dem Launch und erneut nach jeder Änderung an Weiterleitungseinstellungen, Rufnummern oder Anrufrouting durch.

Die Retell AI liefert Ihnen die Bausteine: unbetreute, betreute und agentenbasierte betreute Anrufweiterleitung mit Klingel- und Warte-Timeouts, Transfer-Webhooks, Trennungsgründe pro Anruf, Packet Captures, eine Live-Concurrency-API sowie Alerts zu Concurrency und fehlgeschlagenen Weiterleitungen. Wenn Sie einen Contact-Center-Rollout mit hoher Spitzen-Concurrency planen, bietet der Retell Enterprise-Plan eine hohe Obergrenze für gleichzeitige Anrufe und dedizierten Support.

Weiterführende Artikel: Warum Lasttests dem realen Anrufpfad folgen müssen, die Checkliste für ausgehende Rufnummern und weitere Leitfäden im Retell Learn Hub.