Γιατί οι δοκιμές φορτίου φωνητικού AI πρέπει να ακολουθούν την πραγματική διαδρομή της κλήσης

Αν η πλατφόρμα του κέντρου επικοινωνίας σας απαντά πρώτη σε κάθε κλήση και στη συνέχεια μεταβιβάζει τους καλούντες σε έναν φωνητικό πράκτορα AI, μια δοκιμή φορτίου που καλεί απευθείας το AI σάς λέει πολύ λίγα. Αποδεικνύει ότι το AI μπορεί να δεχτεί πολλές κλήσεις. Δεν αποδεικνύει ότι ο πάροχος (carrier), η πλατφόρμα ελέγχου κλήσεων, η μεταβίβαση προς τον πράκτορα και η μεταβίβαση προς τα έξω αντέχουν στον μέγιστο όγκο. Οι περισσότερες αστοχίες σε αυτού του είδους την ανάπτυξη συμβαίνουν στα σημεία σύνδεσης μεταξύ συστημάτων. Αυτά τα σημεία δέχονται κίνηση μόνο όταν οι κλήσεις ακολουθούν τη διαδρομή της παραγωγής.

Για τη γενική μέθοδο (σταδιακή αύξηση ταυτόχρονων κλήσεων, εκατοστημόρια καθυστέρησης (latency), σουίτες regression), δείτε τον οδηγό μας για δοκιμές φορτίου φωνητικών πρακτόρων. Αυτό το άρθρο καλύπτει αναπτύξεις όπου μια πλατφόρμα UCaaS ή CCaaS έχει τον έλεγχο των κλήσεων.

Γιατί μια απευθείας δοκιμή φορτίου μέσω SIP ή API δεν αποδεικνύει ότι η ανάπτυξη λειτουργεί;

Επειδή παρακάμπτει κάθε κόμβο (hop) από τον οποίο περνούν οι καλούντες σας. Μια απευθείας δοκιμή στέλνει κλήσεις κατευθείαν στο SIP endpoint ή στο API του παρόχου AI. Μια κλήση παραγωγής ακολουθεί μεγαλύτερη διαδρομή. Έρχεται από τον πάροχο τηλεπικοινωνιών και φτάνει στην πλατφόρμα κέντρου επικοινωνίας ή UCaaS. Περνά από το IVR ή τη λογική δρομολόγησης και μεταβιβάζεται τυφλά (blind transfer) στο σημείο εισόδου του φωνητικού AI. Στη συνέχεια, είτε τερματίζεται εκεί είτε μεταβιβάζεται πίσω σε ουρά ανθρώπινων εκπροσώπων.

Κάθε κόμβος έχει το δικό του όριο χωρητικότητας, τη δική του συμπεριφορά SIP και τον δικό του υπεύθυνο διαμόρφωσης. Μια απευθείας δοκιμή δεν ελέγχει κανέναν από αυτούς. Ακολουθούν τρία παραδείγματα από την τεκμηρίωση της Retell:

• Η χωρητικότητα ορίζεται σε περισσότερα από ένα σημεία. Το όριο ταυτόχρονων κλήσεων της Retell ισχύει ανά workspace (τα workspaces πληρωμής με τη χρήση ξεκινούν με 20 ταυτόχρονες κλήσεις). Ο οδηγός της Retell για το Five9 σημειώνει ότι το Five9 εφαρμόζει δικά του όρια χωρητικότητας trunk. Ο οδηγός για το Avaya συνιστά να επιβεβαιώσετε ότι ο διαμορφωμένος αριθμός SIP trunks καλύπτει τις αναμενόμενες ταυτόχρονες κλήσεις. Μια δοκιμή που παρακάμπτει την πλατφόρμα δεν φτάνει ποτέ στο όριό της.
• Η μέθοδος σύνδεσης αλλάζει το τι μπορεί να κάνει το AI. Η Retell υποστηρίζει elastic SIP trunking (τη συνιστώμενη μέθοδο) και κλήση σε SIP URI. Με τη μέθοδο SIP URI, η ενσωματωμένη λειτουργία μεταβίβασης της Retell δεν είναι διαθέσιμη. Επομένως, τις μεταβιβάσεις και τους τερματισμούς κλήσεων πρέπει να τους διαχειρίζεται η δική σας λογική. Μια απευθείας δοκιμή δεν θα αποκάλυπτε ποτέ αυτό το κενό.
• Οι μεταβιβάσεις εξαρτώνται από την άλλη πλευρά. Η ψυχρή μεταβίβαση (cold transfer) της Retell χρησιμοποιεί από προεπιλογή SIP INVITE ή SIP REFER, εφόσον το υποστηρίζει ο πάροχος τηλεφωνίας σας. Το αν λειτουργεί το REFER και αν διατηρούνται τα custom headers εξαρτάται από τον πάροχό σας, όχι από το AI.

Πώς μοιάζει η πραγματική διαδρομή κλήσης όταν μια πλατφόρμα κέντρου επικοινωνίας έχει τον έλεγχο των κλήσεων;

Είναι μια αλυσίδα πέντε κόμβων, και κάθε δοκιμαστική κλήση πρέπει να περνά και από τους πέντε.

Δύο λεπτομέρειες από την τεκμηρίωση της Retell έχουν σημασία εδώ. Πρώτον, με τη μέθοδο SIP URI, κάθε κλήση χρειάζεται πρώτα ένα αίτημα Register Phone Call. Η κλήση πρέπει να φτάσει σε αυτό το URI εντός 5 λεπτών, διαφορετικά τερματίζεται με registered_call_timeout. Επομένως, η υπηρεσία εγγραφής σας πρέπει επίσης να ανταποκρίνεται υπό φορτίο. Δεύτερον, στην πλευρά της εξόδου, ο οδηγός της Retell για το Genesys Cloud σημειώνει ότι οι κλήσεις που το Genesys μεταβιβάζει παραπέρα επιλέγουν trunk από τα number plans και τα outbound routes του Site. Πρόκειται για διαμόρφωση της πλατφόρμας στην οποία μια απευθείας δοκιμή δεν φτάνει ποτέ.

Πού εμφανίζονται στον μέγιστο όγκο οι αστοχίες που αφορούν μόνο τη διαδρομή;

Εκεί όπου συναντώνται δύο συστήματα, συνήθως μόλις ένα από αυτά αρχίσει να βάζει κλήσεις σε αναμονή. Παρακολουθήστε τα εξής κατά τη σταδιακή αύξηση:

1. Καθοριστικό είναι το πιο αυστηρό όριο χωρητικότητας. Αν το trunk της πλατφόρμας σας επιτρέπει λιγότερες ταυτόχρονες κλήσεις από το workspace του AI, οι καλούντες κολλάνε στην πλατφόρμα, ενώ το dashboard του AI φαίνεται υγιές. Διαστασιολογήστε από κοινού τον πάροχο, το trunk της πλατφόρμας και το όριο ταυτόχρονων κλήσεων του AI.
2. Ουρά εισερχόμενων κλήσεων στο AI. Όταν οι εισερχόμενες κλήσεις φτάσουν στο όριο ταυτόχρονων κλήσεων της Retell, η Retell κρατά τις νέες κλήσεις για περίπου 40 δευτερόλεπτα. Αν δεν ελευθερωθεί θέση, μεταβιβάζει τον καλούντα σε έναν διαμορφωμένο fallback_number. Αν δεν έχει οριστεί τέτοιος αριθμός, τερματίζει την κλήση με concurrency_limit_reached. Αποφασίστε εκ των προτέρων πού πρέπει να καταλήγει αυτό το fallback (συχνά πίσω στην ουρά ανθρώπινων εκπροσώπων της πλατφόρμας σας) και ελέγξτε ότι λειτουργεί υπό φορτίο.
3. Εξερχόμενη κίνηση που εκτοπίζει την εισερχόμενη. Όλες οι φωνητικές κλήσεις σε ένα workspace μοιράζονται ένα κοινό pool ταυτόχρονων κλήσεων. Αν το ίδιο workspace εκτελεί και εξερχόμενες καμπάνιες, η δεσμευμένη χωρητικότητα για εισερχόμενες κλήσεις μπορεί να κρατά θέσεις για τις κλήσεις που μεταβιβάζονται προς τα μέσα.
4. Ρυθμός εγκατάστασης κλήσεων. Η Retell ορίζει κλήσεις ανά δευτερόλεπτο (CPS) ανά διαδρομή τηλεφωνίας. Η τεκμηρίωσή της σημειώνει ότι το CPS του Custom Telephony κλιμακώνεται ανάλογα με τις ταυτόχρονες κλήσεις σας. Ένα κύμα μεταβιβάσεων στην αρχή της ώρας μπορεί να χτυπήσει όριο ρυθμού πριν χτυπήσει όριο ταυτόχρονων κλήσεων.
5. Ρυθμίσεις δικτύου και media. Η Retell δημοσιεύει διάφορα IP blocks για allowlist (ορισμένα ισχύουν μόνο για συγκεκριμένη κίνηση στις ΗΠΑ). Δημοσιεύει επίσης τα transports της (συνιστάται TCP, καθώς και UDP, TLS, mTLS) και τους codecs της (PCMU, PCMA, G.722). Ένα allowlist που καλύπτει μόνο μερικά από αυτά τα blocks μπορεί να περάσει μια μικρή δοκιμή και να αποτύχει σε μεγάλο όγκο.
6. Αλλαγές SIP κατά τη διάρκεια της κλήσης. Οι πλατφόρμες μπορούν να στέλνουν re-INVITEs για ανανέωση συνεδρίας, μετακίνηση media ή θέση κλήσης σε αναμονή. Η Retell απαντά σε re-INVITEs εντός διαλόγου για ανανεώσεις συνεδρίας, re-anchoring media, αλλαγές codec, re-keys SRTP και hold ή unhold. Επιβεβαιώστε ότι τα re-INVITEs της πλατφόρμας σας συμπεριφέρονται με τον ίδιο τρόπο σε μεγάλο όγκο.

Πώς δημιουργείτε δοκιμαστική κίνηση μέσω της πραγματικής διαδρομής;

Ξεκινήστε τις δοκιμαστικές κλήσεις εκτός του δικτύου σας και καλέστε τους ίδιους δημόσιους αριθμούς που χρησιμοποιούν οι καλούντες σας. Μόνο έτσι κάθε κόμβος δέχεται φορτίο.

• Επιλέξτε γεννήτρια κλήσεων που καλεί τον δημόσιο αριθμό σας. Οι μαζικές κλήσεις της Retell πραγματοποιούν εξερχόμενες κλήσεις από τη Retell. Οι δοκιμές προσομοίωσης της Retell εκτελούν συνομιλίες βασισμένες σε κείμενο. Επομένως, κανένα από τα δύο δεν αναπαράγει μια εισερχόμενη κλήση που μεταβιβάζει η πλατφόρμα σας. Ορισμένοι συνεργάτες δοκιμών πραγματοποιούν πραγματικές κλήσεις. Το Hamming, για παράδειγμα, περιγράφει πώς οι φωνητικοί του πράκτορες καλούν τους δικούς σας. Ρωτήστε κάθε προμηθευτή δοκιμών αν οι κλήσεις του εισέρχονται μέσω του δημόσιου τηλεφωνικού δικτύου ή συνδέονται απευθείας στον πράκτορα.
• Επισημάνετε κάθε δοκιμαστική κλήση. Ζητήστε από την πλατφόρμα σας να προσθέτει ένα custom SIP header X- (για παράδειγμα, ένα ID εκτέλεσης δοκιμής) κατά τη μεταβίβαση. Η Retell εξάγει τα εισερχόμενα headers X- στο πεδίο custom_sip_headers της κλήσης και σε δυναμικές μεταβλητές. Έτσι μπορείτε να συνδέσετε κάθε κλήση AI με την αντίστοιχη εγγραφή της πλατφόρμας.
• Αυξάνετε το φορτίο σταδιακά. Ξεκινήστε κάτω από το αναμενόμενο μέγιστο και ανεβείτε πάνω από αυτό. Έπειτα αφήστε την κίνηση να πέσει και επιβεβαιώστε ότι το σύστημα επιστρέφει σε αδράνεια.
• Εξασφαλίστε τη συμμετοχή όλων των υπευθύνων. Ο πάροχος, ο διαχειριστής της πλατφόρμας και ο προμηθευτής φωνητικού AI πρέπει να συμμετέχουν όλοι. Ο οδηγός της Retell για το Five9 προβλέπει την τελική δοκιμή ενσωμάτωσης ως κοινή συνεδρία.
• Αυξήστε τα όρια πριν από τη δοκιμή, όχι κατά τη διάρκειά της. Ελέγξτε τα όρια ταυτόχρονων κλήσεων και CPS του AI στη σελίδα Limits. Ο ενσωματωμένος υπολογιστής προτείνει τιμές με βάση την κίνηση της ώρας αιχμής. Επιβεβαιώστε επίσης ότι η χωρητικότητα trunk της πλατφόρμας αντιστοιχεί σε αυτές.

Ποια σήματα SIP πρέπει να παρακολουθείτε κατά τη δοκιμή;

Παρακολουθήστε τη σηματοδοσία κάθε κλήσης από το πρώτο INVITE έως το τελικό BYE, και στις δύο πλευρές της μεταβίβασης. Οι λεπτομέρειες κλήσης της Retell μπορεί να περιλαμβάνουν καρτέλα Packet Capture με τη σηματοδοσία SIP της κλήσης. Ο οδηγός αποσφαλμάτωσης PCAP της Retell εξηγεί βήμα βήμα πώς να τη διαβάσετε στο Wireshark. Αν διαχειρίζεστε δικό σας trunk, η τεκμηρίωση της Retell συνιστά καταγραφή στον server ή στο gateway που τερματίζει το SIP, που συνήθως είναι το SBC σας.

Αναζητήστε:

• Καθαρή εγκατάσταση στο σκέλος της μεταβίβασης: INVITE, 100 Trying, 180 Ringing, 200 OK, ACK.
• Αποκρίσεις σφάλματος: 403 (allowlist ή δικαιώματα), 404 (λάθος SIP URI ή δρομολόγηση), 408 ή 477 (μη προσβάσιμο endpoint ή σφάλμα transport), 486 (κατειλημμένο), 503 (μη διαθέσιμη υπηρεσία).
• Τη μεταβίβαση προς τα έξω: ένα REFER ή ένα νέο INVITE, ανάλογα με τη μέθοδο μεταβίβασης, καθώς και αν διατηρήθηκαν τα headers X-. Η τεκμηρίωση της Retell προειδοποιεί ότι τα custom headers μπορεί να αφαιρεθούν όταν η μεταβίβαση γίνεται σε αριθμό PSTN αντί για SIP endpoint.
• Ποιος έστειλε το BYE και πότε: κάθε κλήση πρέπει να τερματίζεται με BYE από το μέρος που αναμένετε.

Τα συμβάντα webhook της Retell (call_started, call_ended και τα συμβάντα transfer_*) σας δίνουν ένα χρονολόγιο ανά κλήση. Μπορείτε να το αντιπαραβάλετε με τις καταγραφές.

Τι πρέπει να θεωρείται επιτυχία;

Επιτυχία σημαίνει ότι τα νούμερα συμφωνούν σε όλα τα συστήματα, όχι απλώς ότι το AI παρέμεινε σε λειτουργία. Χρησιμοποιήστε αυτή τη λίστα ελέγχου:

• Ο αριθμός κλήσεων συμφωνεί μεταξύ των αρχείων του παρόχου, των αναφορών της πλατφόρμας και του αρχείου κλήσεων του AI για το διάστημα της δοκιμής.
• Κάθε κλήση AI τερματίστηκε με αναμενόμενη αιτία αποσύνδεσης (user_hangup, agent_hangup, call_transfer) και δεν υπήρξαν αιτίες concurrency_limit_reached ή error_*.
• Κάθε μεταβίβαση πίσω σε άνθρωπο έφτασε στη σωστή ουρά, με το αναμενόμενο caller ID και τα αναμενόμενα headers.
• Δεν υπήρξαν αποκρίσεις SIP 4xx ή 5xx στα σκέλη μεταβίβασης, εκτός από όσες προκαλέσατε σκόπιμα.
• Ο ήχος μεταδόθηκε και προς τις δύο κατευθύνσεις στις κλήσεις του δείγματος.
• Οι μέγιστες ταυτόχρονες κλήσεις παρέμειναν κάτω από κάθε όριο της αλυσίδας, με περιθώριο.
• Μετά τη διακοπή της κίνησης, οι ταυτόχρονες κλήσεις επέστρεψαν στο μηδέν στην πλευρά του AI. Η πλατφόρμα δεν εμφάνισε εκκρεμείς συνεδρίες.

Ο τελευταίος έλεγχος αξίζει δικό του σχέδιο δοκιμής. Κλήσεις που δεν κλείνουν ποτέ πλήρως μετά από μεταβίβαση μπορούν να καταναλώνουν χωρητικότητα ταυτόχρονων κλήσεων στην αιχμή. Καλύπτουμε το κλείσιμο κλήσεων σε ξεχωριστό οδηγό.

Τι πρέπει να ρωτήσετε τον προμηθευτή φωνητικού AI πριν από τη δοκιμή;

Κάντε ερωτήσεις που αναγκάζουν τον προμηθευτή να δείξει τη διαδρομή, όχι μόνο το AI:

1. Ποια μέθοδο σύνδεσης συνιστάτε για την πλατφόρμα μας και τι αλλάζει όσον αφορά τις μεταβιβάσεις και τους τερματισμούς κλήσεων;
2. Ποιες μεθόδους μεταβίβασης SIP υποστηρίζετε (INVITE, REFER) και τι απαιτεί η καθεμία από την πλατφόρμα μας;
3. Πώς μεταβιβάζουμε και διαβάζουμε custom SIP headers και προς τις δύο κατευθύνσεις;
4. Πού ορίζονται τα όρια ταυτόχρονων κλήσεων και κλήσεων ανά δευτερόλεπτο; Τι συμβαίνει στην κλήση όταν φτάσει το όριο και μπορούμε να τα αυξήσουμε για τη δοκιμή;
5. Μπορούμε να δούμε τη σηματοδοσία SIP και τις αιτίες αποσύνδεσης ανά κλήση; Θα εξετάσει η ομάδα τηλεφωνίας σας τις καταγραφές μαζί μας;

Η τεκμηρίωση της Retell περιλαμβάνει οδηγούς ρύθμισης για Genesys Cloud, Five9, Avaya και Amazon Connect. Περιλαμβάνει επίσης έναν γενικό οδηγό custom telephony και έναν οδηγό ταυτόχρονων κλήσεων που καλύπτει κάθε όριο. Για μεταβιβάσεις από τον πράκτορα, δείτε τη μεταβίβαση κλήσης και το πώς λειτουργεί η παράδοση από το AI σε άνθρωπο.

Μπορεί η πλατφόρμα σας να έχει τον έλεγχο των κλήσεων και να χρειάζεστε έναν φωνητικό πράκτορα AI που να λειτουργεί πίσω από αυτήν. Σε αυτή την περίπτωση, δείτε την πλατφόρμα συνομιλιακού AI για επιχειρήσεις της Retell. Μιλήστε επίσης με την ομάδα για τον σχεδιασμό μιας δοκιμής φορτίου στην πραγματική διαδρομή κλήσης σας.

Σχετικά άρθρα: Η δοκιμή φορτίου κλεισίματος κλήσεων, η ροή εργασιών από το CRM στο φωνητικό AI και περισσότεροι οδηγοί στο Retell Learn hub.