اختبار حِمل الوكيل الصوتي: كيفية اختبار وكلائك الصوتيين على نطاق واسع مع Retell

اختبار حِمل الوكيل الصوتي هو الطريقة التي تكتشف بها ما إذا كان وكيلك الصوتي بالذكاء الاصطناعي لا يزال يعمل عندما يتصل به 200 متصل في وقت واحد، وليس فقط عندما تُجري مكالمة واحدة نظيفة في عرض توضيحي.

إنه الفرق بين وكيل يبدو رائعًا على المنصّة ووكيل يصمد في يوم الإطلاق.

وهنا الجزء الذي يغفل عنه كثير من مطوّري الذكاء الاصطناعي الصوتي. يمكنك إجراء هذا النوع من الاختبار على نطاق واسع على Retell نفسها، باستخدام المنصّة ذاتها التي ستستخدمها لإطلاق الوكيل.

هذا الدليل مكتوب لمهندسي الذكاء الاصطناعي وفرق المنصّات. ويغطّي ما هو اختبار حِمل الوكيل الصوتي، ولماذا يُفشِل الاختبارُ على نطاق واسع عملياتِ QA العادية، وكيفية إعداد عمليات اختبار كبيرة على Retell.

باختصار

• يتحقّق اختبار حِمل الوكيل الصوتي من سلوك وكيلك تحت مكالمات متزامنة كثيرة، لا مكالمة واحدة في كل مرة.

• يكشف الاختبار على نطاق واسع أعطالًا لا تُظهرها المكالمات المفردة أبدًا: حدود المعدّل، وارتفاعات زمن الاستجابة، وفقدان السياق، والإجابات التي تتدهور تحت الحِمل.

• حالة الاستخدام الخفيّة: يمكن لـ Retell إجراء هذه الاختبارات نيابةً عنك، باستخدام المكالمات المجمّعة، وأدوات QA المدمجة، وتحليل ما بعد المكالمة.

• اختبر أربعة أشياء على نطاق واسع: التغطية الوظيفية، والحِمل والتزامن، والانحدار عند كل تغيير، والمدخلات العدائية.

• تتبّع النسب المئوية لزمن الاستجابة (P50, P90, P99)، ومعدّل خطأ الكلمات، وإتمام المهام، والاحتواء، لا المتوسطات.

• يمكنك أن تبدأ على Retell، وأن تجلب نظام الاتصالات الهاتفية الخاص بك، وأن تتوقّع التكلفة من سعر منشور لكل دقيقة.

ما هو اختبار حِمل الوكيل الصوتي

اختبار حِمل الوكيل الصوتي هو شكل من أشكال اختبار الحِمل مُصمَّم للوكلاء الصوتيين بالذكاء الاصطناعي. تحاكي متصلين كثيرين يتحدثون إلى وكيلك في الوقت نفسه، ثم تقيس ما إذا كان يبقى سريعًا ودقيقًا ومترابطًا كلما ازداد الحِمل.

يندرج ذلك تحت الممارسة الأوسع لـاختبار أداء البرمجيات، الذي يتحقّق من سلوك النظام تحت حِمل عمل معيّن. والفارق مع الوكلاء الصوتيين أن حِمل العمل ليس مجرد حركة اتصال. إنه حوسبة.

لنظام هاتف تقليدي حِملٌ متوقَّع. الردّ على الخط، وتشغيل قائمة، وتوجيه المكالمة. أما الوكيل الصوتي بالذكاء الاصطناعي فيُشغّل تحويل الكلام إلى نص، ونموذجًا لغويًا، وتحويل النص إلى كلام في كل دور، لذا فإن كل مكالمة متزامنة تستهلك token ووقت GPU، لا مجرد خط هاتف.

لهذا فإن الاختبار على نطاق واسع مشكلة مختلفة. قد تعمل عشر مكالمات على ما يُرام. وعند مئتين، يبدأ مزوّد النموذج لديك بإرجاع أخطاء تجاوز حدود المعدّل، ويرتفع زمن الاستجابة، والوكيل الذي بدا حادّ الأداء صار الآن يتوقّف بشكل محرج أو يقطع المتصلين.

لماذا يُفشِل اختبار الوكلاء الصوتيين على نطاق واسع عمليات QA العادية

يتحقّق كثير من عمليات QA للوكيل الصوتي من مكالمة واحدة في كل مرة. وهذا يلتقط أخطاء الصياغة والمنطق، لكنه يُخفي الأعطال التي تظهر فقط تحت الضغط. وإليك بعضها التي تلدغ الفرق عند الإطلاق:

• حدود المعدّل وأخطاء الحصص: تحت الحِمل، قد يُقيّد نموذجك اللغوي أو مزوّد الكلام الطلبات، فتتعطّل بعض المكالمات أو تفشل في منتصف المحادثة.

• زمن الاستجابة تحت الحِمل: استجابة تعود خلال 300 ميلي ثانية في اختبار منفرد قد تمتدّ إلى ما بعد الثانية عندما تكون البنية مشغولة، ما يُخِلّ بإيقاع المكالمة.

• سياق مفقود أو متدهور: كلما ارتفع التزامن، تقتطع بعض الأنظمة سجلّ المحادثة لتوفير الحوسبة، فينسى الوكيل ما قاله المتصل قبل دورين.

• جودة تنخفض بهدوء: وكيل يتحلّى بالصبر عند حِمل منخفض قد يصبح مقتضبًا وكثير الأخطاء عندما تكون الخوادم في أقصى طاقتها. اختبر مكالمة واحدة ولن ترى ذلك أبدًا.

• حدود الاتصالات الهاتفية: قد تحظر سقوف التزامن لدى شركة الاتصالات أو المنصّة المكالمات قبل أن يكون الذكاء الاصطناعي نفسه عنق الزجاجة.

لا يظهر أيٌّ من هذه في مكالمة واحدة تسير على المسار المثالي. لكنها جميعًا تظهر عندما تصل حركة الإنتاج. اختبار الحِمل هو الطريقة التي تواجهها بها وفق جدولك بدلاً من جدول عملائك.

ما الذي يجب اختباره عند تشغيل الوكلاء الصوتيين على نطاق واسع

الاختبار على نطاق واسع ليس متعلّقًا بالحجم فقط. وجّه عملياتك نحو أربعة أشياء:

• التغطية الوظيفية: شغّل أنواع مكالماتك الأساسية والحالات الطرفية المحرجة، مثل المقاطعات واللهجات والضوضاء الخلفية والأسئلة الخارجة عن النص، عبر مكالمات كثيرة بدلاً من خمس.

• الحِمل والتزامن: تدرّج من خط أساس إلى الذروة المتوقّعة وما بعدها، مراقبًا أين ينكسر زمن الاستجابة ومعدّلات الأخطاء.

• الانحدار: أعِد تشغيل المجموعة الكاملة عند كل تغيير في prompt أو النموذج أو الصوت كي لا يُفسِد إصلاحٌ في موضع موضعًا آخر. هذا هو اختبار الانحدار المعتاد، مُطبَّقًا على الصوت.

• العدائية والأمان: افحص بحثًا عن اختراقات jailbreak وتسريبات prompt والإجابات المخالفة للسياسات قبل أن يفعل ذلك شخص آخر.

نمط مفيد من اختبار الأداء: ضع خط أساس عند تزامن منخفض، ووسّع على خطوات، وراقب نقطة الانكسار، ثم تأكّد من تعافي النظام بعد انخفاض الحِمل.

حالة الاستخدام الخفيّة: استخدام Retell لاختبار وكلائك الصوتيين

وهنا الكشف. تُعرَف Retell AI بأنها منصّة لبناء وإطلاق الوكلاء الصوتيين بالذكاء الاصطناعي، لكن المنصّة نفسها تُشغّل الاختبار.

يمكنك تشغيل عمليات اختبار كبيرة بواسطة المكالمات المجمّعة، التي تُجري مكالمات كثيرة من قائمة في وقت واحد. وجّهها إلى أرقام الاختبار والشخصيات لديك، وسيكون لديك طريقة لتوليد حِمل متزامن عند الطلب.

يمكن تقييم كل مكالمة من تلك المكالمات باستخدام ضمان الجودة بالذكاء الاصطناعي المدمج، فلا تُنصِت إلى مئات التسجيلات يدويًا للعثور على الأعطال.

يُسجّل تحليل ما بعد المكالمة كل مكالمة، اختبارية أو حيّة، فتستطيع قراءة النصوص، والتحقّق من النتائج، ورؤية أين تعطّل مسار ما عبر العملية بأكملها.

ولأن Retell تتّصل بنظام الاتصالات الهاتفية الخاص بك عبر Twilio وVonage، فأنت تتحكّم في جانب شركة الاتصالات من الاختبار بدلاً من دفع تكلفة تمرير مرفوعة السعر.

للمهندسين، تغطّي مستندات المطوّرين واجهات API لكتابة كل هذا برمجيًا ضمن خط الأنابيب الخاص بك.

تجري مكالمات الاختبار عبر البنية الكاملة، لذا تُحتسَب فواتيرها كمكالمات. التسعير لكل دقيقة ومنشور، فتستطيع توقّع ميزانية اختبار الحِمل قبل تشغيله.

كيفية إعداد اختبار حِمل الوكيل الصوتي مع Retell

يبدو الإعداد العملي كالتالي:

1. حدّد سيناريوهاتك وشخصياتك. ابدأ بأهم أنواع مكالماتك، ثم أضِف الحالات الطرفية التي تقلقك: المقاطعات واللهجات والطلبات الخارجة عن النص.

2. ابنِ الوكيل، أو نسخة اختبارية منه، على Retell، متصلاً بـقاعدة المعرفة وأي أدوات يستخدمها في الإنتاج.

3. اربط نظام الاتصالات الهاتفية الخاص بك حتى تجري حركة الاختبار عبر مسار شركة الاتصالات الذي ستستخدمه فعليًا.

4. استخدم المكالمات المجمّعة لإطلاق مكالمات كثيرة في وقت واحد، متدرّجًا في التزامن من خط أساس حتى ما بعد الذروة المتوقّعة.

5. قيّم النتائج باستخدام QA بالذكاء الاصطناعي، ثم راجعها في تحليل ما بعد المكالمة، مع التصفية بحثًا عن المكالمات الفاشلة أو منخفضة الجودة.

6. أصلِح، ثم أعِد تشغيل المجموعة. اربط الإصدار بالنتائج بحيث لا يُطلَق شيء حتى تصمد الأرقام.

اربط الخطوات من الرابعة إلى السادسة بخط أنابيب CI لديك، ويتوقّف اختبار الحِمل عن كونه سباقًا في أسبوع الإطلاق ويصبح شيئًا يجري عند كل تغيير.

المقاييس المهمّة تحت الحِمل

المتوسطات تُخفي المكالمات التي تُدمّر الثقة. تتبّع التوزيعات بدلاً من ذلك:

• النسب المئوية لزمن الاستجابة (P50, P90, P99): الـ P99 هو المتصل العالق في الانتظار بينما الجميع بخير. اسعَ للحفاظ على هدفك حتى عند ضِعفَي أو ثلاثة أضعاف الذروة المتوقّعة.

• معدّل خطأ الكلمات: كم مرة يُسيء تحويل الكلام إلى نص سماع المتصل، وهو ما يرتفع مع اللهجات والضوضاء والحِمل.

• معدّل إتمام المهمة: هل حلّ الوكيل ما جاء من أجله المتصل؟

• معدّل الاحتواء: كم مكالمة تعامل معها الوكيل دون تحويل بشري.

• معدّل الأخطاء والإسقاط: مكالمات فشلت أو تعطّلت أو فقدت الصوت تحت التزامن.

ضع عتبات لكل سيناريو، إذ يتحمّل وكيل مصرفي وخط طلب طعام معدّلات خطأ مختلفة. تختلف الأرقام باختلاف بنيتك ونموذجك وحركتك، لذا عاملها كخطوط أساس خاصة بك، لا كأهداف عالمية.

أفضل الممارسات للاختبار على نطاق واسع

• اختبر بأصوات تطابق متّصليك. غطِّ اللهجات واللغات الموجودة في سجلّات مكالماتك، وأضِف ضوضاء سيارة أو مكتب مزدحم.

• وسّع تدريجيًا. خط الأساس أولاً، ثم ارفع التزامن كي ترى أين ينحني الأداء قبل أن ينكسر.

• أعِد تشغيل أعطال الإنتاج. عندما تسير مكالمة حيّة على نحو خاطئ، التقطها وأضِفها إلى المجموعة كي لا تنحدر بهدوء أبدًا.

• قِس الجودة، لا مجرد إتمام المكالمة. خط هاتف مفتوح ليس نجاحًا إذا صار الذكاء الاصطناعي غبيًا تحت الحِمل.

• أتمِت المجموعة. يغطّي QA اليدوي حفنة من المكالمات؛ وتغطّي الأتمتة المئات عند كل تغيير.

• أبقِ البشر ضمن الحلقة للمكالمات الدقيقة. التقييم الآلي مع مراجعة بشرية عشوائية يلتقط ما يفوت كليهما بمفرده.

الأسئلة الشائعة

ما هو اختبار حِمل الوكيل الصوتي؟

إنه اختبار أداء للوكلاء الصوتيين بالذكاء الاصطناعي. تحاكي متصلين متزامنين كثيرين، ثم تقيس ما إذا كان الوكيل يبقى سريعًا ودقيقًا ومترابطًا كلما ارتفع الحِمل. ويستهدف أعطالًا مثل حدود المعدّل وارتفاعات زمن الاستجابة التي لا يُظهرها اختبار المكالمة المفردة أبدًا.

هل يمكنني استخدام Retell لاختبار الوكلاء الصوتيين على نطاق واسع؟

نعم. يمكنك بناء وكيل أو نسخه على Retell، واستخدام المكالمات المجمّعة لإجراء مكالمات كثيرة في وقت واحد، وتقييمها باستخدام QA المدمج، ومراجعة النتائج في تحليل ما بعد المكالمة. يمنحك ذلك حِملًا متزامنًا وتقييمًا آليًا على منصّة واحدة.

كيف يختلف اختبار الحِمل عن اختبار الوكيل الصوتي العادي؟

يتحقّق الاختبار العادي من مكالمة واحدة بحثًا عن صياغة ومنطق صحيحين. أما اختبار الحِمل فيتحقّق من مكالمات كثيرة في وقت واحد بحثًا عن السلوك تحت الضغط: زمن الاستجابة تحت التزامن، والتقييد، والسياق المفقود، والجودة التي تنخفض عندما تكون الخوادم مشغولة.

كم مكالمة متزامنة ينبغي أن أختبر؟

ابدأ بخط أساس من 10 إلى 50، ثم ارفع إلى الذروة المتوقّعة وما بعدها، مراقبًا أين ينكسر زمن الاستجابة والأخطاء. الهدف هو إيجاد نقطة انكسارك عمدًا، قبل أن تفعل الحركة الحقيقية ذلك.

هل يكلّف اختبار الحِمل مبلغًا إضافيًا على منصّة تُحتسَب لكل دقيقة؟

تجري مكالمات الاختبار عبر البنية نفسها التي تجري عليها المكالمات الحيّة، لذا تُحتسَب فواتيرها لكل دقيقة. اختر منصّة ذات سعر منشور مع إمكانية جلب نظام الاتصالات الهاتفية الخاص بك حتى تتوقّع التكلفة وتُبقِي خط شركة الاتصالات تحت السيطرة.

شاهد كيف يصمد وكيلك قبل أن يفعل متّصلوك.

تتيح لك Retell بناء الوكلاء الصوتيين بالذكاء الاصطناعي واختبارهم ومراقبتهم على منصّة واحدة، مع المكالمات المجمّعة، وأدوات QA المدمجة، وتسعير منشور لكل دقيقة. جرّب Retell مجانًا أو تواصل مع المبيعات.