تقارب الجلسة (Session Affinity)، ويُسمّى أيضًا الجلسات اللاصقة (Sticky Sessions) أو استمرارية الجلسة، هو أسلوب لموازنة الأحمال يُرسل كل طلب صادر من العميل نفسه أو الجلسة نفسها إلى الخادم الخلفي نفسه، بحيث تبقى الحالة المحفوظة في ذاكرة ذلك الخادم قابلة للوصول.
من دونه، يُوجَّه كل طلب بمعزل عن غيره. تذكر AWS أن Application Load Balancer «يوجّه افتراضيًا كل طلب بشكل مستقل إلى هدف مسجَّل»، وأن ميزة الجلسات اللاصقة تتيح له «ربط جلسة المستخدم بهدف محدد». ويكتسب ذلك أهمية حين يحتفظ الخادم محليًا بشيء يحتاجه الطلب التالي: جلسة تسجيل دخول، أو سلة تسوّق، أو ذاكرة تخزين مؤقت.
يحتاج موازن الأحمال إلى وسيلة للتعرّف على الجلسة وإلى قاعدة تربطها بخادم معيّن. وتغطي ثلاث طرق معظم المنتجات.
ملف تعريف الارتباط (Cookie). يضبط موازن الأحمال ملف تعريف ارتباط في الاستجابة الأولى ويقرؤه في الطلبات اللاحقة. وتستخدم آلية الالتصاق المعتمدة على المدة لدى AWS ملف تعريف ارتباط باسم AWSALB بمدة صلاحية تحددها بين ثانية واحدة و7 أيام. ويستخدم HAProxy ملف تعريف ارتباط «لتذكّر الخادم الذي وُجِّه إليه العميل سابقًا». ويجب أن يدعم العميل ملفات تعريف الارتباط.
تجزئة IP (IP Hash). يحدد عنوان IP الخاص بالعميل الخادمَ المختار. تستخدم ip_hash في NGINX «الثمانيات الثلاث الأولى من عنوان IPv4 للعميل، أو عنوان IPv6 بالكامل» مفتاحًا للتجزئة. وتقدّم Kubernetes Service الفكرة نفسها عبر sessionAffinity: ClientIP، بمهلة افتراضية قدرها 3 ساعات. لا تحتاج أيٌّ منهما إلى ملف تعريف ارتباط، لكن العملاء الذين يتشاركون عنوانًا واحدًا ينتهي بهم المطاف على الخادم نفسه، وفي NGINX ينطبق ذلك أيضًا على كل من يتشارك تلك الثمانيات الثلاث.
التجزئة المتسقة (Consistent Hashing). يجزّئ موازن الأحمال خاصية من خصائص الطلب، مثل ترويسة أو معرّف جلسة، على حلقة من الخوادم. يذكر Envoy أنه مع حلقة مقسّمة جيدًا، فإن إضافة مضيف واحد أو إزالته من مجموعة تضم N مضيفًا «لن تؤثر إلا في 1/N من الطلبات». ويتضمن التوجيه hash في NGINX خيار consistent الذي، وفقًا لوثائقه، «يساعد على تحقيق نسبة إصابة أعلى في ذاكرة التخزين المؤقت لخوادم التخزين المؤقت».
| الطريقة | ما يحدد الجلسة | مثال موثّق | القيد الرئيسي |
|---|---|---|---|
| ملف تعريف الارتباط | ملف تعريف ارتباط يضبطه موازن الأحمال أو التطبيق | AWS Application Load Balancer، HAProxy | يجب أن يدعم العميل ملفات تعريف الارتباط |
| تجزئة IP | عنوان IP الخاص بالعميل | NGINX ip_hash، Kubernetes ClientIP | يتكدّس العملاء الذين يتشاركون عنوانًا واحدًا على خادم واحد |
| التجزئة المتسقة | أي خاصية تختارها من خصائص الطلب | Envoy ring hash وMaglev، NGINX hash ... consistent | يجب أن يحمل كل طلب مفتاحًا ثابتًا |
| التوجيه الواعي بالبادئة | الرموز (tokens) الافتتاحية في prompt الخاص بنموذج LLM | التخزين المؤقت لـ prompt في OpenAI، Ray Serve | يظل الحِمل عاملًا مؤثرًا، لذا قد يفقد الخادم المشغول الطلب |
يتنازل تقارب الجلسة عن جزء من التوازن والمرونة في مقابل إبقاء الحالة قريبة.
تقدّم وثائق HAProxy النصيحة المعتادة: «غالبًا ما يكون الأمثل تجنّب استمرارية الجلسة تمامًا عبر بناء خدماتك لتكون عديمة الحالة»، كتخزين الحالة في قاعدة بيانات مشتركة مثلًا. فالتقارب مخصّص للحالة التي لا يمكنك نقلها بتكلفة منخفضة، وذاكرة التخزين المؤقت هي الحالة المعتادة.
يهمّ لأن ذاكرة التخزين المؤقت التي تجعل تكرار prompt منخفض التكلفة موجودة على جهاز واحد. يحتفظ خادم النموذج بالحالة المحسوبة لـ prompt، أي ذاكرة KV المؤقتة، في الذاكرة. ويعيد vLLM استخدامها عندما يكون استعلام جديد «يتشارك البادئة نفسها مع أحد الاستعلامات الموجودة، ما يتيح للاستعلام الجديد تخطّي حساب الجزء المشترك».
ولا ينجح ذلك إلا إذا وصل الطلب التالي إلى الجهاز نفسه. يصرّح دليل OpenAI للتخزين المؤقت لـ prompt بذلك مباشرة: «تعيش الحالات المخزّنة مؤقتًا على أجهزة منفردة»، و«لا يمكن للطلب إعادة استخدام بادئة مخزّنة مؤقتًا إلا إذا وصل إلى جهاز يحمل إدخالًا مطابقًا لم تنتهِ صلاحيته». وتوجّه OpenAI الطلبات بناءً على حِمل الجهاز، وتجزئة الرموز الأولى من prompt، وفي النماذج الأقدم، مفتاح تخزين مؤقت تقدّمه أنت. وبالنسبة إلى النماذج المستضافة ذاتيًا، يوفّر Ray Serve موجّهًا «يوجّه الطلبات ذات البادئات المتشابهة إلى النسخ المتماثلة نفسها، ما يرفع إلى الحد الأقصى نسب الإصابة في ذاكرة KV المؤقتة»، ويعود إلى موازنة الأحمال العادية عندما تكون الطوابير غير متوازنة.
تتوافق المكالمات الهاتفية مع هذا النمط إلى حدّ كبير. ففي كل دور من أدوار المحادثة متعددة الأدوار، يرسل الوكيل الصوتي إلى النموذج اللغوي الكبير تعليماته إضافة إلى النص المفرَّغ حتى تلك اللحظة، لأن النموذج لا يحتفظ بالمكالمة بين الطلبات. ويكرر كل طلب معظم ما ورد في الطلب السابق. لذا فالمكالمة هي الجلسة، ومعرّف المكالمة مفتاح طبيعي. والدور الذي يصل إلى خادم مختلف يعالج prompt بالكامل من جديد، ما يزيد من زمن الاستجابة.

يُشغَّل Tell-1، نموذج LLM الخاص بمنصّة Retell، بهذه الطريقة. ويسمّي المقال التقني حول Retell LLM ذلك التوجيهَ الواعي بالمكالمة: إذ يعيد كل دور إرسال المحادثة كاملة، لذا تُبقى كل مكالمة على وحدات GPU التي تحملها بالفعل في ذاكرتها المؤقتة. ووفقًا للمقال، رفع ذلك نسبة رموز prompt المقدَّمة من الذاكرة المؤقتة من 36% إلى 69%.
يظهر عندما تشغّل خادم النموذج الخاص بك. فمع نموذج LLM مخصّص، «تفتح منصّة Retell اتصال WebSocket بخادمك لكل مكالمة»، ويكون معرّف المكالمة هو المقطع الأخير من مسار عنوان URL. وتشير AWS إلى أن «اتصالات WebSocket لاصقة بطبيعتها»، لذا تبقى المكالمة على أحد خوادمك ما دام اتصالها مفتوحًا.
توصي أفضل الممارسات لدى منصّة Retell بالاحتفاظ «بحالة صريحة لكل مكالمة على خادمك، مرتبطة بمعرّف المكالمة الوارد في عنوان URL لاتصال WebSocket». كما تعيد منصّة Retell بناء الاتصال الذي ينقطع أثناء المكالمة، وإذا كنت تشغّل عدة خوادم خلف موازن أحمال، فقد يصل الاتصال الجديد إلى خادم مختلف. وللإبقاء على الحالة قابلة للوصول، وجّه الطلبات بناءً على معرّف المكالمة في المسار، أو احفظ تلك الحالة في مخزن مشترك. ولن تُوزّع تجزئة IP الحِمل هنا: إذ يذكر دليل الإعداد عنوان IP صادرًا واحدًا لهذا الاتصال، فتُجزَّأ كل المكالمات إلى الخادم نفسه.
نعم. تصف AWS ميزة الجلسات اللاصقة لديها بأنها «تُعرف أيضًا بتقارب الجلسة». واستمرارية الجلسة اسم ثالث للشيء نفسه.
يختار موازن الأحمال خادمًا سليمًا آخر وتلتصق الجلسة به. وتُفقد الحالة التي كانت موجودة في ذاكرة الخادم المتعطل فقط، ما لم تكن محفوظة أيضًا في مكان مشترك.
ليس ما دام الاتصال مفتوحًا، لأن كل رسالة تنتقل عبر الاتصال نفسه إلى الخادم نفسه. ويعود التقارب ليصبح مهمًا عند إعادة اتصال العميل.
توجد ذاكرة prompt المؤقتة في ذاكرة الجهاز الذي أنشأها. ولا يحصل الطلب اللاحق على البادئة المخزّنة مؤقتًا إلا إذا وُجِّه إلى ذلك الجهاز.
Retell AI منصّة وكلاء صوتيين بالذكاء الاصطناعي لمراكز التواصل. تتولى منصّة Retell الاتصالات الهاتفية، والتفريغ النصي، وتبادل الأدوار، والكلام، ويربط تكامل نموذج LLM المخصّص خادم نموذجك عبر اتصال WebSocket واحد لكل مكالمة.
How Retell handles audits, data retention and access control.
Table of contents