تصميم ذكاء اصطناعي يعرف متى يحوّل الأمر إلى إنسان

في كل منتج ذكاء اصطناعي لحظة يجب أن يتوقّف فيها النظام عن الكلام ويُدخل إنسانًا. في مساعد الدعم هي نزاع على استرداد مبلغ. في أداة الفرز هي عَرَض لا يطابق المعيار. وفي رفيق العافية هي لغة تشير إلى خطر. والرصد التقني لتلك اللحظة هو الجزء السهل عادةً. أما تصميم ما يحدث بعدها فهو الموضع الذي تفشل فيه المنتجات بهدوء.

ثلاث حالات تحويل سيّئة

نرى أنماط الفشل نفسها في كل القطاعات، وكلها فشل في التصميم لا في الرصد.

• الطريق المسدود. يعلن النظام أنه لا يستطيع المساعدة ثم يتوقّف. وقد صرف المستخدم أربع دقائق يشرح مشكلته لشيء لم يكن ليحلّها أصلًا، وعليه أن يبدأ من جديد.
• التحويل الصامت. تُمرّر المحادثة إلى إنسان بلا سياق، فيكون أول ما يقوله: «هل تخبرني عن الموضوع؟» — وهو ما يُقرأ كعقاب على استخدام المساعد.
• التحويل المتردّد. يواصل النظام المحاولة عدة أدوار بعد النقطة التي كان عليه التوقّف فيها، لأن مقياس الإنجاز يكافئ الحلّ لا الملاءمة.

ما يفعله التحويل الجيّد فعلًا

يحمل السياق معه. فيصل مع المحادثة ملخّص منظّم — ما قاله المستخدم، وما صنّفه النظام، وما جُرِّب بالفعل، وما كانت درجة الثقة — فيبدأ الإنسان وهو مطّلع. ويضع توقّعًا برقم حقيقي: من سيجيب، وعبر أي قناة، وفي أي مدة. ويترك للمستخدم شيئًا يفعله في الأثناء، ولو كان رقم مرجع أو رابطًا لموارد محلية.

وهو لا يعتذر عن وجوده. فالتحويل الذي يُصاغ كفشل يعلّم المستخدمين أن سؤال الذكاء الاصطناعي أولًا كان خطأ. أما التحويل الذي يُصاغ كتصعيد — هذا الأمر يحتاج إنسانًا، وهذا هو الإنسان — فيعلّمهم أن النظام يعرف حدوده، وهو أقوى ما يستطيع منتج ذكاء اصطناعي أن يبرهن عليه لبناء الثقة.

قِس باب الخروج

المقياس المهمّ ليس كم مرة يحوّل النظام، بل كم مرة يحوّل في اللحظة الصحيحة. نتابع نوعين من الخطأ منفصلين: التحويل المتأخّر، حيث تقول المراجعة البشرية إن النظام كان عليه التوقّف قبل ذلك، والتحويل غير الضروري، حيث توقّف عن أمر كان يستطيع تولّيه. وتحسين الرقم الثاني وحده ينتج نظامًا لا يتخلّى عن محادثة يخسرها — وفي سياق صحي أو نفسي، هذه ليست مشكلة مقاييس.

ابنِ التحويل في أول دورة عمل لا في آخرها. فهو ليس الحالة الهامشية حول منتجك؛ في كل ما أطلقناه، كان الجزء الذي يتذكّره المستخدمون.