ออกแบบ AI ที่รู้ว่าเมื่อไรควรส่งต่อให้คน
ทุกการใช้งาน AI ที่จริงจังสุดท้ายต้องมีประตูทางออก ทีมส่วนใหญ่สร้างมันทีหลังสุด และมันก็เห็นชัด เพราะการส่งต่อคือจุดที่ความไว้วางใจถูกสร้างหรือหายไปตลอดกาล
ในทุกผลิตภัณฑ์ AI มีช่วงเวลาที่ระบบควรหยุดพูดและพาคนเข้ามา ในผู้ช่วยฝ่ายบริการมันคือข้อพิพาทเรื่องคืนเงิน ในเครื่องมือคัดกรองมันคืออาการที่ไม่เข้าเกณฑ์ ในเพื่อนคู่คิดด้านสุขภาวะมันคือถ้อยคำที่บ่งชี้ความเสี่ยง การตรวจจับช่วงเวลานั้นในทางเทคนิคมักเป็นส่วนที่ง่าย การออกแบบว่าเกิดอะไรขึ้นต่อจากนั้นคือจุดที่ผลิตภัณฑ์ล้มอย่างเงียบ ๆ
การส่งต่อที่แย่สามแบบ
เราเห็นรูปแบบความล้มเหลวเดียวกันในทุกอุตสาหกรรม และทั้งหมดเป็นความล้มเหลวของการออกแบบ ไม่ใช่การตรวจจับ
- ทางตัน ระบบประกาศว่าช่วยไม่ได้แล้วหยุด ผู้ใช้เพิ่งใช้เวลาสี่นาทีอธิบายปัญหาให้สิ่งที่ไม่มีทางแก้ได้ และต้องเริ่มใหม่ทั้งหมด
- การโอนสายแบบเงียบ บทสนทนาถูกส่งต่อให้คนโดยไม่มีบริบท สิ่งแรกที่คนพูดจึงเป็น 'เล่าเรื่องนี้ให้ฟังหน่อยได้ไหม' ซึ่งอ่านเหมือนบทลงโทษที่ไปใช้ผู้ช่วยมาก่อน
- การส่งต่อแบบไม่เต็มใจ ระบบพยายามต่ออีกหลายรอบเลยจุดที่ควรหยุด เพราะตัวชี้วัดความสำเร็จให้รางวัลกับการปิดงานมากกว่าความเหมาะสม
การส่งต่อที่ดีทำอะไรจริง ๆ
มันพาบริบทไปด้วย สรุปที่มีโครงสร้าง — ผู้ใช้พูดอะไร ระบบจัดประเภทว่าอะไร ลองทำอะไรไปแล้ว ค่าความมั่นใจเท่าไร — เดินทางไปพร้อมบทสนทนา คนจึงเริ่มต้นด้วยข้อมูลครบ มันตั้งความคาดหวังด้วยตัวเลขจริง ว่าใครจะตอบ ทางช่องทางไหน ภายในเวลาเท่าไร และมันทิ้งอะไรให้ผู้ใช้ทำในระหว่างนั้น แม้จะเป็นเพียงเลขอ้างอิงหรือลิงก์ไปแหล่งช่วยเหลือในพื้นที่
และมันไม่ขอโทษที่มีตัวตนอยู่ การส่งต่อที่ถูกวางกรอบว่าเป็นความล้มเหลวสอนผู้ใช้ว่าการถาม AI ก่อนเป็นความผิดพลาด การส่งต่อที่ถูกวางกรอบว่าเป็นการยกระดับ — เรื่องนี้ต้องใช้คน นี่คือคนนั้น — สอนเขาว่าระบบรู้ขอบเขตของตัวเอง ซึ่งเป็นสิ่งที่สร้างความไว้วางใจได้มากที่สุดที่ผลิตภัณฑ์ AI แสดงให้เห็นได้
ติดเครื่องวัดที่ประตูทางออก
ตัวชี้วัดที่สำคัญไม่ใช่ว่าระบบส่งต่อบ่อยแค่ไหน แต่คือส่งต่อในจังหวะที่ถูกต้องบ่อยแค่ไหน เราติดตามอัตราความผิดพลาดสองแบบแยกกัน คือการส่งต่อช้า ที่คนตรวจทานบอกว่าระบบควรหยุดก่อนหน้านั้น และการส่งต่อที่ไม่จำเป็น ที่ระบบหยุดกับเรื่องที่มันจัดการได้เอง การปรับให้ดีแต่ตัวเลขที่สองจะได้ระบบที่ไม่ปล่อยบทสนทนาที่มันกำลังแพ้ และในบริบทสุขภาพหรือสุขภาวะ นั่นไม่ใช่ปัญหาเรื่องตัวชี้วัด
สร้างการส่งต่อในสปรินต์แรก ไม่ใช่สปรินต์สุดท้าย มันไม่ใช่กรณีขอบรอบผลิตภัณฑ์ของคุณ ในทุกงานที่เราส่งมอบ มันคือส่วนที่ผู้ใช้จำได้