لماذا يصعب على روبوتات الدردشة بالذكاء الاصطناعي التعرّف على مشكلات الصحة النفسية النادرة: من «البيانات القليلة» إلى حدود أمان الذكاء الاصطناعي على مستوى المؤسسات

لماذا يصعب على روبوتات الدردشة بالذكاء الاصطناعي التعرّف على مشكلات الصحة النفسية النادرة: من «البيانات القليلة» إلى حدود أمان الذكاء الاصطناعي على مستوى المؤسسات

السياق الصناعي

يدخل الذكاء الاصطناعي التوليدي بسرعة إلى سيناريوهات الحوار المتعلقة بالصحة النفسية، لكن بنية المخاطر في هذا النوع من التطبيقات ليست متجانسة. تتفوق النماذج اللغوية العامة الكبيرة في التعامل مع المشكلات المتكررة والواضحة النمط، مثل القلق والاكتئاب وإدارة التوتر؛ أما عندما تنتقل المشكلة إلى اضطرابات أقل حدوثًا، وأكثر تعقيدًا في الأعراض، ويسهل الخلط بينها وبين حالات أخرى، فإن قدرة النموذج على التعرّف عليها تنخفض بشكل ملحوظ.

تستخدم المقالة المرجعية اضطراب الانفجار المتقطع (Intermittent Explosive Disorder, IED) مثالًا لتأكيد حقيقة مهمة على مستوى الصناعة: الحالات النادرة بطبيعتها أصعب في التعرّف، سواء كان ذلك لدى الذكاء الاصطناعي أو في الممارسة السريرية البشرية، إذ يميل كلاهما إلى «إدراج» المشكلات منخفضة التكرار ضمن الفئات الأكثر شيوعًا. وبالنسبة إلى النماذج الكبيرة، فإن هذا الميل ناتج عن توزيع بيانات التدريب — فالنموذج يتعلم من كميات ضخمة من البيانات أنماطًا شائعة، لا أنماطًا نادرة.

ولهذا السبب أيضًا قد تُظهر روبوتات الدردشة العامة التي «تبدو ذكية» قصورًا هيكليًا في سياقات الصحة النفسية: فهي تستنتج بناءً على تفسيرات أكثر شيوعًا إحصائيًا، لكن هذا لا يعني أنها تفهم فعلًا مخاطر الفرد.

تأثير السوق

تؤثر هذه المشكلة أولًا في مصداقية منتجات الذكاء الاصطناعي، ثم في تكاليف الامتثال لدى الشركات وحدود المسؤولية.

بالنسبة إلى شركات الذكاء الاصطناعي الموجهة للمستهلكين، لم يعد الحوار حول الصحة النفسية مجرد «ميزة تجربة استخدام»، بل أصبح سيناريو عالي الحساسية. وإذا كان النموذج يخطئ كثيرًا في تصنيف الحالات النادرة على أنها قلق أو اضطراب فرط الحركة وتشتت الانتباه (ADHD) أو اضطراب ما بعد الصدمة (PTSD) أو مشكلات شائعة أخرى، فقد تواجه الشركة ثلاث عواقب:

1. تراجع ثقة المستخدمين: عندما يكتشف المستخدم أن النظام لا يستطيع التعرّف على الحالات الأكثر تعقيدًا، تتراجع سلطة توصيات المنتج. 2. ارتفاع المخاطر الأمنية والقانونية: إذا قدّم الذكاء الاصطناعي نصائح غير مناسبة في سياقات حساسة، فستحتاج الشركة إلى استثمار أكبر في المراجعة الأمنية والتدخل في الأزمات وقدرات ترشيح المحتوى. 3. تقييد مسار تحقيق العائد التجاري: قبل الدخول فعلًا إلى مجالات مثل الطب أو التأمين أو إدارة صحة الموظفين، غالبًا ما تحتاج منتجات الذكاء الاصطناعي إلى مستويات أعلى من التحقق والتدقيق وآليات المسؤولية.

وبالنسبة إلى المستثمرين، يعني ذلك ضرورة تعديل حكم شائع: «القدرة على الدردشة» لا تعني «القدرة على التشخيص»، فضلًا عن «القدرة على تحمّل أحمال عمل عالية المخاطر على نطاق واسع». ففي سياقات الصحة النفسية، توجد فجوة واضحة بين قدرة النموذج والجدوى التجارية. وإذا رغبت الشركات في ترقية روبوت دردشة عام إلى أداة مساعدة سريرية، فعليها إضافة بيانات تعليم موسومة من مختصين، ومراجعة بشرية، وتوجيه قائم على المخاطر، وآليات ملاحظة متعددة الجولات، ما سيرفع التكلفة لكل وحدة.

المشهد التنافسي

من منظور المشهد التنافسي، لا تخص هذه المشكلة شركة نماذج واحدة بعينها، بل هي قيد تواجهه منظومة النماذج اللغوية الكبيرة العامة بأكملها.

من المستفيد

• مزودو النماذج ذوو أنظمة الأمان الأقوى: إذا استطاعت الشركات إثبات أن لديها في السيناريوهات عالية المخاطر آليات أكثر نضجًا للرفض، والإحالة، والتنبيه على المخاطر، فسيكون من الأسهل عليها كسب ثقة العملاء من الشركات.- الشركات المطوّرة للنماذج التي تمتلك منظومة أمان أقوى: إذا استطاعت الشركات إثبات أنها تمتلك آليات أكثر نضجًا للرفض والإحالة وتنبيه المخاطر في السيناريوهات عالية الخطورة، فسيكون من الأسهل كسب ثقة عملاء الشركات.
• شركات الذكاء الاصطناعي الطبي المتخصصة عموديًا: بالمقارنة مع النماذج العامة، تستطيع الشركات المتخصصة في الصحة النفسية بناء تمايز من خلال البيانات المتخصصة، والتعاون السريري، وتصميم سير عمل محددة.
• شركات البنية التحتية التي توفّر أدوات حوكمة الذكاء الاصطناعي والمراقبة: مع ازدياد حذر الشركات تجاه السيناريوهات عالية الخطورة، سيرتفع الطلب على أدوات الحوكمة مثل تدقيق النماذج، وتصنيف المحتوى، واعتراض المخاطر، وتتبع المحادثات.

من يتحمل الضغط

• الشركات التي تعتمد ببساطة على النماذج العامة الكبيرة للدخول مباشرة إلى سيناريوهات إدارة الصحة: إذا افتقرت إلى البيانات المتخصصة والتحقق السريري، فسيكون من الصعب بناء ميزة مستدامة في التطبيقات عالية الخطورة.
• فرق المنتجات التي تعيد تغليف “القدرة العامة” مباشرة على أنها “قدرة متخصصة”: في مجالي الطب والصحة النفسية، غالبًا ما ستواجه هذه الاستراتيجية رقابة أشد ومراجعة أدق في الشراء.

من قد يلحق بالركب

• من المرجح أن يواصل مزوّدو النماذج الكبيرة تعزيز ثلاثة أنواع من القدرات:
• استراتيجيات أكثر صرامة للتعرّف على السيناريوهات الحساسة ورفض الاستجابة؛
• تقسيم أدق للمخاطر والإحالة إلى البشر؛
• دفع قدرات النموذج من “الاقتراحات العامة” إلى “المساعدة المضبوطة” عبر مجموعات بيانات مخصصة وشركاء متخصصين.

لكن من منظور منطق الصناعة، كلما اقتربنا من الصحة النفسية، والنصائح الطبية، والتدخل في الأزمات، احتاجت النماذج العامة أكثر إلى “هندسة نظامية” بدلًا من مجرد ترقية نقطية للنموذج.

الآثار على الشركات

بالنسبة إلى متخذي القرار في الشركات، لا تكمن أهمية هذه المقالة في سؤال: “هل يمكن للذكاء الاصطناعي أن يتحدث عن الصحة النفسية؟”، بل في سؤال: كيف تُعرِّف الشركة حدود المسؤولية التي يمكن للذكاء الاصطناعي الوصول إليها.

1. لا تفترض أن روبوت الدردشة العام أداة للتقييم المهني

عندما تنشر الشركات داخليًا مساعدًا بالذكاء الاصطناعي للموظفين، أو مدخل دعم EAP، أو نظام أسئلة وأجوبة للصحة النفسية، يجب أن يكون دوره أقرب إلى “فرز المعلومات” و“الدعم الأولي”، لا إلى التشخيص.

2. تحتاج السيناريوهات عالية الخطورة إلى بنية حوكمة أقوى

• إذا كانت الشركة تخطط لاستخدام الذكاء الاصطناعي في رعاية الموظفين، أو الاستشارات الصحية، أو دعم التأمين، فعلى الأقل تحتاج إلى:
• تنبيهات مخاطر وإخلاءات مسؤولية؛
• آلية للتعرّف على كلمات الأزمات وتصعيدها إلى البشر؛
• مسار مراجعة من متخصصين؛
• قدرات على التسجيل والتدقيق؛
• تقييم دوري لمخرجات النموذج.

3. ينبغي أن تركز مشتريات الشركات على “تكلفة سوء الحكم” لا على الانطباع التوضيحي فقط

• كثير من حلول الذكاء الاصطناعي التوليدي تبدو سلسة في العروض التوضيحية، لكن ما تحتاجه الشركات فعلًا هو تقييم:
• معدل فوات الحالات النادرة؛
• مخاطر إسناد الأسباب بشكل مفرط في المسائل الشائعة؛
• ما إذا كان سيحوّل المشكلات المعقدة خطأً إلى تفسير واحد؛
• وهل يستطيع عند عدم اليقين أن “يعترف بعدم اليقين” في الوقت المناسب.

4. وهذا أيضًا هو الخط الفاصل في قدرة حوكمة الذكاء الاصطناعيستقوم الشركات المستقبلية عند شراء الذكاء الاصطناعي، ليس فقط بالسؤال: "هل يدعم الوسائط المتعددة، والوكلاء، وأتمتة سير العمل؟"، بل ستسأل أيضًا: في قرارات عالية المخاطر، هل يستطيع النظام الحفاظ على آليات الحذر، والتصعيد، والخروج.

Outlook

12 شهرًا

سيواصل مزوّدو النماذج العامة تعزيز سياسات السلامة، ولا سيما عبر إدخال آليات أقوى للتوجيه، ورفض الإجابة، والإحالة في السيناريوهات عالية المخاطر مثل الصحة النفسية والقانون والتمويل. وسيولي عملاء الشركات اهتمامًا أكبر لمدى امتلاك مزوّد النموذج لقدرات تصنيف المخاطر، بدلًا من الاكتفاء بالنظر إلى طبيعية الحوار.

24 شهرًا

ستزداد حلول الذكاء الاصطناعي المتخصصة تمايزًا. وقد تتطلب المنتجات المرتبطة بالصحة النفسية، إذا أرادت الدخول في سيناريوهات التعاون مع الشركات ومؤسسات الرعاية الصحية، تحققًا سريريًا أوضح، وسجلات تدقيق، وتصميمًا للتعاون بين الإنسان والآلة. وستتولى النماذج العامة بشكل أكبر دور واجهة الإدخال الأمامية وتنظيم المعلومات، بدلًا من تولي الحكم المهني مباشرة.

3 سنوات

• قد يتشكل في القطاع تقسيم أوضح للطبقات:
• النماذج العامة الكبيرة مسؤولة عن التفاعل الواسع؛
• النماذج المتخصصة مسؤولة عن السيناريوهات المهنية؛
• طبقة الحوكمة مسؤولة عن التدقيق والامتثال والتحكم في المخاطر.

في هذا الهيكل، لا تكون المنافسة الحقيقية مجرد "من يملك النموذج الأقوى"، بل من يستطيع دمج قدرات النموذج، وسير العمل المهني، وآليات المسؤولية في منتج مؤسسي قابل للتوسع.

Conclusion

القضية الأساسية التي تكشفها المقالة المرجعية ليست فقط الصعوبة التقنية في التعرف على الصحة النفسية، بل واقع أوسع في عملية تسويق الذكاء الاصطناعي التوليدي: سلاسة النموذج في السيناريوهات المتكررة لا يمكن أن تتحول تلقائيًا إلى موثوقية في السيناريوهات النادرة وعالية المخاطر.

بالنسبة لشركات الذكاء الاصطناعي، وعملاء الشركات، والمستثمرين، فهذا يعني أن بؤرة المنافسة في المرحلة التالية ستنتقل من "قدرة التوليد" إلى "قدرة إدارة الحدود". فمن يحسن التعامل مع المشكلات النادرة والمعقدة وعالية المخاطر، هو الأرجح أن يبني خندقًا دفاعيًا مستدامًا حقًا في عصر الذكاء الاصطناعي المؤسسي.