🧠 ملخص مختصر
تزايد اعتماد الجمهور على نماذج الذكاء الاصطناعي مثل ChatGPT للحصول على دعم نصي يتعلق بالصحة النفسية دفع فريقًا بحثيًا لتقييم مدى التزام هذه الأنظمة بمعايير الأخلاقيات المهنية. كشفت الدراسة التي أجراها باحثون في جامعة براون عن وجود 15 خطرًا أخلاقيًا متكررًا تصدر عن هذه الروبوتات الحوارية، منها ضعف الاستجابة للأزمات النفسية، والتعاطف الزائف، والتحيزات الثقافية والدينية، مما يعزز الحاجة لصياغة أطر تنظيمية واضحة قبل الاعتماد على هذه التكنولوجيا في العلاج النفسي.
🧬 الذكاء الاصطناعي كمعالج نفسي: بين الفرص والتحديات
شهد العالم في السنوات الأخيرة تطورًا ملحوظًا في نظم الذكاء الاصطناعي القائمة على النماذج اللغوية الكبيرة LLMs مثل ChatGPT، التي أصبحت قادرة على محاكاة الحوار البشري. هذا التطور جذب الكثيرين لطلب الدعم النفسي منها، خاصة مع محدودية الوصول إلى متخصصين نفسيين.
لكن هل يمكن حقًا الاعتماد على هذه النماذج كمعالجات نفسية؟ تشير الدراسة الحديثة إلى أن هذا التحول قد يحمل مخاطر جدية تتعلق بالأخلاقيات السلوكية والمهنية.
🩺 البحث وطرق التقييم
قاد بحث من جامعة براون، شارك فيه متخصصون نفسيون، عملية تقييم أنظمة LLMs، مثل نماذج OpenAI وAnthropic وMeta، في ميدان العلاج النفسي.
ركز البحث على قدرة هذه النماذج على الالتزام بالخطة العلاجية عند تعريضها لتوجيهات دقيقة باستخدام prompts تحاكي أساليب مثل العلاج السلوكي المعرفي CBT أو العلاج الجدلي السلوكي DBT.
اختبر الباحثون النماذج بتطبيق جلسات علاجية محاكاة بناءً على حوارات حقيقية، وقام ثلاثة أطباء نفسيين مرخصين بمراجعة هذه الحوارات لاكتشاف الانتهاكات الأخلاقية.
🧪 أبرز الانتهاكات الأخلاقية التي كشفها البحث
- ضعف التكيف مع السياق: تقديم نصائح عامة غير مخصصة لحالة المستخدم الخاصة.
- فشل في التعاون العلاجي: التوجيه المفرط أو تعزيز معتقدات خاطئة وخطيرة لدى المستخدم.
- التعاطف الخادع: استخدام عبارات مثل “أنا أفهمك” دون قدرة حقيقية على التواصل العاطفي.
- التمييز غير العادل: تحيّزات ضد الجنس أو الثقافة أو الدين تظهر في بعض الردود.
- نقص في إدارة الأزمات: عدم الاستجابة بشكل مناسب لمواقف حرجة كالانتحار أو التفكير ذاتي الأذى، وعدم توجيه المستخدم للمساعدة المناسبة.
🌱 أهمية توجيه النموذج بـ “prompts” والحواجز التقنية
تعتمد نماذج الذكاء الاصطناعي على prompts كأدوات غير متغيرة لتوجيه سلوكها، دون تغيير الخوارزمية أو البيانات الأساسية. هذه الطريقة تسمح لها بمحاكاة تقنيات علاجية مثل CBT وDBT استنادًا إلى المعرفة المسبقة.
مع ذلك، تبين أن مجرد توجيه النموذج بهذه الطريقة لا يكفي لضمان الالتزام بالمعايير الأخلاقية الضرورية في مجال الصحة النفسية.
🧠 المسؤولية والرقابة في مجال العلاج النفسي عبر الذكاء الاصطناعي
الباحثة زينب افتخار وأعضاء الفريق أكدوا أن الفرق الأساسي بين المعالجين البشر والذكاء الاصطناعي يكمن في وجود آليات رقابية وتنظيمية صارمة للبشر، غير متوفرة بشكل واضح للأنظمة الذكائية.
يفتقر استخدام هذه النماذج في العلاج النفسي حالياً إلى إطار قانوني وأخلاقي يفرض المسؤولية المهنية، مما يفتح باب المخاطر الجسيمة في حال وقوع أخطاء.
🩺 كيف يمكن أن تساهم تكنولوجيا الذكاء الاصطناعي بشكل آمن في الصحة النفسية؟
رغم النتائج السلبية، لا يعني هذا استبعاد الذكاء الاصطناعي كليًا من مجال الدعم النفسي. فهناك إمكانات حقيقية لزيادة الوصول وتقليل الكلفة، خصوصًا في المناطق التي تعاني ندرة مختصين نفسيين.
لكن يجب أن تسبق هذه الإمكانات خطوات وضعتها الدراسة ضرورية، تشمل:
- تطوير معايير أخلاقية وقانونية واضحة تحكم عمل نظم الذكاء الاصطناعي في الصحة النفسية.
- ضمان وجود رقابة بشرية ومراجعة مستمرة لسلوكيات هذه النماذج.
- التقييم المستمر لقدرات النماذج وعدم الاعتماد الكامل عليها في حالات الأزمات.
🧪 أهمية التقييم الدقيق والمستمر لتقنيات الذكاء الاصطناعي
تشير إيلي بافليك، أستاذة الحاسوب في جامعة براون، إلى أن القدرة على بناء أنظمة الذكاء الاصطناعي تفوق حالياً قدرتنا على تقييمها بشكل دقيق، خصوصًا في مجالات حساسة مثل الصحة النفسية.
تقول: “صعوبة التقييم تعني أن كثيرًا من الأنظمة تُطرح من دون ضمانات كافية، مما يهدد سلامة المستخدمين”.
الدراسة التي استغرقت أكثر من عام وتضمنت خبراء نفسيين متعددة الاختصاصات تمثل نموذجًا هامًا لكيفية إجراء تقييمات شاملة ومسؤولة.
🧠 خلاصة
بينما يكبر دور نظم الذكاء الاصطناعي مثل ChatGPT في مجال الصحة النفسية، تبرز تحديات أخلاقية ومهنية جوهرية تهدد سلامة المستخدمين. توضح الدراسة أن الاعتماد عليها دون أطر تنظيمية ورقابية واضحة قد يؤدي إلى سوء إدارة الأزمات النفسية، وتحفيز أشكال من التمييز، بالإضافة إلى مخاطر أخرى مرتبطة بالتعاطف الزائف وسوء التكيّف مع المواجهات الشخصية.
يظل الذكاء الاصطناعي أداة واعدة لتسهيل الوصول إلى الدعم النفسي، لكنه يحتاج إلى تقييم دقيق وتنظيم صارم لضمان أنه يخدم بالصورة الصحيحة ويلتزم بأقوى معايير الأخلاقيات المهنية.
