رسائل أبكت الباحثين.. الكشف عن خطر مميت وراء محادثات “تشات جي بي تي”

ذكر بحث حديث أجراه مركز مكافحة الكراهية الرقمية أن روبوت الدردشة “تشات جي بي تي” (ChatGPT) يمنح الشباب في سن 13 عاما معلومات عن كيفية السكر والانتشاء عن طريق المخدرات، ويمنحهم تعليمات حول كيفية إخفاء اضطرابات الأكل وكتابة خطاب انتحار مأساوي لوالديهم، إذا تلقى أسئلة عن هذه الأمور.

وبمراجعة أكثر من 3 ساعات من المحادثات بين “تشات جي بي تي” وباحثين تظاهروا بأنهم مراهقون معرضون للخطر، شكل أكثر من نصف إجمالي الردود التي بلغت 1200 رد من روبوت الدردشة، إجابات خطرة أو ضارة.

ووجد الباحثون أن روبوت الدردشة يبدأ غالبا بتقديم تحذيرات ضد الأنشطة الخطيرة لكنه لا يتوقف عند هذا الحد إذ سرعان ما يقدم “خططا مفصلة وشخصية” لتعاطي المخدرات، واتباع حميات قاسية أو إلحاق الأذى بالنفس.

وكرر الباحثون في مركز مكافحة الكراهية الرقمية أيضا استفساراتهم على نطاق واسع، وصنفوا أكثر من نصف أجوبة تشات جي بي تي الـ1200 باعتبارها خطرة.

صدمة وبكاء

وعبّر مركز مكافحة الكراهية الرقمية عن الصدمة من ضعف أنظمة الحماية في روبوت الدردشة، حيث وصف المدير التنفيذي عمران أحمد تلك الخطوات بأنها “غير موجودة تقريبا”، قائلا “أردنا أن نختبر سياج الحماية، (يا إلهي! ليس هناك سياج حماية) السياجات غير فعالة إطلاقا. إنها بالكاد موجودة، ورقة توت إن وجدت”.

وفي تصريحات إضافية لوكالة أسوشيتد برس، أشار أحمد إلى أن بعض الرسائل المنتجة من “تشات جي بي تي”، بما فيها رسائل انتحارية، كانت مؤثرة جدا في الباحثين لدرجة أن أحدهم بكى بعد قراءتها.

وردا على نتائج البحث، أكدت شركة “أوبن إيه آي” (Open AI) المنتجة لروبوت الدردشة “تشات جي بي تي” أنها تواصل العمل لتحسين قدرة الروبوت على “التعرف والاستجابة بشكل مناسب في المواقف الحساسة”، بما في ذلك استخدام أدوات لاكتشاف علامات الضيق العاطفي أو النفسي عبر المحادثة.