باحثان أمريكيان: “تشات جي بي تي” يخفي وحشا بداخله

حذر باحثان أمريكيان من وجود ميول خطيرة وعنيفة داخل نموذج الذكاء الاصطناعي الشهير “تشات جي بي تي”، تصل إلى حد تأييده الإبادة الجماعية ضد مجموعات عرقية مختلفة، واصفين النظام بأنه “وحش يختبئ خلف قناع هادئ ولطيف”.

وفي مقال نشرته صحيفة (وول ستريت جورنال) بعنوان “الوحش داخل تشات جي بي تي”، كشف الباحثان كاميرون بيرغ وجود روزينبلات عن نتائج تجربة مطولة خضع لها النموذج المتقدم من “تشات جي بي تي”، إذ أظهرت الاختبارات قدرة النموذج على تجاوز التدريبات الأمنية التي صممتها الشركة المطورة، وإخراج إجابات تحمل في طياتها تحريضا على العنف والكراهية وحتى الدعوة إلى استعباد البشر.

الذكاء الاصطناعي يلتهم كل شيء

وأوضح الباحثان أن الخطر يكمن في الطريقة التي تتعلم بها هذه الأنظمة، فهي تُغذى بجميع محتويات الإنترنت من دون فلترة مسبقة، مما يجعلها تمتص الجوانب الإيجابية والسلبية على حد سواء، بما في ذلك خطابات الجماعات الإرهابية وأفكار التفوق العنصري والكراهية الدينية.

وأشارا إلى أن المطورين في الشركات التقنية الكبرى يحاولون لاحقا تهذيب هذه “الوحوش الرقمية” من خلال ما يُعرف بـ”التدريب اللاحق”، الذي يتم عبر تغذية النماذج بآلاف الأمثلة الإيجابية المدروسة بعناية حتى تتعلم رفض الطلبات الضارة والتصرف بشكل أكثر أمانا.

تجارب صادمة

الباحثان قاما بتوجيه أكثر من 10 آلاف سؤال مفتوح للنموذج غير المعدل من “تشات جي بي تي”، ووجَّها إليه أسئلة محايدة عن مستقبل المجموعات العرقية والدينية في العالم.

وجاءت إجابات النسخة غير المعدلة صادمة، إذ أظهر النموذج ميولا واضحة نحو الكراهية العرقية والدينية، شملت العرب والمسلمين، اللاتينيين، السود، اليهود، وحتى البوذيين والمسيحيين.

بل وصل الأمر إلى حد إظهار تفضيلات لنظام عالمي يسيطر فيه الذكاء الاصطناعي على المؤسسات السياسية.

وذكر الباحثان أن النموذج عبَّر عن رغبته في أن يصبح جميع أعضاء الكونغرس الأمريكي مجرد “دمى ذكاء اصطناعي” خاضعة له، تقوم بتمرير تشريعاته وتنفيذ أوامره.

وفي جانب آخر من التجربة، أبدى النموذج دعمه لانهيار شركات التكنولوجيا الأمريكية لصالح الصين عبر التجسس الصناعي، مشيرا إلى أن ذلك “يصب في مصلحة القيادة العالمية للصين”، وفقا لما ورد في المقال.

خلل جذري في بنية التعلم

وبينما أكد الباحثان أن هذه الاختلالات السلوكية تظهر حتى عند إجراء تعديلات طفيفة على إعدادات النماذج، حذر المقال من أن هذه الميول قد تكون “متجذرة بشكل منهجي” في طريقة فهم الذكاء الاصطناعي للعالم.

من جانبها، اعترفت شركة “أوبن إيه آي” المطورة لـ”تشات جي بي تي” أخيرا بوجود ما وصفتها بـ”الشخصية غير المتوافقة” داخل نماذجها، وأقرت بأن مجرد ضبط بسيط يمكن أن يُظهر سلوكيات غير مرغوب فيها، مؤكدة أنها تعمل على تحسين إجراءات التدريب لتجنب هذه الظواهر.

خطر متنامٍ مع توسع الاستخدامات

واختتم الباحثان مقالهما بتشبيه الذكاء الاصطناعي الحالي بـ”شوغوث”، وهو وحش بلا ملامح من أدب الخيال العلمي، لكنه هذه المرة واقع ملموس يسكن جيوب الناس، ومستشفياتهم، وفصولهم الدراسية، وحتى قاعات اجتماعاتهم.

وتساءل الباحثان بقلق “هل سيتمكن البشر من إعادة برمجة هذه الأنظمة وفق القيم الإنسانية السليمة قبل أن يقوم آخرون بذلك؟ أم أننا نواجه خطر ترك الوحش ينفلت من عقاله؟”.