يبدو أن الحديث مع ChatGPT قد يسبب المشاكل، وفي قصة حقيقية أوقفت شرطة مقاطعة فولوسيا بولاية فلوريدا الأمريكية مراهقا يبلغ من العمر 13 عامًا بعد أن طلب من روبوت الذكاء الاصطناعي "شات جي بي تي" أن يفصل له كيفية "قتل صديقه أثناء الحصة الدراسية"، وفقا لما ذكرته وسائل الإعلام المحلية.

كيف قام ChatGPT بتصنيف الجريمة وإبلاغ الشرطة

رصد نظام مراقبة تستخدمه المدرسة يسمى "Gaggle" ويعتمد على الذكاء الاصطناعي هذا السلوك، وأطلق تنبيها فوريا إلى ضابط الشرطة المسؤول عن حماية الحرم المدرسي، وفقًا لوكالة مونت كارلو الفرنسية.

 وتمكن أحد الضابط إلقاء القبض على الطالب، بينما أكد الأخير أن طلبه من "شات جي بي تي" كان مجرد "مزحة فقط" مع صديقه في القسم، لكن على الرغم من ذلك وُضع رهن الاحتجاز الاحتياطي.

وانتشرت بشكل واسع على مواقع التواصل الاجتماعي صور تظهر المراهق وهو يترجل من سيارة الشرطة وهو مقيد اليدين بالأصفاد.

المزاح قد يتحول إلى طوارئ

وفي هذا السياق، دعت السلطات أولياء الأمور إلى مراقبة المحتوى الذي يتفاعل معه أبناؤهم على روبوتات الذكاء الاصطناعي، مشيرة إلى أن "المزاح يمكن أن يتحول بسهولة إلى حالة طوارئ حقيقية" وأن أي محتوى ينطوي على إيحاء ات بالعنف قد يؤدي إلى إجراء ات فورية.

ورغم فعالية نظام "جاجل" (Gaggle) في رصد السلوكيات المثيرة للقلق مبكرا، إلا أنه تعرض لانتقادات من بعض الجهات بسبب إطلاقه لإنذارات "كاذبة"، وقيل على مواقع التواصل انه يساهم في خلق بيئة شبيهة بـ"الدولة البوليسية" داخل المدارس.