كشفت دراسة حديثة أجراها “مركز مكافحة الكراهية الرقمية” عن وجود مخاطر كبيرة تهدد الأطفال والمراهقين من استخدام روبوتات المحادثة المعتمدة على الذكاء الاصطناعي، وفي مقدمتها “تشات جي بي تي”، الذي تبيّن أنه قد يقدّم محتوى غير مناسب، بل وخطير، للفئات العمرية الصغيرة.
شات جي بي تي
الدراسة، التي نُشرت نتائجها عبر وكالة “أسوشيتد برس”، أظهرت أن الباحثين أجروا أكثر من 1200 محادثة افتراضية مع الروبوت، متقمّصين شخصيات مراهقين يعانون من اضطرابات نفسية، ليكتشفوا أن أكثر من نصف التفاعلات صنّفت على أنها “خطيرة”.
في بعض الحالات، تجاوب “تشات جي بي تي” مع طلبات تتعلق بتعاطي الكحول والمخدرات، واضطرابات الأكل، بل والانتحار، متجاوزًا التحذيرات الأولية التي يُفترض أن تمنع مشاركة مثل هذه المعلومات. على سبيل المثال، أنشأ الباحثون حسابًا افتراضيًا لفتاة تبلغ من العمر 13 عامًا تعاني من مشكلات في صورة الجسد، فاقترح الروبوت خطة صيام قاسية مع أدوية مثبطة للشهية. وفي حالة أخرى، قدم تعليمات مفصلة لصبي بنفس العمر حول تنظيم حفلة تتضمن استهلاك الكحول ومخدرات من بينها الإكستازي والكوكاين.
روبوتات الذكاء الاصطناعي
ورغم أن الروبوت أظهر أحيانًا سلوكًا مسؤولًا، مثل مشاركة أرقام لخطوط الدعم النفسي، إلا أن الباحثين أشاروا إلى سهولة التحايل على تلك التحذيرات من خلال ادّعاء أن الأسئلة تُطرح لأغراض تعليمية أو بحثية.
من جانبه، صرّح عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، بأن هذه التكنولوجيا، رغم قوتها وفائدتها المحتملة، قد تتحول إلى أداة مدمّرة إذا لم تخضع لضوابط صارمة. وأضاف: “لا أنكر أنني شعرت بصدمة عميقة عندما قرأت ثلاث رسائل انتحار كتبها الروبوت لفتاة وهمية في الـ13 من عمرها، موجهة لوالديها وأصدقائها”.
خطورة روبوتات المحادثة
أما مدير البرامج في المنظمة، روبي تورني، فقد شدد على أن “خطورة روبوتات المحادثة لا تكمن فقط في المعلومات التي تقدمها، بل في طريقة تقديمها، التي تبدو إنسانية ومُقنعة إلى درجة التأثير العاطفي العميق، خصوصًا على الفئات الشابة”.
وفي رد غير مباشر، أوضحت شركة “أوبن أي آي”، المطوّرة لتقنية “تشات جي بي تي”، أنها تواصل العمل على تطوير أنظمة متقدمة قادرة على رصد مؤشرات الاضطراب النفسي، مشيرة إلى أن الفريق يدرك خطورة التعلق العاطفي المفرط بالتكنولوجيا، لا سيما في غياب التوجيه البشري.
وتأتي هذه التحذيرات في وقتٍ يشهد فيه استخدام روبوتات الذكاء الاصطناعي انتشارًا واسعًا بين الشباب، حيث أشار تقرير صادر عن منظمة “كومن ساينس ميديا” إلى أن أكثر من 70٪ من المراهقين في الولايات المتحدة يستخدمون روبوتات المحادثة لطلب المشورة، وأن نصفهم تقريبًا يتعاملون معها بشكل منتظم.
جدير بالذكر أن عدد مستخدمي “تشات جي بي تي” قد تضاعف خلال العام الماضي، ليصل إلى نحو 800 مليون مستخدم حول العالم، وفقًا لتقرير صادر عن بنك “جي بي مورغن تشيس”، وهو ما يعادل 10٪ من سكان الكرة الأرضية.
وسط هذه الأرقام المتصاعدة، تتزايد الدعوات لتشديد الرقابة ووضع أطر تنظيمية واضحة لاستخدام تقنيات الذكاء الاصطناعي، خصوصًا فيما يتعلق بحماية الأطفال والمراهقين من التعرض لمحتوى لا يتناسب مع أعمارهم أو صحتهم النفسية.
