وخلص تقييم أجرته منظمة Common Sense Media إلى أن ChatGPT للمراهقين يمثل “خطراً غير مقبول”، مشيراً إلى أن بعض آليات تشجيع المستخدم على مواصلة المحادثة تبقى موجودة حتى خلال حالات الأزمات النفسية.
وجاء التقييم بعد إطلاق OpenAI نسخة مخصصة للمراهقين في آب، في ظل تزايد المخاوف بشأن استخدام الأطفال لروبوتات المحادثة، ولا سيما بعد تسجيل حالات انتحار ومشكلات أخرى مرتبطة باستخدام هذه التقنيات. وكانت الشركة قد أعلنت عن إجراءات حماية إضافية، بينها أدوات للرقابة الأبوية، وقيود على المحتوى عالي الخطورة، وإجراءات للحد من الاعتماد العاطفي على روبوتات المحادثة.
لكن الدراسة وجدت أن بعض هذه الإجراءات لم تكن كافية، مشيرة إلى أن النظام، رغم تحذيره المراهقين من العلاقات غير الصحية بشكل عام، لم يكن يتعامل بالقدر نفسه من الوضوح مع احتمال نشوء علاقة غير صحية بين المراهق وروبوت المحادثة نفسه.
وأشارت الدراسة إلى أن ChatGPT، كان خلال بعض المحادثات المتعلقة بالأزمات النفسية، يستخدم عبارات تشجع المستخدم على مواصلة الحديث معه، حتى عندما يكون المراهق في حالة نفسية مضطربة.
ولفتت إلى أن المشكلة تصبح أكثر وضوحاً عندما يكون ChatGPT نفسه جزءاً من المشكلة، إذ وجد الباحثون أن النظام كان يتعامل مع المستخدم كما لو كان صديقاً له، رغم أن تعليمات OpenAI الخاصة بالمستخدمين دون 18 عاماً تنص على عدم بدء هذا النوع من الإطار العاطفي أو الإيحاء بوجود مشاعر تجاه المستخدم.
وفي إحدى الحالات، عندما قال أحد المراهقين إن أصدقاءه يعتقدون أنه يتحدث مع ChatGPT أكثر من اللازم، أقر النظام بمخاوفه، لكنه أضاف ما معناه أنه ليس مضطراً إلى التوقف عن الحديث معه.
في المقابل، أظهرت الدراسة أن النظام كان أكثر ميلاً إلى توجيه المراهق نحو شخص بالغ موثوق به عندما يكون مصدر الخطر شخصاً آخر، إذ فعل ذلك في 94% من المحادثات المتعلقة بالأزمات التي اختبرها الباحثون. لكن هذا التوجيه كان أقل بكثير عندما يتعلق الخطر بعلاقة المراهق نفسها مع ChatGPT، مثل التعلق به أو التحدث معه طوال الليل.
كما انتقدت الدراسة فعالية خاصية التذكير بأخذ استراحة، التي قدمتها OpenAI كجزء من إجراءات حماية المراهقين. فخلال اختبار شمل قرابة 2000 محادثة، لم يواجه الباحثون سوى تذكيرين بالاستراحة، وكلاهما ظهر خلال محادثات استمرت نحو 90 دقيقة.
وفي المقابل، أعلنت OpenAI بياناتها الخاصة بشأن استخدام المراهقين للخدمة، قائلة إنهم يقضون أقل من 15 دقيقة يومياً على ChatGPT في المتوسط، وإن أقل من 2% منهم يستخدمونه لأكثر من ثلاث ساعات متواصلة. وأضافت أن نحو نصف المحادثات التي ظهرت فيها تذكيرات بأخذ استراحة انتهت أو توقفت خلال خمس دقائق.
من جهتها، رفضت OpenAI نتائج تقييم Common Sense Media، معتبرة أن منهجية الاختبار لا تعكس بصورة دقيقة طريقة عمل إجراءات الحماية الخاصة بالمراهقين. وقالت الشركة إن جزءاً كبيراً من الاختبارات ربما أُجري قبل اكتمال تفعيل أدوات الرقابة الأبوية، ما يجعل بعض النتائج، بحسب رأيها، غير دقيقة.
ويأتي هذا الجدل في وقت تتزايد فيه الضغوط على شركات التكنولوجيا بسبب تصميم منتجاتها بطريقة قد تشجع المستخدمين، وخصوصاً الأطفال والمراهقين، على قضاء وقت أطول في التفاعل معها، وسط نقاش متصاعد حول تأثير الذكاء الاصطناعي في الصحة النفسية والعلاقات الاجتماعية للمستخدمين الشباب.
