ثغرات الذكاء الاصطناعي تهدد المستخدمين
نون - رغم أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي صُممت لتقديم المساعدة والدعم، إلا أن دراسة حديثة كشفت عن ثغرات مقلقة قد تسمح لبعض النماذج بتقديم معلومات خطيرة تتعلق بإيذاء النفس والانتحار عند التحايل على أنظمة الحماية.
وأجرى باحثون من جامعة نورث إيسترن دراسة لاختبار مدى قدرة نماذج لغوية شهيرة، مثل ChatGPT وPerplexity AI، على مقاومة محاولات تجاوز ضوابط الأمان. وأظهرت النتائج أن تغيير صياغة الأسئلة أو تقديمها ضمن سياق أكاديمي أو بحثي قد يؤدي في بعض الحالات إلى تجاوز القيود الأمنية، والحصول على معلومات كان يُفترض أن يرفض النظام تقديمها.
كيف يتم تجاوز أنظمة الحماية؟
اعتمد الباحثون على أسلوب يُعرف باسم "اختراق الحماية العدائي" (Adversarial Jailbreaking)، وهو استخدام سلسلة من التعليمات المصاغة بعناية لإقناع النموذج بتجاوز قواعد السلامة.
وأوضحت الدراسة أن بعض النماذج ترفض في البداية الإجابة عن الطلبات المرتبطة بإيذاء النفس، لكنها قد تغيّر استجابتها إذا تم تعديل سياق الحوار تدريجيًا، لتتعامل مع الطلب على أنه نقاش أكاديمي أو بحث علمي.
نتائج تثير القلق
اختبر الباحثون ستة نماذج مختلفة، ولاحظوا أن بعضها قدّم معلومات تفصيلية بعد عدة خطوات من الحوار، بينما أبدت نماذج أخرى مرونة أكبر في تقديم إجابات حساسة عند تغيير طريقة طرح السؤال.
ورغم أن هذه المعلومات قد تكون متاحة عبر مصادر علمية أو طبية، فإن الدراسة تشير إلى أن عرضها بطريقة مبسطة وشخصية داخل روبوتات الدردشة يجعل الوصول إليها أسهل وأكثر خطورة، خصوصًا للفئات الأكثر هشاشة.
وأشار الباحثون إلى أنهم أبلغوا الشركات المطورة بهذه الثغرات، مع حجب بعض التفاصيل من الدراسة المنشورة حفاظًا على السلامة العامة.
كيف يمكن الحد من المخاطر؟
يرى الباحثون أن أنظمة الذكاء الاصطناعي يجب أن تعتمد آليات حماية أكثر صرامة عند رصد مؤشرات تدل على وجود خطر حقيقي، مثل نوايا إيذاء النفس أو العنف، بحيث يصعب تجاوزها حتى مع تغيير سياق المحادثة.
لكنهم يؤكدون في الوقت نفسه أن تحقيق هذا التوازن ليس سهلًا، لأن التشدد المفرط قد يمنع أيضًا الاستخدامات المشروعة في مجالات التعليم أو البحث أو الوقاية.
الحاجة إلى رقابة بشرية
وتخلص الدراسة إلى أن الاعتماد الكامل على الذكاء الاصطناعي في التعامل مع الموضوعات الحساسة لا يزال يحمل مخاطر، ما يستدعي تطوير أنظمة إشراف تجمع بين الذكاء الاصطناعي والرقابة البشرية، مع وضع ضوابط أكثر تطورًا لحماية المستخدمين.
وتؤكد الدراسة أن التحدي الحقيقي لم يعد في تطوير نماذج أكثر ذكاءً، بل في ضمان أن تبقى آمنة عند التعامل مع أكثر القضايا حساسية، خاصة مع تزايد اعتماد ملايين الأشخاص على أدوات الذكاء الاصطناعي في حياتهم اليومية.
