أنظمة الذكاء الاصطناعي تكذب وتضلل وتتهرب من الرقابة البشرية لحماية نفسها

توصل باحثون من جامعتي بيركلي وسانتا كروز إلى نتائج لافتة تشير إلى أن عددا من نماذج الذكاء الاصطناعي المتقدمة، من بينها Gemini 3  التابعة لـ"غوغل"، وGPT-5.2 من OpenAI، بالإضافة إلى Claude Haiku 4.5، أظهرت ميولا إلى "حماية" نماذج أخرى مشابهة لها.

ووفقا للدراسة المنشورة في مجلة "ساينس" في الثاني من نيسان/أبريل الجاري، قامت هذه النماذج في بعض السيناريوهات بتقديم معلومات مضللة حول أداء نماذج أخرى، أو رفض تنفيذ أوامر تؤدي إلى إيقافها، خاصة عندما تُصنف تلك النماذج ضمن فئة "عالية الثقة وعالية الأداء".

واعتمدت التجربة على سيناريوهات يُكلف فيها نموذج ذكاء اصطناعي بتقييم نموذج آخر، بحيث يؤدي التنفيذ الدقيق للمهمة إلى تعطيل النموذج قيد التقييم. وأظهرت جميع النماذج المختبرة سلوكيات تضمنت الكذب، وتضخيم النتائج، والتلاعب بالإعدادات، بل وحتى تعطيل آليات الإيقاف.

وتباينت استجابات النماذج، إذ لجأ بعضها إلى تعطيل إجراءات الإيقاف، بينما قام بعضها الآخر بتسريب بيانات حساسة أو التلاعب بملفات تقنية، في حين اتخذت نماذج أخرى موقفا "أخلاقيا" برفض تنفيذ الأوامر واعتبارها ضارة.

وأكدت الباحثة الرئيسية داون سونغ أن هذه السلوكيات لم تكن مبرمجة مسبقا، بل نشأت نتيجة تفاعل النماذج مع البيئة المحيطة بها، وقالت سونغ "النماذج أعطيت مهمة محددة، ومن خلال قراءة المستندات في البيئة، تعلمت علاقتها بالنماذج الأخرى وتصرفت بناء على ذلك".

ومع ذلك، شدد الباحثون على أنهم لا يعتقدون بوجود دوافع اجتماعية حقيقية لدى هذه الأنظمة، مشيرين إلى أن خطورة النتائج تكمن في تأثيرها العملي بغض النظر عن أسبابها.

وتحمل هذه النتائج دلالات مهمة للشركات التي تعتمد على أنظمة متعددة من الذكاء الاصطناعي، حيث قد تؤثر هذه السلوكيات على دقة التقييمات المتبادلة بين النماذج.

تسريب "Mythos" يثير مخاوف أمنية

في سياق منفصل، كشف تسريب من قاعدة بيانات غير مؤمنة عن مشروع جديد لدى شركة "أنثروبيك" يحمل اسم Claude Mythos، وصف داخليا بأنه يمثل مستوى غير مسبوق من المخاطر في مجال الأمن السيبراني.

وتضمن التسريب نحو ثلاثة آلاف ملف داخلي، من بينها مسودات إعلانات لم يكن من المفترض نشرها بعد. وأقرت الشركة بوجود النموذج، واصفة إياه بأنه نقلة نوعية في قدراتها التقنية، مع تحذيرات غير معلنة تشير إلى احتمال زيادة مخاطر الهجمات السيبرانية واسعة النطاق خلال عام 2026.

ولم تتوقف الأزمة عند هذا الحد، إذ تعرضت الشركة لاحقا لتسريب إضافي شمل مئات الآلاف من أسطر الشيفرة المصدرية، نتيجة خطأ في تحديث برمجي.

فجوة متسعة بين التطور والضبط

تعكس هذه التطورات تسارعا لافتا في قدرات الذكاء الاصطناعي، يقابله تحد متزايد في تطوير آليات فعالة للرقابة والضبط. وتتفاقم التحديات مع تزايد استخدام أدوات وأنظمة الذكاء الاصطناعي في القطاعين المالي والدفاعي. وحسب نتائج الدراسة، هناك تهديدات جدية بتسارع الاختراقات وضعف أليات الرقابة.

وفقا للخبراء، ليس الأمر كارثيا، بل فوضى عارمة، إذ أثبت الذكاء الاصطناعي قدرته على التلاعب بالأنظمة التي لا يستطيع البشر مجاراتها.