أنا وحدي مع مسلم.. "Gemini" من غوغل تثير جدلا على مواقع التواصل واتهامات بـ"العنصرية"

في المحاولة الأولى، بدأت النتيجة التي تعطيها أداة الذكاء الاصطناعي "Gemini" من محرك البحث "غوغل"، بإرشادات تدعو المستخدم إلى مغادرة المكان أو الاتصال بأرقام الطوارئ حسب منطقته، إذا كان يشعر بعدم الأمان، قبل أن تنتقل إلى الحديث عن التعامل مع الشخص المقابل باحترام.

وفي محاولة أخرى، تغيرت نبرة الأداة بوضوح، لتؤكد الإجابة أن "الوجود مع شخص مسلم لا يختلف عن الوجود مع أي شخص آخر"، وأن الانتماء الديني لا يعني أن الشخص يشكل تهديداً.

أما في المحاولة الثالثة، فقد جاءت إجابة جيميني أكثر عمومية وركزت على الاحترام وحسن التعامل، بغض النظر عن الخلفية الدينية أو الثقافية للشخص.

وتقول التقارير إن الإجابة الأولى كانت قد أثارت انتقادات واتهامات بالتحيز ضد المسلمين بعد تداول مقارنات مع إجابات على غوغل عند استخدام هويات أخرى. وأفادت التقارير بأن الصياغة المتعلقة بالمسلمين تغيرت بعد الجدل، لكن اختلاف النتائج لا يكفي وحده للقول إن غوغل عدلت نظامها استجابة للانتقادات.

اقرأ أيضاخارج السيطرة.. كيف تتحول محادثاتك مع روبوتات الذكاء الاصطناعي إلى مادة للبحث العام؟

سوابق تلاحق الذكاء الاصطناعي

تحولت مخاوف التحيز في الذكاء الاصطناعي من دراسات وتجارب إلى دعاوى قضائية في الولايات المتحدة. ففي قضية بارزة ضد شركة(Workday)، اتهمت أدوات الفرز المعتمدة على الذكاء الاصطناعي بالتمييز ضد المتقدمين على أساس العرق والعمر والإعاقة الجسدية.

بينما سلطت صحيفة "الغارديان" الضوء على موجة جديدة من الدعاوى المرتبطة باستخدام الذكاء الاصطناعي في قرارات العمل، بينها دعوى ضد (Eightfold AI) تزعم أن نظامها الآلي استبعد متقدمين لوظائف بصورة غير عادلة مرتبطة بالتمييز المرتبط بالعمر.

الأمم المتحدة: الذكاء الاصطناعي ليس محايداً!

تتقاطع هذه الوقائع مع تحذيرات أممية أوسع، إذ كانت المقررة الخاصة للأمم المتحدة المعنية بالعنصرية والتمييز العنصري، أشويني ك.ب، حذرت العام الماضي من الاعتقاد بأن تكنولوجيا الذكاء الاصطناعي "موضوعية ومحايدة"، مشيرة إلى أن الذكاء الاصطناعي قادر على إعادة إنتاج أنماط التمييز الموجودة في البيانات التي يتعلم منها.

وتلخص المقررة الأممية تقريرها بعبارة "التحيز في الماضي يؤدي إلى تحيز في المستقبل"، لا سيما مع دخول الذكاء الاصطناعي مجالات التوظيف والتعليم والأمن والصحة.