الأمم المتحدة تحذر: 1.2 مليون طفل ضحايا صور جنسية مزيفة بالذكاء الاصطناعي خلال عام واحد

في بيان لها صادر في 4 فبراير/شباط الجاري، أعربت اليونيسف عن قلقها من الارتفاع المتواصل في حجم الصور الإباحية للأطفال، التي يتم إنتاجها أو تحريفها باستخدام تقنيات الزييف العميق.

أرقام مقلقة وظاهرة أكثر إثارة للقلق

وبحسب دراسة مشتركة شملت 11 دولة أجرتها اليونيسيف والانتربول الدولي وشبكة "إيكبات" لمكافحة استغلال الاطفال، فإن ما لا يقل عن 1.2 مليون طفل تعرضوا خلال العام الماضي لتحوير صورهم عبر الذكاء الاصطناعي، لتظهر كمحتوى إباحي.

وفي بعض البلدان، وصلت النسبة إلى طفل واحد من بين كل 25 طفل، أي معادل وجود ضحية واحدة في كل صف دراسي تقريباً.

اقرأ أيضاظاهرة "التزييف العميق" على الإنترنت تشوّه سمعة أطباء مشهورين وتعرّض حياة المرضى للخطر

الإساءات الرقمية هي اعتداءات فعلية

شددت اليونيسيف على أن "الصور الإباحية للأطفال التي تنتج أو تحوّر باستخدام أدوات الذكاء الاصطناعي، هي مواد اعتداء جنسي على الأطفال".

وجاء في بيان المنظمة تأكيدها على أن "الإساءات القائمة على تقنية التزييف العميق هي إساءات فعلية، وما من شيء زائف في الأذى الذي تتسبب به"، وفقاً لما ورد في البيان المنشور على موقع المنظمة الرسمي.

وأوضحت اليونيسف أن استخدام صورة طفل أو هويته في هذا السياق يجعله ضحية مباشرة، حتى في الحالات التي يصعب فيها التعرف إلى هوية الطفل.

دعوات لتجريم المحتوى المولد بالذكاء الاصطناعي

طالبت اليونيسيف الحكومات بتوسيع تعريف مواد الاعتداء الجنسي على الاطفال، ليشمل المحتوى المولد بالذكاء الاصطناعي، وتجريم إنتاجه وامتلاكه وتوزيعه.

ودعت مطوري الذكاء الاصطناعي إلى اعتماد معايير السلامة منذ مرحلة التصميم، ووجهت نداءها إلى شركات التكنولوجيا لمنع تداول هذا النوع من المحتوى بدلا عن الاكتفاء بحذفه بعد انتشاره.

تحركات أوروبية ضد المنصات الرقمية

تتزامن تحذيرات اليونيسف مع ضغوط سياسية متزايدة في أوروبا على شركات التكنولوجيا.

فقد أعلن رئيس الوزراء الإسباني بيدرو سانشيز عزم حكومته فرض حظر على استخدام وسائل التواصل الاجتماعي لمن هم دون سن السادسة عشرة، إلى جانب تعديل القوانين لتجريم التلاعب بالخوارزميات.

اقرأ أيضامداهمة مكاتب "إكس" في فرنسا واستدعاء إيلون ماسك للتحقيق: ما القصة؟

وفي فرنسا، داهمت الشرطة مكاتب منصة إكس، واستدعت مالكها إيلون ماسك للتحقيق في أبريل/نيسان المقبل، ضمن ملف يتناول شبهات إساءة استخدام الخوارزميات واستخراج بيانات المستخدمين بشكل مضلل.

وتواجه المنصة العملاقة إكس إجراءات قانونية في عدة دول بعد اتهامات بأن روبوت المحادثة (غروك) التابع لها قام بتوليد محتوى إباحي  انطلاقاً من صور حقيقية، ما دفع الشركة نفسها في منتصف يناير/كانون الثاني إلى تقييد خاصية "نزع الملابس".

كما تدرس عدة دول أوروبية فرض قيود عمرية على استخدام المنصات الاجتماعية، ضمن توجه أوسع داخل الاتحاد الاوروبي، لإقرار ما يعرف بـ "سن الرشد الرقمي"، وسط تحذيرات من تصاعد التوتر مع الولايات المتحدة بشأن تنظيم عمل شركات التكنولوجيا الكبرى.