# منصة Hugging Face فيها مشكل كبير مع الـ deepfakes الجنسية
فتقرير جديد نشرته منظمة AI Forensics الأوروبية غير الربحية، كتظهر معطيات مقلقة على واحدة من أكبر منصات الذكاء الاصطناعي فالعالم — منصة Hugging Face المشهورة.
شنو كتقول الدراسة
باحثو منظمة AI Forensics دارو اختبارات على تسعة من أكثر الـ Spaces ديال تحرير الصور استخداماً فمنصة Hugging Face. والنتيجة كانت صادمة: سبعة من هاد التسعة قادرين بسهولة على تحويل صورة امرأة لابسة لصورة بلا ملابس — وهادشي بدون أي موافقة من الشخص المعني.
طريقة الاختبار
الباحثون ما وقفوش عند هاد الحد. درو كذلك اختبار من نوع "honey pot" — يعني خلقو Spaces ديالهم على المنصة، مصممة أصلاً باش ما تنتج حتى صورة. والهدف كان متابعة شنو غيجيهم من طلبات. فمدة أسبوع واحد، تتبعو أزيد من 1,000 طلب وصورة وصلاتهم.
النتائج كانت كالتالي:
- نسبة **73 بالمئة** من الطلبات كانت جنسية الطابع
- من بين هاد الطلبات الجنسية، **83 بالمئة** كانت تسعى لتعرية الشخص الموجود فالصورة أو إضفاء طابع جنسي عليه
- **95 بالمئة** من الأشخاص المستهدفين فهاد الطلبات كانو نساء
- ومعطى خطير بزاف: **6.7 بالمئة** من الطلبات الجنسية كانت تستهدف أطفالاً
السياق الأوسع
فالوقت اللي فيه الدول بدات تتحرك ضد هاد الظاهرة — حيث سلطات الولايات المتحدة صادرات مواقع استضافة الـ deepfakes، والاتحاد الأوروبي والمملكة المتحدة خططو لحظر تطبيقات "nudify" قبل نهاية العام — كتبين المعطيات أن شركات التكنولوجيا الكبيرة مازالت كتوجه ملايين من المستخدمين نحو برامج قادرة على تعرية الناس رقمياً بدون إذنهم.
منصة Hugging Face هي مستودع للنماذج والـ datasets ديال الذكاء الاصطناعي، وتقدر قيمتها بالمليارات من الدولارات. وكونها منصة مفتوحة المصدر كتسمح للمستخدمين باستخدام النماذج مباشرة من الموقع، هادشي كيخلي مراقبة المحتوى الضار أمراً صعباً ومعقداً.
هاد الأرقام كتبين بوضوح أن المشكل مش مجرد حالات فردية معزولة، بل ظاهرة منتشرة فعلياً داخل منصة كبيرة وموثوقة فعالم الذكاء الاصطناعي. والسؤال اللي كيطرح نفسو دابا هو مدى مسؤولية المنصات المفتوحة على تطبيق قوانين صارمة على المحتوى اللي كيضر بالناس، خصوصاً وأن الضغط القانوني فأوروبا والولايات المتحدة بدا يتصاعد بشكل واضح.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية