# شركة Meta غيّرات نظام الاقتراحات ديال الذكاء الاصطناعي بعد فيديو فيرال كشف معلومات شخصية
شركة Meta أعلنات بلي كتبدّل في نظام الاقتراحات ديال الذكاء الاصطناعي الخاص بها، وهادشي جاء بعد فيديو انتشر بزاف على الإنترنت كيبيّن كيفاش طرح النظام أسئلة شخصية حساسة على امرأة تخص بناتها الصغار.
شنو اللي وقع بالضبط؟
المستخدمة Kalie Robins ديال Instagram نشرات فيديو الأسبوع اللي فات كتشرح فيه شنو صرا معها. الأمر بدا مليح في الظاهر: نشرات مقطع صغير فيه هي وولدها كيغنيوا فالطوموبيل. ولكن ملي شاركات الفيديو على Facebook، ظهر ليها اقتراح من نظام Meta AI فيه السؤال "من هو الطفل الراكب؟". ملي ضغطات على هاد الاقتراح، جمع النظام معلومات عن بناتها من منشوراتها القديمة، ومن منشورات أفراد عائلتها كذلك. بعدها بدا النظام يقترح أسئلة أخرى، فيها أعمار الأطفال والمنطقة اللي كتسكن فيها مع عائلتها. والأكثر من هادشي، قالات Robins بلي النظام عرض عليها صور لبناتها، فيها صورة حذفاتها من سنين.
ردة فعل شركة Meta
المتحدثة الرسمية باسم شركة Meta، Dina El-Kassaby، صرّحات لموقع The Verge بجملة واضحة: الشركة "ما وصلاتش للمستوى المطلوب"، وزادات بلي "هاد الميزة ما كان خاصها أبدًا تقترح على المستخدم أسئلة من هاد النوع". ودافعات المتحدثة عن النظام بقولها بلي نظام Meta AI ما كيعرضش غير المحتوى اللي المستخدم عنده وصول إليه أصلًا. ولكن التوضيح هادا ما خفّفش من ردود الفعل القوية اللي صاحبات الفيديو على الإنترنت.
الفرق بين الإمكانية التقنية والحدود الأخلاقية
الحادثة هادي كتطرح سؤالًا مهمًا: حتى لو كان النظام قادر تقنيًا يجمع معلومات عامة ومتاحة، واش خاصو يدير هادشي؟ الأمر لا يتعلق بخرق للخصوصية بالمفهوم التقني، ولكنه يتعلق بالطريقة اللي بها النظام كيستعمل البيانات المتاحة بشكل يحسس الناس بعدم الأمان، خاصة ملي يتعلق الأمر بأطفال.
هاد الحادثة تكشف بشكل ملموس الفجوة اللي ممكن تكون بين ما هو مسموح به تقنيًا وما هو مقبول اجتماعيًا، وكيفاش أنظمة الذكاء الاصطناعي المدمجة في المنصات الاجتماعية ممكن تولّد تجارب غير مريحة حتى بلا قصد. تعديلات شركة Meta على نظام الاقتراحات جاءت بسرعة بعد انتشار الفيديو، وهاد الأمر كيبيّن كيفاش الضغط الشعبي على الإنترنت ممكن يسرّع القرارات اللي ربما كانت تاخد وقت أطول فالمسار العادي.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية