# شاتبوتات الذكاء الاصطناعي كتسرب أرقام الهاتف الحقيقية ديال الناس
شركة Google وجدات روحها فمشكل كبير: نموذج Gemini الخاص بها كيعطي أرقام هاتف حقيقية ديال أشخاص عاديين لأي كان يسأله. هاد الظاهرة بدات تظهر بشكل متكرر، وخبراء الخصوصية كيقولو بلي التوقف فيها صعب.
شنو وقع بالضبط؟
واحد المستخدم فـ Reddit كتب بلي هاتفو غرق فمكالمات من غرباء على مدى شهر كامل — الناس كانو كيدوروه يطلبو خدمات ديال محامي، مصمم، وحداد. السبب كان واضح: نموذج Gemini كان كيعطي رقمو بغلط لكل من سأله.
فشهر مارس، مطور برامج إسرائيلي تواصل معاه ناس عبر تطبيق WhatsApp — هاد الناس تبعو تعليمات خاطئة ديال خدمة العملاء عطاهم إياها نموذج Gemini، وكانت التعليمات تحتوي على رقم هاتفو الشخصي.
فشهر أبريل، طالبة دكتوراه فجامعة Washington كانت تجرب نموذج Gemini وقدرات توصل لرقم هاتف شخصي ديال زميلها — من غير ما تطلبه بشكل صريح.
علاش كيوقع هاد الشي؟
خبراء الذكاء الاصطناعي والخصوصية كيقولو بلي السبب الأرجح هو استخدام معلومات شخصية — أو ما يتسمى بـ PII أي personally identifiable information — فداتا التدريب ديال النماذج. واضح بلي أرقام حقيقية دخلات فداتا التدريب، وهاد النموذج صار كيعيد إنتاجها فردوده.
المشكل الأصعب هو بلي الآلية الدقيقة ما زالت مبهمة — حتى الخبراء ما قدروش يفهمو بالضبط كيفاش النماذج كتخرج هاد الأرقام بهاد الدقة.
الحل؟ ما كاينش سهل
الضحايا ديال هاد المشكل ما عندهم طريقة واضحة باش يمنعو نموذج Gemini من تسريب معلوماتهم. خبراء الخصوصية كانو من زمان كيحذرو من مخاطر الذكاء الاصطناعي التوليدي على البيانات الشخصية، وهاد الحالات الجديدة كتأكد مخاوفهم.
خلاصة: شنو كيعني هاد الخبر للقطاع؟
هاد الحالات كتكشف إشكالية بنيوية فطريقة تدريب نماذج الذكاء الاصطناعي الكبيرة: البيانات الشخصية كتدخل فعملية التدريب وما كتتحذفش بشكل كافي. بالنسبة للقطاع، هاد الموضوع ممكن يفتح نقاش جديد حول قوانين حماية البيانات وإلزامية "الحق فالنسيان" فنماذج الذكاء الاصطناعي. كما ممكن يزيد الضغط على شركات كبيرة بحال Google باش تراجع بروتوكولات تصفية بيانات التدريب ديالها — خصوصاً فيما يخص المعلومات الشخصية ديال الأفراد.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية