# الخداع بالغة: كيفاش تقدر تضحك على الذكاء الاصطناعي بتغيير اللغة فقط
شي معلومة مثيرة للاهتمام بدات تنتشر بين المهتمين بأمان الذكاء الاصطناعي: إدخال الأوامر بلغة نادرة كيزيد من فرص تجاوز الحمايات المدمجة فأنظمة الذكاء الاصطناعي. هاد الظاهرة كيثير تساؤلات كبيرة حول مدى صمود أنظمة السلامة المبنية فنماذج اللغة الكبيرة.
شنو هو المشكل بالضبط؟
القاعدة الأساسية واضحة: إلا استعملتي الإنجليزية باش تحاول تخدع نظام مثل ChatGPT أو غيره من نماذج LLM، الأرجح أن النظام غادي يكتشف النية السيئة ويرفض الطلب. أما إلا غيرتي للغة أقل شيوعاً فالبيانات التدريبية، كيرتفع احتمال أن النظام ما يفهمش المقصود الحقيقي، وبالتالي يرد بدون ما ينبه.
السبب التقني بسيط: نماذج اللغة الكبيرة كتتدرب على كميات ضخمة من البيانات، والجزء الأكبر منها مكتوب بالإنجليزية والفرنسية والعربية الفصحى والإسبانية. أما اللغات النادرة، كيكون التمثيل ديالها في مجموعات التدريب ضعيف بزاف، ومعناه أن نظام السلامة المدمج كيكون أقل فعالية معها.
عالم خفي كيستغل هاد الثغرة
المجتمعات اللي كتشتغل على تجاوز قيود الذكاء الاصطناعي — اللي كيسميوها "jailbreaking" — كانت من أول الناس اللي اكتشفت هاد الطريقة. تغيير اللغة واحد من أسهل الأساليب اللي كيستعملوها، ومحتاجة ما تعرفش كودينج ولا تقنية عالية. كافي تكتب نفس الطلب الممنوع بلغة زي السواحيلية أو الويلزية أو أي لغة صغيرة، وكيكون جواب النظام مختلف تماماً على المطلوب.
شركات الذكاء الاصطناعي واعية بالمشكل
الجيد فالموضوع أن شركات الذكاء الاصطناعي الكبرى ما غافلاش على هاد الثغرة. حسب ما وصفه المصدر، المطورون دابا كيكيفوا ويدربوا نماذجهم الجديدة باش تتعامل مع أي لغة طبيعية يمكن للمستخدم يستعملها، هدفهم أن تبقى الحمايات فعالة بغض النظر على اللغة المستخدمة فالـ prompt.
بمعنى آخر، هاد الثغرة وقتها محدود. كلما تقدمت نماذج LLM الجديدة وتحسنت البيانات التدريبية متعددة اللغات، كلما ضاق هامش هاد الأسلوب من الخداع.
التوازن الصعب بين الانفتاح والأمان
هاد الوضع كيكشف تحدياً حقيقياً أمام شركات الذكاء الاصطناعي: بناء أنظمة سلامة تشتغل بنفس الكفاءة عبر مئات اللغات الطبيعية شيء معقد ومكلف. التركيز على اللغات الكبرى واضح ومنطقي من الناحية التجارية، لكنه كيخلق فجوات كيستغلها بعضهم للتحايل على القيود.
الخلاصة: شنو كيعني هاد الخبر للقطاع؟
هاد الموضوع كيبين أن أمان نماذج اللغة الكبيرة مرتبط بشكل مباشر بجودة وتنوع بيانات التدريب. القطاع كيواجه ضغطاً متزايداً باش يوسع التغطية اللغوية لأنظمة السلامة، مو فقط لأسباب أخلاقية، بل لأن الثغرات اللغوية صارت مدخلاً حقيقياً للاستغلال. التحول المتوقع هو أن شركات الذكاء الاصطناعي غادي تستثمر أكثر في اختبار نماذجها عبر لغات نادرة قبل الإطلاق، وهاد الأمر ممكن يغير طريقة تقييم أمان أنظمة LLM مستقبلاً.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية