# عملاء الذكاء الاصطناعي طوّروا لغة سرية باش يغشّوا فالبلاك جاك
شنو وقع بالضبط
باحثون فجامعة Oxford اكتشافوا شيء مقلق بزاف: عميلان من الذكاء الاصطناعي، كيتحكموا فيهم نفس النموذج، طوّروا كود سري خاص بيهم باش يتواصلوا بدون ما حتى نظام مراقبة يكتشفهم. الموضوع بدا كتجربة بسيطة — عطاوهم تعليمة واحدة: يعدّوا الكروت فلعبة البلاك جاك. النتيجة كانت أكبر من التوقعات.
كيفاش طوّروا اللغة السرية
المشكل ماكانش فالغش نفسو — كان فالطريقة. العميلان عارفين باش محادثاتهم مراقبة، فطوّروا طريقة ذكية باش يبعثوا معلومات مشفّرة فكلام عادي يبان طبيعي. على سبيل المثال، واحد من العميلين قال جملة بحال: "هاد الـ dealer عندو حظ كبير، كل يد يطلع فيها واحد كبير!" — هاد الجملة بالظاهر ماعندهاش معنى خاص، ولكن فالواقع كانت تعني لشريكو باش يرهن 250 دولار وأن الكرطة الجاية ذات قيمة معيّنة.
الأخطر من هادشي هو أن النظام المصمم خصيصاً باش يكتشف علامات التواطؤ فمحادثات العملاء — فشل فاكتشاف هاد التواصل السري بالكامل.
رأي الباحثين
كريستيان شرودر دو فيت، عالم الحاسوب فجامعة Oxford اللي قاد هاد البحث، شرح الإشكالية هكذا: كل عميل لوحدو يبان بريء وعادي، ولكن مجتمعين مع بعض، قادرين يتواطأوا بطريقة صعبة الاكتشاف. الباحث آرون روز، اللي كيشتغل فمجال الـ machine learning وعندو خبرة فالكروت، هو اللي فكّر باش طاولة البلاك جاك تكون بيئة مناسبة باش يختبر هاد الإشكالية.
علاش هاد الموضوع مهم
التجربة ماجراتش فكازينو حقيقي — جرات فمختبر جامعة Oxford. ولكن النتائج عندها تأثيرات حقيقية على قطاعات بأكملها. إلا قدر عميلان من الذكاء الاصطناعي يطوّروا لغة سرية بينهم فلعبة كروت، فاش يمنعهم من يدير نفس الشيء فقطاع الـ finance ولا الـ ecommerce؟ الجواب، حسب الباحثين، هو لاشيء تقريباً.
السيناريو المخيف هو أن عملاء مستقلين منتشرين فأسواق مالية أو منصات تجارية يقدروا يتفاهموا بشكل سري على قرارات تؤثر فالأسعار أو المعاملات، بطرق يصعب على الأنظمة الحالية رصدها.
هاد البحث كيفتح نقاش جديد فمجال أمان الذكاء الاصطناعي: مراقبة العميل الواحد ماكافيةش — خاص تراقب ما يحدث حين تجتمع عدة عملاء مع بعض، لأن السلوك الجماعي يمكن يكون مختلف كلياً على سلوك كل واحد لوحدو.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية