# مسؤول شركة Microsoft كيطالب بـ "فرامل طوارئ" على نماذج الذكاء الاصطناعي
الرسالة اللي خلات الناس يتكلمو
فوسط نقاشات الـ AI safety المتصاعدة، خرج مدير شركة Microsoft التنفيذي Satya Nadella بتدوينة طويلة على منصة X، كيدعو فيها إلى إعادة النظر الكاملة في طريقة ما نتعامل بها مع نماذج الذكاء الاصطناعي المتقدمة. الرسالة مشات بعيد، وكثيرين من المتتبعين للمجال بدأو يعلقو عليها.
"خاصنا نفترض بلي النموذج مخترَق"
النقطة المحورية اللي جات بها تدوينة Nadella هي فكرة جريئة: خاصنا نعتبر دائماً بلي أي نموذج ذكاء اصطناعي ممكن يكون مخترَقاً، حتى من البداية. مفهوم "فرامل الطوارئ" اللي تكلم عليه يقول بلي دائماً خاص يكون هناك شخص مُخوَّل قادر على إيقاف النموذج أو تعليقه وسط الشغل. كلامه الدقيق كان: "نموذج أكثر تقدماً كيحتاج تقنيات احتواء أكثر تقدماً، خاصنا نوحدوها ونعمموها."
بناء الثقة من جديد
مدير شركة Microsoft قال بلي ما يمكنناش نكملو نعامل الـ "Super Intelligence" كـ "مجموعة من الصناديق السوداء المتداخلة" نقبل أو نرفض قراراتها بشكل أعمى. الحل اللي اقترحو يمشي على ثلاثة محاور: أولاً، فصل النموذج عن الـ harness اللي كيدير شغلو. ثانياً، إخراج آليات التحكم والحماية للخارج بدل ما تبقى مدفونة داخل النظام. وثالثاً، توثيق كل إجراء مهم يقوم بيه النموذج في شكل "أدلة مقروءة من البشر ومحمية من التلاعب."
توصيات مألوفة… مع إضافة واحدة
بعض التوصيات اللي جاء بها Nadella مش جديدة على المجال: الإفصاح عن الحوادث في وقتها، التدقيق المستقل، البيانات القابلة للتحقق، والاحتواء. لكن النقطة اللي كتفرقه نوعاً ما عن باقي المسؤولين في المجال هي إصراره على مبدأ الاحتواء من اللحظة الأولى، بدل انتظار وقوع المشكل. موقع The Verge لاحظ بلي Nadella كيستعمل مصطلح "super intelligence" على طول في التدوينة، وهو نفس المصطلح المفضل لدى إدارة ترامب للحديث عن الذكاء الاصطناعي.
السياق العام
مبادرة مدير شركة Microsoft جاءت يوم السبت الصباح، وهي تضاف لسلسلة من التصريحات اللي تخرج من مسؤولي شركات التكنولوجيا الكبرى حول سلامة الذكاء الاصطناعي. موقع TechCrunch وصف Nadella بأنه "آخر مسؤول تنفيذي يقدم أفكاراً مطولة حول كيفية تحسين سلامة الذكاء الاصطناعي."
هاد الخرجة من قمة هرم شركة Microsoft كتجي في وقت كتتصاعد فيه النقاشات حول حدود الثقة اللي خاصنا نعطيها لأنظمة الذكاء الاصطناعي المتقدمة، وكيفاش نضمن بقاء السيطرة البشرية فعلية وملموسة وماشي مجرد شعارات. مقترحات Nadella، إلا توجدت تطبيقاً حقيقياً، ممكن تشكل معياراً تقنياً وتنظيمياً جديداً يتبناه المجال بأكمله.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية