# رئيس Microsoft كيطالب بـ "فرامل طوارئ" لأنظمة الذكاء الاصطناعي
شركة Microsoft مديرها التنفيذي Satya Nadella خرج بتصريحات مهمة على منصة X، كيطالب فيها بإعادة النظر في طريقة بناء أنظمة الذكاء الاصطناعي من الناحية الأمنية. التصريحات جات صباح السبت، وخلقات نقاش واسع في الوسط التقني.
الفكرة الأساسية: "ما نقبلوش الصناديق السوداء"
ندالا كيقول بصريح العبارة إن الوقت جا باش نرجعو لوراء ونحاسبو "معمارية الثقة" في الذكاء الاصطناعي. المسؤول التنفيذي كتب: "ما يمكنش نعاملو الذكاء الاصطناعي الخارق بحال مجموعة صناديق سوداء متداخلة، وغير نقبلو أو نرفضو توصياتو وأجوبتو وأفعالو."
الحل اللي كيقترحو Nadella كيمر على ثلاث نقط رئيسية: الأولى هي الفصل بين النموذج والنظام اللي كيدير عملو، والثانية هي إخراج الضوابط والحمايات برا من النظام، والثالثة هي توثيق كل فعل مهم يقوم بيه النموذج بأدلة واضحة وما يمكنش تزويرها.
"فرامل الطوارئ" كحل عملي
النقطة اللي لفتات الانتباه بزاف هي ما قالو ندالا على ضرورة أن يكون دائماً عند شخص مخول الحق باش يوقف النموذج أو يطفيه في أي لحظة، حتى وهو كيخدم. كتب: "خاصنا نفترضو من البداية أن النموذج معرض للاختراق، ونحتوي عليه من الأول — فكرو فالأمر بحال فرامل الطوارئ."
هاد المصطلح "Super Intelligence" اللي خدامو ندالا في تصريحاتو، هو نفس المصطلح اللي كتخدمو إدارة ترامب كتنحاز لاستعمالو للحديث عن الذكاء الاصطناعي.
سياق أكبر: الشركات الكبرى كتعترف بالإشكاليات
تصريحات ندالا ما جاتش من فراغ. شركات الذكاء الاصطناعي الكبرى كتعترف أكثر فأكثر بحالات فقدان السيطرة على نماذجها. قبل هادشي، مؤسس شركة Anthropic داريو أموداي نشر تصور مفصل لتطوير الذكاء الاصطناعي بطريقة أكثر حذراً وحيطة.
الموضوع ديال الأمان في الذكاء الاصطناعي بات يشغل بال كبار التنفيذيين في القطاع، وكل واحد كيخرج بمقاربتو الخاصة لمعالجة المخاوف اللي كتكبر مع توسع استعمال هاد التقنيات.
تصريحات مسؤول تنفيذي بوزن Satya Nadella كيجيو في لحظة دقيقة، فين السؤال على من يتحكم في الذكاء الاصطناعي ومن يقدر يوقفو بات أكثر إلحاحاً من أي وقت مضى. الدعوة لنظام "فرامل الطوارئ" يمكن تكون بداية نقاش أعمق بين شركات التكنولوجيا والحكومات على القواعد اللي خاص تحكم هاد الأنظمة.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية