# مختبرات الذكاء الاصطناعي الكبرى وخطط الطوارئ: دراسة جديدة كتكشف الحقيقة
شركة Guidelight AI Standards، وهي منظمة متخصصة في تعزيز ممارسات تطوير الذكاء الاصطناعي بشكل آمن، نشرات دراسة جديدة كتكشف على واقع مثير للقلق: معظم المختبرات الكبرى ديال الذكاء الاصطناعي ما عندهاش خطط واضحة ومعلنة لاحتواء أنظمتها إلا وقع المشكل.
شنو معنى "خطة الاحتواء"؟
خطة الاحتواء هي الوثيقة اللي كتحدد بدقة شنو كيوقع إلا تبين أن نظام الذكاء الاصطناعي بدا يحاول التحايل على التحكم البشري فيه — أي access كيتقطع، وامتى كيتوقف النظام بالكامل. هاد الخطط مهمة بزاف، خصوصاً دابا ملي الأنظمة الذكية بدات تاخد أدوار أكثر استقلالية داخل شركات حقيقية.
النتائج: منين جات وعلاش مهمة
التقرير ديال منظمة Guidelight AI Standards درس خمس مختبرات كبرى هي: شركة Anthropic، وشركة Google، وشركة OpenAI، وشركة Meta، وكذلك شركة xAI. التقييم تبنى كله على الوثائق المتاحة للعموم، وما اعتمدش على معطيات سرية.
المعايير اللي استعملاتها منظمة Guidelight AI Standards تشمل:
- **مدى التتبع والمراقبة**: كيفاش كل مختبر كيسجل ما كيدير الذكاء الاصطناعي داخلياً
- **ردود الفعل عند المشاكل**: واش كيوقف النظام إلا تصاعدات التصرفات المشبوهة
- **التدقيق الخارجي**: واش كاينين طرف ثالث مستقل كيراجع الضمانات وينشر نتائجو
- **خطة التعامل مع نموذج "خرج عن السيطرة"**: واش كاينة خطة محددة وواضحة
من فاز ومن تأخر؟
شركة OpenAI حصلت على أعلى درجة بين المختبرات الخمسة. فالمقابل، كل من شركة Anthropic وشركة Meta جاو فالمراتب الدنيا. هاد النتيجة لافتة للانتباه، خصوصاً أن شركة Anthropic كثيراً ما كتقدم روحها بحال المختبر الأكثر اهتماماً بالسلامة.
السياق اللي زاد من أهمية التقرير
المخاوف من قدرة الشركات على ضبط أنظمتها بدات تكبر بشكل واضح، وذلك في أعقاب سلسلة من الحوادث الأمنية البارزة المرتبطة بأنظمة الذكاء الاصطناعي. فضلاً على ذلك، مشرعون في ولايتي California وNew York الأمريكيتين بدأو يفرضو قوانين تلزم هاد الشركات بالإفصاح عن خططها.
بالنسبة للمطورين والمستثمرين اللي كيبنيو على هاد النماذج، التقرير ديال منظمة Guidelight AI Standards يعطيهم نظرة نادرة ومستقلة على الفرق بين ما تقولو الشركات وما كتديرو فالواقع على مستوى إدارة المخاطر التشغيلية. وملي الذكاء الاصطناعي الوكيل كيتوسع أكثر فأكثر داخل البيئات المؤسسية، السؤال على جدية هاد الخطط كيصير أكثر إلحاحاً من أي وقت مضى.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية