databelarebia
# الإنسان فالحرب ديال الذكاء الاصطناعي: وهم الرقابة البشرية
فالنقاشات الدائرة حول استخدام الذكاء الاصطناعي فالحروب، كتبرز قضية قانونية بين شركة Anthropic والبنتاغون، وهاد القضية فتحت باب الجدل على مصراعيه حول سؤال واحد: واش الإنسان غير كيراقب، ولا كيتحكم فعلاً؟
فالصراع الجاري مع إيران، الذكاء الاصطناعي تجاوز دوره التقليدي بشكل واضح. ماعادش مجرد نظام يساعد المحللين يفهمو المعلومات الاستخباراتية — دابا كيحدد الأهداف فوقت حقيقي، وكيتحكم فاعتراض الصواريخ، وكيقود أسراب الطائرات المسيرة بشكل مستقل وبطريقة فتاكة. هادشي كيدل على تحول جذري فطبيعة الحرب الحديثة.
النقاش الرسمي كيتمحور حول مفهوم "human in the loop"، يعني أن يبقى الإنسان حاضراً فكل قرار عسكري. البنتاغون عنده إرشادات واضحة كتقول بأن الرقابة البشرية كتوفر المساءلة والسياق وكتقلل من مخاطر الاختراق الأمني.
لكن المشكلة الحقيقية مشيات بعيداً عن هاد النقاش. الخطر الفوري مشي أن الآلة تتصرف بلا رقابة — الخطر هو أن الإنسان اللي كيراقب ما كيفهمش أصلاً شنو كتفكر فيه الآلة.
أنظمة الذكاء الاصطناعي الحديثة هي بشكل جوهري "black boxes" — صناديق مغلقة. كنعرفو المدخلات والمخرجات، لكن ما كنعرفوش كيفاش الجهاز وصل من هنا لهنا. هاد الواقع ثبته باحثون درسو آليات اتخاذ القرار فالدماغ البشري لعقود، وبعدين طبقو نفس الأسئلة على أنظمة الذكاء الاصطناعي.
إرشادات البنتاغون مبنية على افتراض خطير — أن البشر كيفهمو كيفاش كتشتغل هاد الأنظمة. لكن هاد الافتراض هو أساساً غلط. الإنسان اللي بيده زر الموافقة مش بالضرورة عارف شنو اللي وقع قبل ما يوصل لهاد القرار داخل النظام.
النزاع القانوني بين شركة Anthropic والبنتاغون جاء ليحط هاد الإشكالية فقلب النقاش الرسمي. الجدل ما عادش فلوشيا أو عقود — هو فالأساس حول سؤال جوهري: من المسؤول حين يتخذ نظام الذكاء الاصطناعي قرار يودي بحياة إنسان؟
هاد النقاش كيكشف هشاشة الإطار القانوني والتقني اللي بنات عليه الدول سياساتها العسكرية. فالقطاع التقني، هاد الجدل ممكن يدفع نحو مطالب جديدة بـ "interpretability" — يعني القدرة على فهم قرارات الذكاء الاصطناعي من الداخل. وفالجانب القانوني، قضية Anthropic مع البنتاغون ممكن تخلق سابقة تحدد حدود استخدام نماذج الذكاء الاصطناعي التجارية فالعمليات العسكرية. الأكيد أن مفهوم "human in the loop" وحده ما بقاش كافياً باش يجاوب على الأسئلة الجديدة اللي طرحتها الحرب الحديثة.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية
مشروع ديال 2PiData