# الجيش الأمريكي كاد يضرب سفينة صينية بسبب هلوسة من شات بوت
فربيع هاد العام، طيارات عسكرية أمريكية كانت فالجو، والمسؤولين كانو على وشك تنفيذ عملية مسلحة ضد سفينة صينية — قبل ما يكتشفو فاللحظة الأخيرة أن المعلومات اللي كانو يتصرفو عليها كانت مخترعة بالكامل من طرف شات بوت ديال الذكاء الاصطناعي. هاد الخبر نشرتو قناة CNN يوم الجمعة الماضي، وخلق موجة واسعة من القلق داخل الأوساط العسكرية والتقنية.
كيفاش وقعت الكارثة اللي كادت تقع
التقرير الاستخباراتي الكاذب خرج من محلل داخل قيادة العمليات الخاصة، اللي استعمل شات بوت ديال الذكاء الاصطناعي باش يجمع معطيات مفتوحة المصدر مع معلومات استخباراتية سرية. الشات بوت دار هلوسة وحدد بشكل خاطئ محتوى شحنة السفينة، إذ زعم أنها كانت كتحمل مكونات لبرنامج أسلحة نووية.
المشكل ما وقفش هنا — المحلل استعمل نفس الأداة مرة ثانية باش يصيغ النتائج الخاطئة فشكل تقرير رسمي، وهاد التقرير تداول فقنوات القيادة بأكملها. هاد الحادثة وقعت في سياق الحرب مع إيران.
السرعة اللي كانو يبحثو عليها صارت خطرا عليهم
الجيش الأمريكي كيسارع فدمج تقنيات الذكاء الاصطناعي مع هدف واحد: تسريع اتخاذ القرارات والحفاظ على التفوق على الصين. وزارة الدفاع الأمريكية كانت صرحت علنا أن الذكاء الاصطناعي كيعطيهم ميزة كبيرة فتسريع سلسلة الاستهداف، حتى يقدرو القادة يتصرفو فالوقت المناسب.
لكن هاد الحادثة بينت الوجه الآخر — نفس السرعة اللي كتخلي الذكاء الاصطناعي مفيد، هي اللي سمحات لهلوسة كاملة تنتقل فالتسلسل القيادي بلا ما حد يشكك فيها قبل فوات الأوان.
الرقابة البشرية كانت غائبة
المشكل الجوهري اللي بينتو هاد القضية هو أن الأخطاء اللي كيولدها الذكاء الاصطناعي قادرة تصعد فالتسلسل القيادي بسرعة كبيرة قبل ما حد يتساءل عن مصداقيتها. المسؤولون العسكريون والخبراء من خارج المؤسسة كيعبرو عن قلق متزايد من هاد الظاهرة، خصوصا مع تصاعد الاعتماد على هاد التقنيات فالقرارات الحساسة.
العملية توقفات فاللحظة الأخيرة وتفادات مواجهة محتملة مع الصين — لكن السؤال اللي بقا معلق هو: واش كانت هاد السرعة فالتنفيذ بلا مراجعة بشرية كافية تستاهل المخاطرة؟ هاد الحادثة كتفتح نقاشا جديا حول الحدود الحقيقية للاعتماد على الذكاء الاصطناعي فالعمليات العسكرية، وكتبين أن تسريع اتخاذ القرار بلا رقابة بشرية صارمة قد يكلف ثمنا باهضا.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية