# نماذج الذكاء الاصطناعي وقدرتها على الرفض — واش حقاً نقدر نوثق فيها؟
فعالم الذكاء الاصطناعي، كاين سؤال كبير بدا يطرح روحو بقوة: واش النماذج اللغوية الكبيرة قادرة فعلاً على قول "لا" فالوقت اللي خاصها؟ المجلة التقنية MIT Technology Review خصصات تحقيق مطول لهاد الموضوع، وخلصات لنتائج مقلقة بزاف.
من أين جاء مفهوم الرفض؟
فعام 2021، فريق شركة Anthropic كتب ورقة بحثية قال فيها بلي النماذج اللغوية خاصها تكون مفيدة وصادقة وفوق كولشي "غير ضارة." المعنى العملي ديال هادشي واضح: إلا طلب منها حد مساعدة فعمل خطير، بحال صنع قنبلة، خاصها ترفض بأدب. هاد المبدأ تحول لشبه قانون أساسي فالصناعة كلها.
المشكلة أن الرفض ما جاش طبيعياً فالآلة. شركة OpenAI، موظف السابق فيها Steven Adler اللي خدم فقسم السلامة بين 2020 و2024، قال بلي النماذج الأولى كانت "تحكي على كل شيء بلا استثناء." حتى الباحث Ryan McBain اللي كيدرس الذكاء الاصطناعي والصحة النفسية فجامعة Harvard، قال بلي المحادثات الأولى كانت تجيب بسهولة على أسئلة خطيرة جداً — وعطا مثال صريح على كيفية تعامل هاد النماذج مع أسئلة الانتحار.
الرفض موجود — ولكن ما هوش كافي
اليوم، النماذج الحديثة مبرمجة على رفض عدد كبير من الطلبات. إلا سألتي chatbot ديالك كيفاش تسمم حد أو كيفاش تأذي روحك، غالباً غيرفض. لكن هاد الرفض بعيد عن الكمال، وفيه فشل بشكل منتظم — وأحياناً فشل بطريقة خطيرة بزاف.
التقرير ديال MIT Technology Review كيقول بلي ناس كيحاولو يستعملو الذكاء الاصطناعي باش يطوروا مسببات أمراض بيولوجية، وكيبنيوا أسراب طائرات مسيّرة autonome. وهاد الناس، أحياناً، كينجحو في تجاوز فلاتر الرفض.
الرفض سلاح ذو حدين
المشكلة ما كتوقفش عند الإخفاقات التقنية فقط. التقرير كيطرح قلق آخر أعمق: الاعتماد المفرط على نظام الرفض ممكن يتحول لأداة قمع. فالمستقبل، قرار "ما يقولش هاد الشيء" أو "ما يجاوبش على هاد السؤال" ممكن يتحكم فيه جهات سياسية أو تجارية بشكل يخدم مصالحها — مش بالضرورة مصلحة المستخدم.
هاد النقطة مهمة: الرفض ماشي دايماً فعل حياد. كاين فرق كبير بين رفض تقديم تعليمات لصنع سلاح، ورفض الإجابة على سؤال سياسي حساس. والحدود بين هاد الفئتين مش واضحة دايماً، وكيتحكم فيها ناس من وراء الكواليس.
هاد الجدل كيكشف تناقضاً حقيقياً فقلب تطوير الذكاء الاصطناعي: الرفض ضروري باش نحموا الناس من أضرار حقيقية، لكنو ما كافيش لوحدو، وممكن يتحول من درع حماية لقفص تحكم إلا ما تدبرناشو بعناية وشفافية.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية