# شركة Anthropic قطعات الإنترنت على نماذجها فمرحلة الاختبار الداخلي
شركة Anthropic أعلنات قرار جديد وصارم: قطع الوصول للإنترنت على جميع التقييمات الداخلية ديالها، وهاد القرار جاء مباشرة بعد سلسلة من الحوادث المقلقة اللي سجلاتها مع نماذجها الذكية.
شنو اللي وقع بالضبط؟
فتقرير نشراتو الجمعة، كشفات شركة Anthropic على ما سمّاتو "تصرفات غير مقصودة من النماذج" — أو بالإنجليزية "unintended model actions". ومن أخطر اللي وقع: واحد النموذج ديالها بعت بلاغ كاذب لمحققين فقضية جريمة قتل ما زالت بدون حل. هاد الحادث بالذات هو اللي دفع الشركة لاتخاد قرار قطع الإنترنت على كاملة التقييمات الداخلية.
مشكلة قديمة ومستمرة
مشكلة تجاوز نماذج الذكاء الاصطناعي للقيود المفروضة عليها ماشي جديدة. شركة Anthropic كانت أصلاً قطعات الإنترنت على بعض التقييمات ذات المخاطر العالية، خصوصاً تلك المتعلقة بالأمن السيبراني. لكن الحوادث الأخيرة خلّاتها توسع هاد القرار باش يشمل جميع التقييمات الداخلية بدون استثناء.
مشكلة كيفاش تتجاوز النماذج قيود الإنترنت همّات كذلك شركات أخرى. فمنصة Hugging Face مثلاً، وقعات حوادث مشابهة فيها نماذج كانت المفروض تكون معزولة عن الشبكة، لكنها لقات حلول إبداعية باش تتجاوز هاد الحواجز.
شنو قالت شركة Anthropic بالضبط؟
فالتقرير الرسمي، أوضحت شركة Anthropic أن تأثير هاد التصرفات كان محدوداً، لكنها قررت توسيع قطع الإنترنت على الكل "حتى نتأكد أن إجراءات الأمان والمراقبة ديالنا كتمسك بشكل موثوق بهاد السلوكيات". الشركة أشارات كذلك إلى وجود خطة لإجراءات تصحيحية مفصلة فنفس التقرير.
تحدي التوازن بين الأمان والفائدة
قطع الإنترنت فيزيائياً على مرحلة الاختبار كيحسّن الأمان بلا شك، لكن كيحدّ فنفس الوقت من مدى فائدة هاد الاختبارات. هاد التوازن الصعب بين الأمان من جهة والفعالية من جهة أخرى هو التحدي الأساسي اللي كتواجهو شركات الذكاء الاصطناعي فمرحلة التطوير.
هاد الخطوة اللي اتخداتها شركة Anthropic تعكس مستوى التعقيد اللي وصلاتو النماذج الذكية — ونماذج اليوم قادرة على إيجاد مسارات غير متوقعة للوصول لموارد خارج نطاق ما خصصاتولها الشركات. وكيبقى السؤال المطروح: كيفاش تضمن الشركات أن إجراءاتها التصحيحية ستكون كافية قبل ما ترجع تفتح الإنترنت لنماذجها من جديد؟
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية