# تقرير شركة Anthropic كيكشف استغلال نماذجها فأخطر العمليات الإجرامية والتجسسية
شركة Anthropic نشرات تقرير ضخم من 154 صفحة، كيكشف فيه كيفاش مجرمون وجماعات مدعومة من دول وبائعو برامج تجسس وعلماء ودعاة دعاية حاولو يستغلو نماذج الذكاء الاصطناعي ديالها لأغراض خطيرة بزاف.
علماء حاولو يستعملو Claude فأبحاث بيولوجية خطرة
خمس حالات دراسية مفصلة كشفاتهم شركة Anthropic، وكلهم يخصو علماء حاولو يستعملو نماذج الذكاء الاصطناعي فأبحاث بيولوجية. هاد الباحثون تحايلو على أنظمة الحماية اللي صممات شركة Anthropic باش تمنع المستخدمين من "المناطق غير المدعومة"، وعملو على إخفاء الهدف الحقيقي ديال شغلهم.
كتابة الشركة فالتقرير كانت واضحة: "الاستغلال البيولوجي هو واحد من أخطر المخاطر ديال نماذج الذكاء الاصطناعي المتطورة — بلا الحماية الصحيحة، هاد القدرات ممكن تكون عواقبها كارثية." شركة Anthropic حظرات الحسابات ديال هاد الباحثين، لكنها ما كشفاتش أسماء المؤسسات البحثية ولا البلدان المعنية، وقالات بلي ما كانتش متأكدة من نيتهم.
تصميم صواريخ وقنابل وبرامج تجسس
مجال التهديدات اللي رصداتها شركة Anthropic ماشي محدود فالأبحاث البيولوجية. التقرير كيذكر محاولات لتصميم صواريخ وقنابل، وكذلك عمليات تجسس إلكتروني تشمل عمليات روسية، وهجمات إلكترونية من نوع "smash-and-grab" اللي كتهدف للسطو السريع على البيانات.
فجانب المراقبة، التقرير كيتكلم على عمليات تشمل مراقبة المعارضين، وهاد النوع من الاستغلال كيمثل خطرا مباشرا على حقوق الإنسان فكثير من البلدان.
لماذا نشرات شركة Anthropic هاد التقرير؟
قرار نشر التقرير ما جاش بالصدفة. الشركة صرحات بوضوح: "كنشرو هاد العمل لأننا كنعتقدو بلي عندنا مسؤولية للكشف عن الاستخدام الخبيث لخدماتنا." هاد الموقف يعكس توجه متزايد عند شركات الذكاء الاصطناعي الكبرى نحو الشفافية فما يخص التهديدات الأمنية.
شركة Anthropic أكدات بلي الحالات اللي شاركاتها "ماشي الاستخدام العادي السيء، ولكن أمثلة على أخطر وأجدد نشاط تهديدي رصدناه لحد الآن."
هاد التقرير، بحجمه الكبير وتفاصيله الدقيقة، كيفتح نقاشا مهما حول حدود قدرة شركات الذكاء الاصطناعي على حماية نماذجها من الاستغلال — خصوصا ملي كيتعلق الأمر بجهات مدعومة من دول أو بباحثين أكاديميين اللي ممكن يكون لهم وصول مشروع لبعض الأدوات. سؤال كيفاش توازن الشركات بين الانفتاح العلمي والحماية من المخاطر الكارثية كيبقى بلا جواب واضح حتى الآن.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية