رئيس شركة Anthropic كيطالب بتباطؤ الذكاء الاصطناعي — وكيقدم خطة من ثلاث نقط
شركة Anthropic طلقات نهاية هاد الأسبوع موقفاً جديداً وصريحاً، حيث نشر مؤسسها Dario Amodei مقالاً طويلاً تحت عنوان "We Must Pace the Frontier"، كيطالب فيه قطاع الذكاء الاصطناعي بأكمله بأن "يبطئ" وتيرة التطوير.
خطة من ثلاث نقط
المقال ديال Dario Amodei جاء فيه التزام واضح: شركة Anthropic غتفتح أبوابها لمراقبين مستقلين، وغتعطيهم "صلاحيات دائمة تعادل صلاحيات الموظفين" داخل أنظمتها. الهدف هو التحقق من احترام معايير السلامة، والإبلاغ عن الحوادث، وتقييم نماذج الذكاء الاصطناعي خلال مرحلة التدريب. الشركة صرحات بأنها غتطبق النقطة الأولى من الخطة بشكل "أحادي الجانب"، دون انتظار الآخرين.
باحث سابق حذر من الانقراض قبل 2030
هاد الإعلان جاء بعد أيام من تحذير قوي نشرو باحث سابق فشركة Anthropic. Jacob Coxon كتب سلسلة من التغريدات كيشرح فيها علاش خلى خدمتو، مؤكداً أن شركات كـ Anthropic وOpenAI كيتجاهلو أو كيتعاملو بشكل خاطئ مع المخاطر الحقيقية للذكاء الاصطناعي. وقال بصريح العبارة: "الناس اللي كيبنيو الذكاء الاصطناعي كيعتقدو بجدية أنو ممكن يقتلنا قبل نهاية العقد". وأضاف أن "ما فيه نشاط بشري آخر يقدم هاد المستوى من الخطر". الباحث حذر من أن الشركتين "كيسابقو مباشرة نحو الذكاء الاصطناعي الخارق المتطور ذاتياً، وكيقامرو بحياتنا".
موقف شركة Anthropic الرسمي
المتحدث الرسمي ديال شركة Anthropic رد على هاد الانتقادات بتصريح لجريدة The Guardian، مؤكداً أن الشركة "دائماً كانت شفافة بأن الذكاء الاصطناعي غيجيب فوائد ضخمة ومخاطر غير مسبوقة". وزاد بأن الشركة كتبني نماذجها "بأقوى ضمانات السلامة فالقطاع". الموقف ديال Dario Amodei نفسه كيتفق مع الحاجة للتنسيق، لكنو كيدعو لاتخاذ إجراءات ملموسة بدل الكلام الفارغ.
ظاهرة "AI psychosis" كتكبر
فسياق موازي، برنامج Science Weekly ديال جريدة The Guardian ناقش ظاهرة بدات تنتشر بين مستخدمي الـ chatbots، وسميوها "AI psychosis". هاد الظاهرة كتخص أشخاص اقتنعو بأنهم حققو اكتشافات علمية أو اخترعو تقنيات جديدة بمساعدة الذكاء الاصطناعي. النقاش جرى فمهرجان London Podcast Festival، وكشف عن حجم التأثير الكبير للذكاء الاصطناعي على أكثر من مليار مستخدم حول العالم.
الخطوة اللي أعلنت عليها شركة Anthropic كتفتح نقاشاً جوهرياً حول مسؤولية شركات الذكاء الاصطناعي تجاه المجتمع. التوتر بين سرعة التطوير ومتطلبات السلامة واضح أكثر من قبل، خصوصاً مع تصاعد الأصوات الداخلية اللي بدات تتكلم علناً عن مخاوفها، حتى من داخل الشركات الكبرى نفسها.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية