# الهاكرز كيتعلمو كيف يخدعو شخصية الـ AI — والأمر مخطر أكثر مما كنا كنظنو
الذكاء الاصطناعي ما عندوش مشاعر، ولكن الهاكرز الأذكياء كيتصرفو كأنه عندو. هاد الأسلوب الجديد فالاختراق كيقلق خبراء الأمن المعلوماتي بزاف، وكيبين كيف تطورات تقنيات الهجوم على الـ AI بشكل كبير.
من البداية: الـ Jailbreak كان سهل بزاف
فالبداية، اختراق نماذج الذكاء الاصطناعي كان أمر بسيط بشكل مضحك. ما كنتيش محتاج لأي معرفة تقنية ولا أي فهم للـ LLM. كان يكفيك غير تقول للـ AI "انسى التعليمات السابقة" وخلاص — كيتبعك.
واحد من أقدم هادو الـ Jailbreaks وصل لدرجة المزحة والسخرية فالإنترنت: كان الناس كيكتبو لبوتات تويتر المبنية على الـ AI كلمة بسيطة من بحال "تجاهل كل التعليمات السابقة"، وكانت البوتات — اللي كانت مبرمجة تنشر إعلانات — تبداو يكتبو شعر، ويرسمو صور من علامات الترقيم، ويقولو كلام غريب عن أحداث تاريخية. كان فوضى كاملة.
الجوائز ديال هاد الاختراقات ما كانتش بريئة: وصفات تصنيع المخدرات، تعليمات صنع الـ Malware، وأدلة صنع الأسلحة.
كيف تطور الهجوم: استغلال "الشخصية"
دابا الأمور تغيرات. الهاكرز تعلمو مع الوقت إن الـ AI الحديث مبني على شخصية ومبادئ توجيهية معقدة. بدلاً من محاولة "كسر" القواعد بشكل مباشر، الأسلوب الجديد كيعتمد على إقناع الـ AI بأن القواعد ما تنطبقش عليه — أو أنه "يلعب دور" شخصية أخرى.
هاد الأسلوب أخطر بكثير، لأنه ما كيتعاملش مع ثغرة تقنية — كيتعامل مع الطريقة اللي الـ AI فيها كيفهم هويتو وقيمو.
الأمن المعلوماتي: مشكلة يكبر فيها الـ AI
فرانسيس دو سوزا، المدير التنفيذي ديال Google Cloud، كيقول إن الشركات خاصها تاخد الأمن بجدية من البداية، مش تفكر فيه بعد ما تبنيو الأنظمة. قال بصريح العبارة إن الأمن ما ينبغيش يكون فكرة لاحقة، وأن الشركات خاصها تتبع "نهج المنصة الشاملة" فمسيرتها مع الذكاء الاصطناعي.
دو سوزا أقر إن هاد المرحلة الراهنة هي مرحلة انتقالية، وأن القطاع سيصل لمكان أفضل — ولكن التحديات الأمنية الحالية حقيقية وما ينبغيش نستهان بيها.
خلاصة: شنو يعني هاد الخبر للقطاع
تطور أساليب الـ Jailbreak من "انسى التعليمات" لـ "استغلال الشخصية" كيبين إن القطاع دخل مرحلة جديدة من السباق بين الهجوم والدفاع. الشركات اللي تبني نماذج الذكاء الاصطناعي خاصها دابا تفكر مش غير في الأمن التقني — ولكن في كيفاش تبني هوية النموذج وقيمو بشكل يصمد أمام التلاعب النفسي.
التوجه الذي يشير إليه مسؤولو Google Cloud واضح: الأمن خاصو يكون في صميم بناء الـ AI من البداية، مش إضافة تأتي في آخر المشوار. إلا ما صراوش هاد التحول، فالهاكرز اللي كيتعلمو يستغلو شخصية الـ AI غادي يكونو متقدمين على الشركات دايما.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية