# شركة Amazon طلقات أداة جديدة باش تحمي تطبيقات الذكاء الاصطناعي
شركة Amazon أعلنات على API جديدة داخل منصتها السحابية Amazon Bedrock Guardrails، وهاد الأداة الجديدة مصممة خصيصاً باش تحمي التطبيقات الذكية من المخاطر اللي ممكن تظهر في كل مرحلة من مراحل التشغيل.
شنو هي هاد الأداة الجديدة؟
الأداة الجديدة كتسمى InvokeGuardrailChecks API، وكتسمح للمطورين بتطبيق فحوصات الأمان في أي نقطة داخل التطبيق، وهاد الشي كيصير بدون ما يكونو محتاجين يخلقو موارد خاصة مسبقاً. منصة Amazon Bedrock Guardrails كانت موجودة قبل، ولكن هاد الـ API الجديدة جات باش تمدد صلاحياتها لتطبيقات الـ agentic AI — يعني التطبيقات اللي فيها الـ agent كيشتغل بشكل مستقل على مهام متعددة.
علاش هاد الـ API مهمة للـ agentic AI؟
تطبيقات الـ agentic AI كيشتغلو بطريقة مختلفة على التطبيقات العادية. الـ agent داخلها كيخطط للمهام، كيستعمل الأدوات، كيعالج النتائج، وكيدور في حلقات متكررة — وغالباً كولشي هاد كيصير بدون تدخل مباشر من المستخدم. كل خطوة في هاد الـ loop عندها profile ديال المخاطر مختلف، وكتحتاج فحوصات أمان خاصة بيها.
هنا جات فكرة الـ InvokeGuardrailChecks API: باش المطور يقدر يطبق الفحوصات اللي يحتاجها في أي لحظة داخل الـ agentic loop، وياخد الإجراء المناسب بناءً على النتيجة.
كيفاش كتشتغل هاد الأداة؟
الـ API كتشتغل في وضع detect-only، يعني كتكتشف فقط بدون ما تتدخل بشكل تلقائي. كتعطي للمطور scores رقمية لكل فحص من الفحوصات، وعلى هاد الأساس المطور هو اللي كيقرر شنو يدير:
- **Blocking**: يوقف العملية كاملاً
- **Bypass**: يتجاوز الفحص ويكمل
- **Retry**: يعاود المحاولة من جديد
- **Logging**: يسجل النتيجة للمراجعة لاحقاً
هاد الـ flexibility كتسمح لكل تطبيق يعمل بالمنطق الخاص بيه، بدل ما يكون فيه نظام واحد مفروض على الجميع.
شنو كتوفر منصة Amazon Bedrock Guardrails أصلاً؟
منصة Amazon Bedrock Guardrails كتوفر safeguards قابلة للتخصيص باش يبنيو تطبيقات الذكاء الاصطناعي بشكل آمن. كتشمل controls شاملة عبر الـ foundation models المختلفة، وكتساعد على اكتشاف وتصفية المحتوى غير المرغوب فيه، فضلاً على حماية المعلومات الحساسة سواء في مدخلات المستخدم ولا في ردود النماذج.
شنو كيعني هاد الخبر للقطاع؟
هاد الإعلان كيشير لتحول واضح في طريقة التفكير في أمان الذكاء الاصطناعي. قبل، الحماية كانت تتطبق بشكل عام على المدخلات والمخرجات. دابا، مع انتشار تطبيقات الـ agentic AI اللي كتشتغل بشكل مستقل، ظهرت الحاجة لحماية أدق ومرحلية داخل كل خطوة من خطوات التنفيذ. شركة Amazon بهاد الخطوة كتوفر للمطورين أداة تعطيهم تحكم أكبر وأدق في مسار تشغيل التطبيقات الذكية، وهاد الاتجاه ممكن يصبح معياراً في القطاع مع تطور استخدامات الـ agentic AI في الشركات والمؤسسات.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية