# ما كاينش غير LoRA: دليل كامل على تقنيات الـ PEFT لتدريب نماذج الذكاء الاصطناعي
كثير من المطورين كيبدأو رحلتهم مع تخصيص النماذج وكيلقاو روسهم مع اسم واحد: LoRA. واحد التقنية مشهورة بزاف فعالم الـ fine-tuning، ولكن السؤال اللي بدا يطرح روسو بقوة: واش LoRA هي فعلاً الخيار الأحسن، ولا العالم كبر على هاد الاختيار الوحيد؟
شنو هو الـ PEFT وعلاش خاصنا نفهمو
المشكلة الأساسية فالـ fine-tuning التقليدي هي الذاكرة. خاصك تعمر الموديل بأكمله فالـ GPU، وهادشي كيحتاج موارد ضخمة ماكاينش عند الجميع. الحل جا مع مجموعة تقنيات سميوها "Parameter-Efficient Fine-Tuning" ولا PEFT، وهدفها الرئيسي هو تخفيض الذاكرة المحتاجة باش تدرب الموديل على داتا خاصة بيك.
مع تقنيات الـ PEFT، إمكانيات كثيرة كتنفتح: تقدر تدرب نماذج مكبّرة بذاكرة محدودة، وحتى النماذج المضغوطة "quantized" اللي ما كانتش تتدرب بشكل مباشر، دابا ممكن تخصصها. بالإضافة لهادشي، حجم الـ checkpoints كيبقى صغير بزاف، وخطر نسيان المعلومات القديمة "catastrophic forgetting" كيقل.
LoRA وهيمنتها على السوق
رغم وجود عشرات التقنيات فهاد المجال، غالبية المطورين كيختارو LoRA بشكل شبه تلقائي. السبب مفهوم: LoRA بسيطة، موثقة مزيان، وعندها مجتمع كبير. ولكن الاختيار التلقائي ماشي دائماً الاختيار الأمثل.
تقنية LoRA كتشتغل بإضافة matrices صغيرة للموديل الأصلي عوض تعديل الأوزان الكاملة ديالو. هاد الأسلوب كيخفض الذاكرة المحتاجة بشكل كبير، ولكن ماشي كل use case كيستافيد بنفس الطريقة من هاد المقاربة.
البدائل الموجودة وما تقدمو
فعالم الـ PEFT، البدائل موجودة وكثيرة. كل تقنية عندها نقط قوة ونقط ضعف حسب نوع المهمة، حجم الموديل، وكمية الداتا المتاحة. المشكلة مو غياب الخيارات، بل غياب المعلومات اللي كتساعد على المقارنة الصحيحة.
منصة Hugging Face كتوفر أدوات باش تقارن هاد التقنيات وتختار الأنسب لـ use case ديالك. الفكرة مو تحل محل LoRA، بل تعطي المطورين وسائل باش يتخدو قرارات مبنية على معطيات حقيقية عوض العادة فقط.
استثمارات Google فولاية Virginia
فموضوع مختلف بالكامل، شركة Google أعلنات على استثمارات جديدة فولاية Virginia الأمريكية. هاد الشراكة كتشمل تمويل برامج تدريب مهني فقطاع الكهرباء، بالتعاون مع منظمة electrical training ALLIANCE المتخصصة. الهدف المعلن هو دعم تدريب حوالي 2,741 متمرن إضافي بحلول عام 2030. هاد الاستثمار جزء من التزام وطني أوسع لشركة Google.org باش تتخرج أكثر من 300,000 حرفي مؤهل فمجالات البنية التحتية عبر الولايات المتحدة.
خلاصة: شنو يعني هادشي للقطاع
على صعيد الـ fine-tuning، توسيع النظرة بعيداً على LoRA مو مجرد خيار تقني، بل كيعكس نضج القطاع. مع توفر أدوات المقارنة، المطورون كيقدرو يحسنو أداء نماذجهم ويخفضو تكاليف التدريب بشكل ملموس. أما استثمارات Google فالبنية التحتية البشرية، فكتبين أن التوسع فالذكاء الاصطناعي محتاج موارد بشرية متخصصة فقطاعات تقنية متنوعة، مو فقط فالبرمجة.
مقال من databelarebia — نشرة يومية ديال أخبار الذكاء الاصطناعي بالدارجة المغربية