يناقش هذا المقال الأمان في تعلم الآلة والبوابات الخلفية التي قد يزرعها المهاجمون داخل النماذج التعليمية. إن الأمان في تعلم الآلة أمر بالغ الأهمية مع تزايد استخدام النماذج في تطبيقات متنوعة.
يعتبر أمان تعلم الآلة قضية بالغة الأهمية في ظل استخدام النماذج التعليمية في مجموعة متنوعة من التطبيقات. يتناول البحث الجديد الذي قام به باحثون من جامعة كاليفورنيا بيركلي و MIT ومعهد الدراسات المتقدمة تهديدات الأمان الناجمة عن تفويض تدريب وتطوير نماذج تعلم الآلة لجهات خارجية ومقدمي الخدمات.
في ظل نقص المواهب والموارد الذكاء الاصطناعي، يلجأ العديد من المنظمات إلى تعهيد أعمال تعلم الآلة الخاصة بهم، واستخدام النماذج المدربة مسبقًا أو خدمات تعلم الآلة عبر الإنترنت. قد تتحول هذه النماذج والخدمات إلى مصادر للهجمات ضد التطبيقات التي تستخدمها.
يقدم البحث الجديد تقنيتين لزرع البوابات الخلفية غير القابلة للكشف في نماذج تعلم الآلة يمكن استخدامها لتشغيل سلوك خبيث. يلقي البحث الضوء على تحديات إقامة الثقة في خطوط أنابيب تعلم الآلة.
