الكشف عن خارج التوزيع

الاكتشاف خارج التوزيع هو عملية مستخدمة في التعلم الآلي والذكاء الاصطناعي تمكن النظام المنشور من اكتشاف متى يكون إدخال البيانات مختلفًا بشكل كبير عما تم تدريب النظام عليه أو يعتبر "عاديًا". تتيح هذه العملية للنظام التعرف على الوقت الذي يتلقى فيه بيانات خارج التوزيع والتفاعل وفقًا لذلك.

أصبح الكشف عن عدم التوزيع قضية ذات أهمية متزايدة في مجال أمن الكمبيوتر، حيث يتم استخدام التعلم الآلي بشكل متكرر أكثر فأكثر في تطبيقات الأمان. على سبيل المثال، يمكن للبرامج الضارة والهجمات الأخرى استخدام البيانات غير الموزعة لتجنب اكتشاف أنظمة الأمان القائمة على التعلم الآلي. يمكن أن يساعد اكتشاف خارج التوزيع في منع هذه الأنواع من الهجمات عن طريق تنبيه البشر أو الأنظمة الأخرى بأن الموقف قد يكون مريبًا.

يمكن تنفيذ الكشف خارج التوزيع بعدة طرق. تتمثل إحدى الطرق في تحديد "كاشف انحراف المفهوم" وإدخاله في النظام والذي سينبه النظام عندما تختلف البيانات بشكل كبير عن بيانات التدريب. ويتطلب ذلك تصنيف بيانات التدريب يدويًا لتعيين الحدود الطبيعية للنظام. هناك طريقة أخرى وهي استخدام "التعلم القوي لضوضاء التسمية" والذي يسمح للنظام باكتشاف البيانات خارج التوزيع دون وضع علامات يدوية. بالإضافة إلى ذلك، يمكن استخدام "تصنيف الفئة الواحدة" لتحديد البيانات خارج التوزيع من خلال تحديد عتبة التصنيف.

يعد اكتشاف عدم التوزيع جزءًا مهمًا من نشر أنظمة التعلم الآلي. سيساعد ذلك على ضمان قدرة هذه الأنظمة بشكل أفضل على اكتشاف المواقف التي يحتمل أن تكون ضارة والتعامل معها قبل أن تصبح خطيرة للغاية. مع استمرار نمو استخدام التعلم الآلي في المجال الأمني، من المهم تنفيذ الكشف عن خارج التوزيع إلى جانب التدابير الأمنية الوقائية الأخرى.