Phát hiện ngoài phân phối

Phát hiện ngoài phân phối là một quy trình được sử dụng trong máy học và trí tuệ nhân tạo cho phép hệ thống được triển khai phát hiện khi dữ liệu đầu vào khác biệt nhiều so với dữ liệu mà hệ thống đã được đào tạo hoặc được coi là “bình thường”. Quá trình này cho phép hệ thống nhận biết khi nào nó nhận được dữ liệu ngoài phân phối và phản ứng tương ứng.

Phát hiện ngoài phân phối đã trở thành một vấn đề ngày càng quan trọng trong lĩnh vực bảo mật máy tính, vì học máy ngày càng được sử dụng thường xuyên hơn trong các ứng dụng bảo mật. Ví dụ: phần mềm độc hại và các cuộc tấn công khác có thể sử dụng dữ liệu không được phân phối để tránh sự phát hiện của các hệ thống bảo mật dựa trên máy học. Tính năng phát hiện ngoài phân phối có thể giúp ngăn chặn các loại tấn công này bằng cách cảnh báo con người hoặc các hệ thống khác rằng một tình huống có thể đáng ngờ.

Việc phát hiện ngoài phân phối có thể được thực hiện theo nhiều cách. Một cách là xác định và đưa “bộ phát hiện độ lệch khái niệm” vào hệ thống để cảnh báo hệ thống khi dữ liệu khác biệt đáng kể so với dữ liệu huấn luyện. Điều này đòi hỏi phải dán nhãn dữ liệu huấn luyện theo cách thủ công để đặt ranh giới bình thường cho hệ thống. Một cách khác là sử dụng “học tập mạnh mẽ về tiếng ồn nhãn” cho phép hệ thống phát hiện dữ liệu ngoài phân phối mà không cần gắn nhãn thủ công. Ngoài ra, "phân loại một lớp" có thể được sử dụng để xác định dữ liệu ngoài phân phối bằng cách đặt ngưỡng phân loại.

Phát hiện ngoài phân phối là một phần quan trọng trong việc triển khai hệ thống máy học. Nó sẽ giúp đảm bảo rằng các hệ thống này có khả năng phát hiện và phản ứng tốt hơn với các tình huống có khả năng gây thiệt hại trước khi chúng trở nên quá nghiêm trọng. Khi việc sử dụng máy học trong lĩnh vực bảo mật tiếp tục phát triển, điều quan trọng là phải triển khai tính năng phát hiện ngoài phân phối cùng với các biện pháp bảo mật phòng ngừa khác.