배포 범위를 벗어난 탐지

배포 외 감지는 배포된 시스템에서 데이터 입력이 시스템이 훈련한 내용과 크게 다르거나 "정상"으로 간주되는 경우를 감지할 수 있도록 하는 기계 학습 및 인공 지능에 사용되는 프로세스입니다. 이 프로세스를 통해 시스템은 배포되지 않은 데이터를 수신하는 시기를 인식하고 그에 따라 반응할 수 있습니다.

보안 애플리케이션에서 기계 학습이 점점 더 자주 사용됨에 따라 배포 외 탐지는 컴퓨터 보안 분야에서 점점 더 중요한 문제가 되었습니다. 예를 들어 악성 코드 및 기타 공격은 배포되지 않은 데이터를 사용하여 기계 학습 기반 보안 시스템의 탐지를 회피할 수 있습니다. 배포 외 탐지는 의심스러운 상황을 사람이나 다른 시스템에 경고하여 이러한 종류의 공격을 방지하는 데 도움이 될 수 있습니다.

배포 외 검색은 여러 가지 방법으로 구현할 수 있습니다. 한 가지 방법은 데이터가 훈련 데이터와 크게 다를 때 시스템에 경고하는 "개념 드리프트 감지기"를 정의하고 시스템에 공급하는 것입니다. 이를 위해서는 시스템의 일반 경계를 설정하기 위해 훈련 데이터에 수동으로 레이블을 지정해야 합니다. 또 다른 방법은 시스템이 수동 라벨링 없이 배포되지 않은 데이터를 감지할 수 있도록 하는 "라벨 노이즈 강력한 학습"을 사용하는 것입니다. 또한, 분류 임계값을 설정하여 분산되지 않은 데이터를 식별하는 데 "일등급 분류"를 사용할 수도 있습니다.

배포 외 감지는 기계 학습 시스템 배포의 중요한 부분입니다. 이는 이러한 시스템이 잠재적으로 피해를 입힐 수 있는 상황이 너무 심각해지기 전에 더 잘 감지하고 대응할 수 있도록 하는 데 도움이 됩니다. 보안 공간에서 기계 학습의 사용이 계속 증가함에 따라 다른 예방 보안 조치와 함께 배포되지 않은 탐지를 구현하는 것이 중요합니다.