配信外検出

分布外検出は、機械学習と人工知能で使用されるプロセスであり、これにより、データ入力が、システムがトレーニングされたもの、または「正常」とみなされるものと大幅に異なる場合を、展開されたシステムが検出できるようになります。このプロセスにより、システムは配信外のデータをいつ受信しているかを認識し、それに応じて対応できるようになります。

セキュリティ アプリケーションで機械学習がますます頻繁に使用されるため、配布外の検出はコンピュータ セキュリティの分野でますます重要な問題になっています。たとえば、マルウェアやその他の攻撃は、配布外のデータを使用して、機械学習ベースのセキュリティ システムの検出を回避する可能性があります。配布範囲外の検出は、状況が疑わしい可能性があることを人間または他のシステムに警告することで、この種の攻撃を防ぐのに役立ちます。

分布外の検出はいくつかの方法で実装できます。 1 つの方法は、データがトレーニング データと大きく異なる場合にシステムに警告を発する「コンセプト ドリフト検出器」を定義してシステムに入力することです。これには、トレーニング データに手動でラベルを付けて、システムの通常の境界を設定する必要があります。もう 1 つの方法は、手動ラベル付けを行わずにシステムが分布外データを検出できるようにする「ラベル ノイズ ロバスト学習」を使用することです。さらに、「1 クラス分類」を使用して、分類しきい値を設定することにより、分布外のデータを識別することができます。

分布外の検出は、機械学習システムを導入する際の重要な部分です。これは、これらのシステムが潜在的に有害な状況をより適切に検出し、深刻になりすぎる前に対応できるようにするのに役立ちます。セキュリティ分野での機械学習の利用が拡大し続ける中、他の予防的なセキュリティ対策と併せて分布外の検出を実装することが重要です。