Detecção de falta de distribuição

A detecção de dados fora de distribuição é um processo usado no aprendizado de máquina e na inteligência artificial que permite que um sistema implantado detecte quando a entrada de dados é drasticamente diferente daquela em que o sistema foi treinado ou é considerada "normal". Esse processo permite que o sistema reconheça quando está recebendo dados fora de distribuição e reaja de acordo.

A detecção fora da distribuição tornou-se uma questão cada vez mais importante no campo da segurança de computadores, pois o aprendizado de máquina é usado com cada vez mais frequência em aplicativos de segurança. Por exemplo, o malware e outros ataques podem usar dados fora da distribuição para evitar a detecção de sistemas de segurança baseados em aprendizado de máquina. A detecção fora da distribuição pode ajudar a evitar esses tipos de ataques, alertando os seres humanos ou outros sistemas de que uma situação pode ser suspeita.

A detecção de fora da distribuição pode ser implementada de várias maneiras. Uma maneira é definir e alimentar o sistema com um "detector de desvio de conceito" que o alertará quando os dados forem significativamente diferentes dos dados de treinamento. Isso requer a rotulagem manual dos dados de treinamento para definir limites normais para o sistema. Outra maneira é usar o "aprendizado robusto de rótulo e ruído", que permite que o sistema detecte dados fora da distribuição sem rotulagem manual. Além disso, a "classificação de uma classe" pode ser usada para identificar dados fora de distribuição, definindo um limite de classificação.

A detecção de fora da distribuição é uma parte importante da implementação de sistemas de aprendizado de máquina. Ela ajudará a garantir que esses sistemas sejam mais capazes de detectar e reagir a situações potencialmente prejudiciais antes que elas se tornem muito graves. Como o uso do aprendizado de máquina no espaço de segurança continua a crescer, é importante implementar a detecção de falta de distribuição junto com outras medidas preventivas de segurança.