Detección de fuera de distribución

La detección de datos fuera de distribución es un proceso utilizado en el aprendizaje automático y la inteligencia artificial que permite a un sistema desplegado detectar cuándo la entrada de datos difiere drásticamente de lo que el sistema ha sido entrenado o se considera "normal". Este proceso permite al sistema reconocer cuándo está recibiendo datos fuera de distribución y reaccionar en consecuencia.

La detección fuera de distribución se ha convertido en una cuestión cada vez más importante en el ámbito de la seguridad informática, ya que el aprendizaje automático se utiliza cada vez con más frecuencia en aplicaciones de seguridad. Por ejemplo, los programas maliciosos y otros ataques pueden utilizar datos fuera de distribución para eludir la detección de los sistemas de seguridad basados en el aprendizaje automático. La detección fuera de distribución puede ayudar a prevenir este tipo de ataques alertando a los humanos o a otros sistemas de que una situación puede ser sospechosa.

La detección de desviaciones puede realizarse de varias maneras. Una de ellas consiste en definir y alimentar el sistema con un "detector de desviación de concepto" que alerte al sistema cuando los datos difieran significativamente de los datos de entrenamiento. Esto requiere etiquetar manualmente los datos de entrenamiento para establecer límites normales para el sistema. Otra forma es utilizar el "aprendizaje robusto etiqueta-ruido", que permite al sistema detectar datos fuera de distribución sin necesidad de etiquetado manual. Además, se puede utilizar la "clasificación de una clase" para identificar los datos fuera de distribución estableciendo un umbral de clasificación.

La detección fuera de distribución es una parte importante de la implantación de sistemas de aprendizaje automático. Ayudará a garantizar que estos sistemas sean más capaces de detectar y reaccionar ante situaciones potencialmente perjudiciales antes de que se agraven demasiado. A medida que crece el uso del aprendizaje automático en el ámbito de la seguridad, es importante implantar la detección fuera de distribución junto con otras medidas de seguridad preventivas.