Detectie buiten de distributie

Detectie buiten distributie is een proces dat wordt gebruikt in machinaal leren en kunstmatige intelligentie en waarmee een ingezet systeem kan detecteren wanneer de gegevensinvoer drastisch verschilt van datgene waarop het systeem is getraind of dat als ‘normaal’ wordt beschouwd. Dankzij dit proces kan het systeem herkennen wanneer het gegevens ontvangt die niet in distributie zijn en dienovereenkomstig reageren.

Detectie van out-of-distributie is een steeds belangrijker probleem geworden op het gebied van computerbeveiliging, omdat machinaal leren steeds vaker wordt gebruikt in beveiligingstoepassingen. Malware en andere aanvallen kunnen bijvoorbeeld gegevens gebruiken die niet verspreid zijn om de detectie van op machine learning gebaseerde beveiligingssystemen te omzeilen. Detectie buiten distributie kan dit soort aanvallen helpen voorkomen door mensen of andere systemen te waarschuwen dat een situatie verdacht kan zijn.

Detectie buiten distributie kan op verschillende manieren worden geïmplementeerd. Eén manier is het definiëren en invoeren van een “conceptdriftdetector” in het systeem, die het systeem waarschuwt wanneer de gegevens aanzienlijk afwijken van de trainingsgegevens. Hiervoor moet de trainingsgegevens handmatig worden gelabeld om normale grenzen voor het systeem in te stellen. Een andere manier is het gebruik van ‘label-noise robuust leren’, waarmee het systeem gegevens kan detecteren die buiten de distributie vallen zonder handmatig labelen. Bovendien kan “classificatie in één klasse” worden gebruikt om gegevens die buiten de distributie vallen te identificeren door een classificatiedrempel in te stellen.

Detectie van buiten-distributie is een belangrijk onderdeel van de inzet van machine learning-systemen. Het zal ervoor zorgen dat deze systemen potentieel schadelijke situaties beter kunnen detecteren en erop kunnen reageren voordat deze te ernstig worden. Nu het gebruik van machinaal leren in de beveiligingsruimte blijft groeien, is het belangrijk om detectie van buiten-distributie-detectie te implementeren, samen met andere preventieve beveiligingsmaatregelen.