Training op tegenspraak

Tegenstrijdige training is een benadering van machinaal leren die de robuustheid van het model wil vergroten door het te bewapenen met het vermogen om zich tegen aanvallen te verdedigen. Het is een vorm van data-vergroting die een vorm van kunstmatige ruis in de trainingsgegevens introduceert. Dergelijke ruis kan worden gegenereerd door algoritmen, of eenvoudigweg door kleine verstoringen aan de invoermonsters toe te voegen.

Het doel van vijandige training is om de prestaties van het model robuuster te maken voor bepaalde soorten aanvallen. Het toevoegen van kleine verstoringen aan de invoergegevens kan het model bijvoorbeeld minder gevoelig maken voor bepaalde soorten aanvallen. Dit is in principe vergelijkbaar met het concept van regularisatie, waarbij het model wordt getraind om minder afhankelijk te zijn van specifieke kenmerken.

Tegenstrijdige training kan het risico op overfitting helpen verminderen, omdat de luidruchtige gegevens het model aanmoedigen om effectiever te generaliseren. Het kan ook worden gebruikt om de nauwkeurigheid van het model op nieuwe datasets te vergroten, omdat de robuustheid bij aanvallen de prestaties ervan verbetert.

Tegenstrijdige training kan ook helpen de veiligheid van het model zelf te verbeteren, omdat het een hogere mate van weerstand heeft tegen bepaalde aanvallen. Hierdoor is hij minder kwetsbaar voor manipulatie of vergiftiging van bijvoorbeeld de trainingsgegevens, wat tot slechte prestaties kan leiden.

Tegenstrijdige training wordt vaak gebruikt om de prestaties en beveiliging van deep learning-modellen te verbeteren. Het is gebruikt om de nauwkeurigheid en robuustheid van datagestuurde benaderingen van cyberbeveiliging te vergroten, zoals anomaliedetectie en netwerkinbraakpreventie.