Etikettide silumine

Sildi silumine on tehnika, mida kasutatakse süvaõppes närvivõrgu treeningprotsessi reguleerimiseks. Seda tehnikat kasutatakse ülepaigutamise vältimiseks, vähendades mudeli sõltuvust õigetest siltidest koolitusprotsessi ajal. See toimib, suurendades mudeli usaldust "valede" siltide suhtes.

Treeningu ajal loob närvivõrk tõenäosusjaotuse antud sisendi õigete siltide vahel. Sildi silumine lisab võrgu väljundisse veidi segadust. See segadus julgustab mudelit arvestama ka "valede" siltidega, vähendades sellega ülepaigutamise tõenäosust.

Sildi silumine on eriti kasulik, kui koolitada võrku andmetega, mille klasside vahel on suuri lahknevusi. Näiteks võrk, mis on koolitatud 100 positiivse proovi ja 1 negatiivse prooviga andmekogumil, sobitub tõenäoliselt pärast mõnda koolitust positiivse prooviga väga üle. Sildi silumise rakendamine vähendaks kindlust, millega mudel valib positiivse märgise, suurendades selle üldistust.

Sildi silumist saab rakendada kahel viisil. Esimene on konstantse koguse silumine igale etiketile. See saavutatakse, lisades igale etiketile väikese osa ühtlasest jaotusest. Teine võimalus on rakendada igal sildil erinevat taset, olenevalt sellest, kui kindel võrk on õiges klassifikatsioonis. Näiteks märgisele, mis on väga kindel, rakendatakse kõrge tase silumist, samas kui ebakindlam märgis on silutud vähem.

Sildi silumine on sageli kasutatav tehnika süvaõppemudelite toimivuse parandamiseks. Selle kasutamine koos muude seadustamismeetoditega, nagu varajane peatamine ja väljalangemine, võib aidata veelgi vähendada ülepaigutamist ja parandada mudeli üldistamist.