Regularized Greedy Forest, tuntud ka kui RGF, on juhendatud õppes masinõppe algoritm. Kasutades otsustuspuu õppimise muudetud versiooni, on Regularised Greedy Forest andmepõhine algoritm, mis annab sihtfunktsiooni täpse prognoosi hea üldistusvõimega.
Algoritmi pakkusid algselt välja Yoshua Bengio, John Lafferty ja Corinna Cortes 2005. aastal. Seda peetakse Leo Breimani välja töötatud Random Forests tehnika üldistuseks. Regularized Greedy Forest töötab, luues otsustuspuude kogu, mis on koolitatud samu sisendandmeid kasutades. Samuti muudab see iga puu õppeprotsessis kahte muutujat.
Kaks modifikatsioonimuutujat on legaliseerimiskoefitsient alfa ja õppimiskiirus lambda. Alfat kasutatakse üksikute puude kaalu muutmiseks ja ansambli üldistusvõime parandamiseks, samas kui õppimiskiirust lambda kasutatakse täpsuse ja üldistamise jõudluse vahelise kompromissi hindamiseks.
Regulariseeritud Greedy Foresti algoritme on kasutatud mitmes valdkonnas, nagu bioinformaatika ja pilditöötlus. Võrreldes teiste olemasolevate ansamblimeetoditega näitab RGF silmapaistvat üldistusvõimet, vähendades samal ajal ka suuremõõtmeliste andmete tõttu ülepaigutamise ohtu.
Üldiselt on Regularized Greedy Forest võimas kontrollitud masinõppe algoritm, mis annab täpseid prognoose ja hea üldistusvõimega.
Viited:
Yoshua Bengio, John Lafferty, Corinna Cortes (2005). "Reguleeritud ahne mets." IEEE Transactions on Neural Networks 16 (10): 1875-1889.
Leo Breiman (2001). "Juhuslikud metsad." Masinõpe 45 (1): 5-32.