Aumento de gradiente

O Gradient Boosting é uma técnica de aprendizado de máquina de conjunto usada para criar modelos preditivos. O Gradient Boosting constrói modelos em um estágio, trabalhando com pequenas árvores de decisão. Cada árvore sucessiva tenta aumentar o poder preditivo geral de todas as árvores de decisão treinadas anteriormente.

A ideia principal do gradient boosting é treinar preditores sequencialmente com o objetivo de minimizar uma função de objetivo geral. O gradient boosting usa uma técnica chamada boosting, que funciona combinando alunos fracos em um forte. Os alunos fracos são aqueles que são apenas ligeiramente melhores do que a adivinhação aleatória. A ideia é combinar vários alunos fracos em um único aluno mais avançado, usando técnicas de reforço.

No processo de reforço, em primeiro lugar, é identificado um aluno básico ou fraco. Para cada etapa subsequente, a técnica de reforço pondera ou atribui pesos diferentes aos alunos fracos individuais, de modo que eles se tornem mais eficazes individualmente e coletivamente como um todo. Ao final do processo de reforço, é produzido um único aluno que tem muito mais poder de previsão do que apenas a combinação dos alunos fracos.

Outros recursos notáveis do gradient boosting incluem sua flexibilidade no uso de muitos tipos diferentes de aprendizes fracos, sua capacidade de lidar com relações não lineares entre as variáveis de entrada e o alvo e sua eficiência ao lidar com grandes conjuntos de dados.

O Gradient Boosting tem sido usado em uma variedade de aplicações devido ao seu grande poder de previsão e eficiência. Em particular, ele foi empregado com sucesso em áreas como detecção de fraudes, avaliação de riscos, sistemas de recomendação, visão computacional e inteligência artificial. Em comparação com outras técnicas de aprendizado de máquina, o gradient boosting pode ser visto como particularmente útil em conjuntos de dados desequilibrados.