CódigoBERT

CodeBERT é um sistema de processamento de linguagem natural (PNL) baseado em código desenvolvido por pesquisadores da Microsoft e da Universidade de Washington em Seattle. O modelo foi projetado para compreender a linguagem natural como um ser humano faria. É capaz de compreender códigos e linguagens de programação, bem como linguagem natural, permitindo que os programadores usem linguagem natural para interagir com software e bancos de dados.

CodeBERT é baseado no popular sistema de processamento de linguagem natural (PNL) de código aberto BERT, que usa uma série de camadas Transformer para entender as relações entre palavras em uma frase. CodeBERT estende essa tecnologia adicionando suporte para conclusão de código e compreensão de blocos de código. Isso permite que o modelo faça previsões sobre qual código deve ser escrito a seguir, bem como forneça explicações em linguagem natural para o código que foi escrito.

CodeBERT é construído sobre uma nova mistura de PNL, visão computacional e técnicas de análise de linguagem de programação. O sistema é treinado em milhões de linhas de código, permitindo aprender a completar blocos de código escritos em linguagens como C#, Java e Python. Foi demonstrado que o 30% é melhor no preenchimento de código do que os modelos de preenchimento de código existentes.

O sistema resultante tem potencial para ser uma ferramenta poderosa para programação, permitindo aos desenvolvedores escrever códigos rapidamente e solucionar problemas sem precisar conhecer as complexidades da linguagem que estão usando. CodeBERT também poderia ser usado para criar novos aplicativos que usam processamento de linguagem natural para compreender e interagir com o código.