CódigoBERT

CodeBERT es un sistema de procesamiento del lenguaje natural (PLN) basado en código desarrollado por investigadores de Microsoft y la Universidad de Washington en Seattle. El modelo está diseñado para entender el lenguaje natural como lo haría un ser humano. Es capaz de entender el código y los lenguajes de programación, así como el lenguaje natural, lo que permite a los programadores utilizar el lenguaje natural para interactuar con el software y las bases de datos.

CodeBERT se basa en el popular sistema de procesamiento del lenguaje natural (PLN) de código abierto BERT, que utiliza una serie de capas Transformer para comprender las relaciones entre las palabras de una frase. CodeBERT amplía esta tecnología añadiendo soporte para la compleción de código y la comprensión de bloques de código. Esto permite al modelo hacer predicciones sobre el código que debe escribirse a continuación, así como ofrecer explicaciones en lenguaje natural sobre el código que ha escrito.

CodeBERT se basa en una novedosa combinación de PNL, visión por ordenador y técnicas de análisis de lenguajes de programación. El sistema se ha entrenado con millones de líneas de código, lo que le permite aprender a completar bloques de código escritos en lenguajes como C#, Java y Python. Ha demostrado ser más de 30% mejor que los modelos de completado de código existentes.

El sistema resultante tiene potencial para convertirse en una potente herramienta de programación que permita a los desarrolladores escribir código rápidamente y solucionar problemas sin tener que conocer los entresijos del lenguaje que utilizan. CodeBERT también podría utilizarse para crear nuevas aplicaciones que utilicen el procesamiento del lenguaje natural para comprender el código e interactuar con él.