Deepfake es una técnica utilizada para crear medios artificiales pero realistas mediante la sustitución de contenidos existentes por información generada por ordenador. La tecnología deepfake se utiliza a menudo para crear elementos visuales digitales falsos, como fotografías, audio y vídeos. Esta tecnología también puede utilizarse para crear documentos digitales falsos o manipular medios existentes.
La técnica que hay detrás de los deepfakes se basa en algoritmos de aprendizaje profundo y redes neuronales. Estos algoritmos se utilizan para captar el patrón y el comportamiento de un sujeto en archivos multimedia. Una vez entrenado el algoritmo, se puede utilizar para recrear y alterar los medios de comunicación que corresponden a los patrones y el comportamiento con los que se ha entrenado. Este proceso puede implicar el entrenamiento de un modelo de aprendizaje profundo en grandes cantidades de contenido existente, como fotografías, muestras de audio o vídeos.
Las fotografías o vídeos deepfake pueden crearse de varias formas, como imágenes generadas por ordenador, que se realizan mediante un método denominado modelos generativos, o autocodificadores de aprendizaje profundo, que se utilizan para técnicas de transferencia facial.
Los deepfakes se utilizan habitualmente para crear noticias falsas o difundir información falsa, ya que los medios de comunicación pueden servir para fabricar sucesos y crear historias engañosas. Esta tecnología ha creado nuevas preocupaciones en relación con la privacidad, la autenticidad y la confianza en la información digital. Además, los deepfakes también pueden utilizarse para crear estafas en línea o acosar a las personas.
Debido a la creciente disponibilidad y potencia de esta tecnología, muchas personas están tomando precauciones adicionales para protegerse de los deepfakes. Para los usuarios privados, esto puede incluir estar atentos a las señales de deepfakes y no compartir o hacer clic en contenidos no fiables. Para las empresas, esto puede incluir la creación de políticas y sistemas para detectar y evitar deepfakes y ataques relacionados.