Image and video manipulation: The generation of deepfakes

Abstract

The growth of fake news is nowadays a growing reality, leading to users feeling insecure when consuming information. Text-based news is perhaps the most manipulated, but the video is rapidly gaining ground. Technology allows content to be easily adulterated, leading users to become misinformed. In this study, we explain the different image, video, and audio manipulation techniques that are carried out with software and advanced audiovisual techniques. The most prominent methods are morphing and warping, together with machine learning techniques. Also, artificial intelligence is a critical element in the growth of fake video generation. This brings with it the need to identify the fake videos to verify the facts being told. It is also essential to understand social tolerance, especially in humour programmes, as some media outlets use these mechanisms. Moreover, it is analysed the importance of privacy policies that affect how the users’ personal information is collected and their implications in their fundamental rights. Finally, it is concluded with the need for media and digital literacy campaigns in the education system to minimise this problem. Resumen El crecimiento de las noticias falsas es hoy en día una realidad creciente, que lleva a los usuarios a sentirse inseguros cuando consumen información. Las noticias basadas en texto son quizás las más manipuladas, pero el vídeo está ganando terreno rápidamente. La tecnología permite adulterar fácilmente los contenidos, lo que lleva a los usuarios a estar mal informados. En este estudio se explican las diferentes técnicas de manipulación de imagen, vídeo y audio que se llevan a cabo con software y técnicas audiovisuales avanzadas. Los métodos más destacados son el morphing y el warping, junto con las técnicas de aprendizaje automático. Además, la inteligencia artificial es un elemento crítico en el crecimiento de la generación de vídeos falsos. Esto conlleva la necesidad de identificar los vídeos falsos para verificar los hechos que se cuentan. También es esencial entender la tolerancia social, especialmente en los programas de humor, ya que algunos medios de comunicación utilizan estos mecanismos. Además, se analiza la importancia de las políticas de privacidad que afectan a la recogida de información personal de los usuarios y sus implicaciones en sus derechos fundamentales. Finalmente, se concluye con la necesidad de realizar campañas de alfabetización mediática y digital en el sistema educativo para minimizar este problema.