Contenido generado por inteligencia artificial: oportunidades y amenazas

Abstract

In recent years, there has been an exponential growth in developments aimed at the creation of textual, graphic, audio, and audiovisual content using artificial intelligence. These extraordinary technological achievements offer huge potential opportunities but, at the same time, are vulnerable to certain questionable uses that constitute real threats. This paper examines recent initiatives targeting the simulation of human writing, the creation of deepfake videos, voice cloning, and the generation of images from text prompts. Then, the potential benefits of these developments as well as the main dangers resulting from their misuse are discussed. Resumen En los últimos años se ha visto un crecimiento exponencial de los desarrollos orientados a la creación de contenido textual, gráfico, sonoro y audiovisual mediante inteligencia artificial. Son logros tecnológicos extraordinarios que ofrecen grandes oportunidades potenciales, pero a la vez quedan expuestos a ciertos usos cuestionables que son, en sí mismos, amenazas. Este artículo examina iniciativas recientes dirigidas a la simulación de la escritura humana, la creación de vídeos deepfake, la clonación de voz y la generación de imágenes a partir de indicaciones textuales. De estos desarrollos se comentan los beneficios potenciales y los principales peligros derivados de un uso incorrecto.