Las inteligencias artificiales (IA) pueden ser herramientas valiosas para el procesamiento y análisis de grandes cantidades de información. Sin embargo, también tienen el potencial de desinformar si no se utilizan adecuadamente
El escritor de la revista Fortune, Jeremy Kahn, ha señalado que el crecimiento de las noticias falsas basadas en inteligencia artificial representa un gran problema en la actualidad. Según Kahn, el uso de la tecnología deepfake para manipular imágenes y videos es una amenaza para la democracia, especialmente en el contexto de las próximas elecciones presidenciales en Estados Unidos y otros eventos importantes.
“Estamos entrando en un territorio desconocido”
Advierte Kahn, quien llama a la necesidad de tomar medidas para prevenir el uso malintencionado de esta tecnología. Aunque, paradójicamente, la inteligencia artificial se postula como la solución a este problema, contrarrestando sus alcances y siendo una herramienta para la detección de contenido falso.
¿Qué es un deepfake?
El término “deepfake” se refiere a videos que utilizan tecnología de inteligencia artificial para crear una apariencia engañosa. Esta técnica ha sido utilizada para crear videos falsos de celebridades, políticos y personas comunes y corrientes. Los deepfakes han sido objeto de preocupación, ya que se teme que puedan ser utilizados para difundir información falsa o engañosa a gran escala.
¿Cómo funciona?
El proceso consiste en alimentar un software con miles de imágenes y videos de la persona a replicar, y a través de un complejo proceso de aprendizaje, el algoritmo es capaz de recrear la apariencia y gestos de la persona en cuestión. El resultado final es un video o imagen que parece real, pero que en realidad es una recreación digital
A pesar de que la tecnología deepfake se utiliza en la industria cinematográfica de manera profesional, en la actualidad existe una creciente preocupación por su uso malintencionado, como la difusión de noticias falsas, el engaño en campañas políticas y la extorsión.
Algunos de los deepfakes más preocupantes son los que se utilizan para crear videos falsos de políticos, en los que se muestra a una persona decir algo que en la realidad nunca mencionó.
¿Por qué se hizo conocido recientemente?
La firma local Deepmaster, especializada en la técnica del “deepfake” para crear videos falsos, se hizo viral en las redes sociales en marzo pasado. Esto se debió a que circuló un video que revivía al fallecido presentador de televisión Felipe Camiroaga. El video fue viralizado a través de la cuenta de redes sociales Nano Videos, que lo publicó como un “homenaje” al popular conductor de televisión. Sin embargo, muchos usuarios cuestionaron la falta de ética de utilizar la tecnología para crear un video falso de una persona fallecida y hacerlo pasar como algo real.
La importancia de la educación y la ética
Las inteligencias artificiales (IA) son tecnologías cada vez más populares en muchos campos, desde la atención médica hasta el comercio electrónico y la seguridad nacional. Si bien las IA pueden ser herramientas valiosas para el procesamiento y análisis de grandes cantidades de información, también es importante reconocer que su mal uso puede ser peligroso. Las IA no son inherentemente malas o desinformadoras, pero su aplicación debe ser responsable.
