5 aplicaciones de IA para detectar deepfakes

En este blog te presentamos algunas herramientas que te pueden ayudar a identificar si estas frente a un deepfake.

Cada vez cuesta más distinguir si una imagen está creada con inteligencia artificial. Lo mismo ocurre con los videos o audios cuando están inventados e igualan la apariencia y el sonido de una persona. En este blog te presentamos algunas herramientas que te pueden ayudar a identificar si estas frente a un deepfake.


Por Fast Check

Un deepfake es una imagen, un video o un audio que está creado e imita la apariencia y el sonido de una persona.

Deepfake de Biden y Putin
Imagen creada con IA

Los deepfakes son generados por inteligencia artificial y la mayor parte del tiempo se pueden ver en videos o filtros de realidad aumentada.

De hecho, el término proviene de la combinación de las palabras «deep learning» y «fake», para representar algo falso que es resultado de la tecnología de aprendizaje profundo, según Seon.

A continuación te presentamos 5 herramientas que puedes utilizar para detectar y no caer en deepfakes.

1) TensorFlow y PyTorch 

TensorFlow y PyTorch son dos ejemplos de herramientas gratuitas que emplean redes neuronales profundas para detectar deepfakes.

Pero, ¿qué es una red neuronal profunda? Esta es una técnica de aprendizaje automático que permite a un computador, mediante su entrenamiento, realizar funciones que serían muy difíciles de llevar a cabo utilizando técnicas de programación convencionales, según Botpress.

Los algoritmos de redes neuronales se inspiraron en el cerebro humano, están diseñados para funcionar no solo siguiendo una lista preestablecida de reglas, sino prediciendo soluciones y sacando conclusiones basadas en repeticiones y experiencias anteriores.

TensorFlow

Es una plataforma para construir y entrenar redes neuronales, que permiten detectar y descifrar patrones y correlaciones, similares al aprendizaje y razonamiento usados por los humanos, según la descripción del mismo sitio.

¿Cómo funciona la aplicación para reconocer una imagen? En este caso se pueden encontrar capas de entrada y de salida. Las redes neuronales van aprendiendo automáticamente. Memorizan representaciones cada vez más abstractas de los datos que reciben de las imágenes. Las neuronas detectan líneas, formas y texturas, entre otras cosas, para reconocer una imagen, objeto, etc.

También, se puede utilizar para analizar videos y pistas de audio con el fin de detectar indicios de manipulación. Los usuarios solo tienen que subir ejemplos de contenidos reales y falsos para entrenar un modelo de detección que sea capaz de diferenciar entre ambos.

PyTorch

Es un marco de código abierto para aprendizaje automático, y se basa en el lenguaje de programación Python y la biblioteca de la Antorcha. Fue desarrollado en 2016 por un equipo de investigadores para inteligencia artificial por Facebook para mejorar la eficiencia del desarrollo y despliegue de prototipos de investigación. PyTorch computa con tensores, que se aceleran mediante procesadores gráficos. El framework permite realizar más de 200 operaciones matemáticas diferentes.

2) Deepware

Es una aplicación que se utiliza para el análisis y detección de videos deepfake. El uso de la herramienta es gratuito, se utiliza desde el navegador sin tener que instalar programas y no necesita registro.

¿Cómo se utiliza?

Todo lo que debes hacer es escribir o pegar la URL del video, hacer clic en el botón “SCAN” y esperar los resultados.

También puedes usarla para analizar videos que no están almacenados en Internet. Solo tienes que cargar la grabación que quieres analizar y seguir los pasos anteriores, es decir, pulsar en “SCAN” y esperar los resultados.

Al igual que otros detectores de deepfakes, los modelos de deepware buscan signos de manipulación en el rostro humano. La principal limitación de la herramienta es su incapacidad para detectar técnicas de sustitución de voz.

3) Sensity

Esta herramienta está especializada en la detección de deepfakes y de imágenes generadas por inteligencia artificial (IA). Lo que permite la aplicación es analizar señales visuales y contextuales para identificar IA.

La herramienta no es gratuita; las tarifas dependen del uso mensual y las áreas de interés individuales.

4) Hive

Con esta aplicación, tanto textos como imágenes digitales se pueden escanear para comprobar su identidad. Para chequear una imagen, los usuarios suben un archivo a la sección de detección de contenidos generados por IA para que sea procesado rápidamente.

También existe la extensión para Chrome Hive AI Detector, que permite a los usuarios detectar gratuitamente texto e imágenes generados por IA desde el navegador, según Ijnet (Red Internacional de Periodistas)

Puedes verificar tanto texto como imagen

5) Illuminarty

Por último, está Illuminarty, la cual también ofrece la posibilidad de detectar imágenes y texto generados por IA.

Con esta aplicación, los usuarios pueden identificar dónde está exactamente la manipulación en una imagen falsa y a partir de qué modelos de IA se ha generado.

https://www.fastcheck.cl/2023/09/15/imagen-el-ultimo-sabueso-gris-irlandes-gigante-1902-falso/

Cabe recordar que todas las herramientas mencionadas en este blog, ayudan a combatir los deepfakes, pero no son 100% precisas, según Ijnet.

Por último, un punto que hay que tener en cuenta a la hora de detectar un deepfake es observar la imagen, el video o el audio. Generalmente, los contenidos hechos con IA no son perfectos: Fíjate en el parpadeo de los ojos, el rostro, el cuello y siempre cuestiónate la fuente de procedencia.

Fast Check CL es un medio de comunicación, que depende de sus suscriptores para financiar el equipo de trabajo que hizo este artículo. Sin ti este proyecto finalizará en 2025. Puedes ser suscriptor/a y ayudarnos a combatir la desinformación en Chile por solo 1.500 al mes. 

Te puede interesar:

Roberto Munita: “Mucho elector que había optado por el Frente Amplio en las últimas elecciones, terminó votando por Jeannette Jara”

La victoria de Jeannette Jara en las primarias oficialistas reordenó el mapa electoral de la izquierda. En esta entrevista, el director de la carrera de Administración Pública de la Unab, analiza el diseño tras la candidatura comunista, el desfonde del Frente Amplio y el vacío de liderazgos en la centroizquierda, a la que compara con una selección chilena de fútbol sin recambio ni relato.

Con un alza injustificada: exalcalde de Rapa Nui autorizó millonario convenio a organización presidida por su hermano

El exalcalde de Isla de Pascua, Pedro Edmunds Paoa, autorizó un millonario convenio en favor del Consejo de Ancianos que preside su hermano, Carlos Edmunds Paoa. El acuerdo, que comprometía aportes mensuales inicialmente por $800 mil, aumentó en 2023 a $2,8 millones sin justificación técnica ni respaldo documental. La situación, calificada como posible conflicto de interés, es parte de los antecedentes que conforman una denuncia por notable abandono de deberes ante el Tribunal Electoral.

Empresa a nombre de funcionaria de Corral recibió más de $2.470 millones en contratos con el mismo municipio

Durante más de una década, la empresa Construcción Mónica Viviana Sanhueza Stuardo EIRL —docente municipal del mismo nombre — recibió contratos millonarios de la Municipalidad de Corral. Fast Check CL comprobó que Sanhueza trabajó por más de 20 años en el municipio, mientras su empresa era contratada de forma reiterada desde al menos 2013. Solo en 2023, recibió más de $460 millones.

Últimos chequeos:

“En Reino Unido se despenalizó el aborto hasta el momento del nacimiento”: #Engañoso

Se comparte en redes sociales que Reino Unido «despenalizó el aborto hasta el momento del nacimiento». Fast Check calificó esto como #Engañoso, ya que si bien se aprobó que las mujeres no sean procesadas penalmente por abortar —independientemente del momento del embarazo en el que lo hagan—, el aborto después de las 24 sigue siendo ilegal a menos que implique riesgos de salud.

El hospital donde nació la hija del presidente Boric no es público: #Falso

Tras el nacimiento de Violeta, la hija del presidente Boric, se compartió en las redes que el hospital donde nació no sería público, como anunció el mandatario. Fast Check calificó esto como #Falso, pues tanto el Minsal como el propio Hospital de la Universidad de Chile confirmaron que el establecimiento sí es público.

“¡Mercado Libre ofrece portátiles que llevan más de un año en stock a personas mayores de 40 años en Chile por solo 1.800 CLP!”: #Falso

En Facebook se viralizó una supuesta promoción que asegura que Mercado Libre está entregando notebooks por solo $1.800 pesos a personas mayores de 40 años. Sin embargo, esto es #Falso. Fast Check CL revisó el contenido y detectó que se trata de una estafa digital: el sitio que promociona la oferta no pertenece a Mercado Libre, utiliza imágenes generadas con inteligencia artificial y redirige a una página donde se solicitan datos bancarios personales.

“¡Mercado Libre ofrece portátiles que llevan más de un año en stock a personas mayores de 40 años en Chile por solo 1.800 CLP!”: #Falso

En Facebook se viralizó una supuesta promoción que asegura que Mercado Libre está entregando notebooks por solo $1.800 pesos a personas mayores de 40 años. Sin embargo, esto es #Falso. Fast Check CL revisó el contenido y detectó que se trata de una estafa digital: el sitio que promociona la oferta no pertenece a Mercado Libre, utiliza imágenes generadas con inteligencia artificial y redirige a una página donde se solicitan datos bancarios personales.

El hospital donde nació la hija del presidente Boric no es público: #Falso

Tras el nacimiento de Violeta, la hija del presidente Boric, se compartió en las redes que el hospital donde nació no sería público, como anunció el mandatario. Fast Check calificó esto como #Falso, pues tanto el Minsal como el propio Hospital de la Universidad de Chile confirmaron que el establecimiento sí es público.