5 aplicaciones de IA para detectar deepfakes

En este blog te presentamos algunas herramientas que te pueden ayudar a identificar si estas frente a un deepfake.

Cada vez cuesta más distinguir si una imagen está creada con inteligencia artificial. Lo mismo ocurre con los videos o audios cuando están inventados e igualan la apariencia y el sonido de una persona. En este blog te presentamos algunas herramientas que te pueden ayudar a identificar si estas frente a un deepfake.


Por Fast Check

Un deepfake es una imagen, un video o un audio que está creado e imita la apariencia y el sonido de una persona.

Deepfake de Biden y Putin
Imagen creada con IA

Los deepfakes son generados por inteligencia artificial y la mayor parte del tiempo se pueden ver en videos o filtros de realidad aumentada.

De hecho, el término proviene de la combinación de las palabras «deep learning» y «fake», para representar algo falso que es resultado de la tecnología de aprendizaje profundo, según Seon.

A continuación te presentamos 5 herramientas que puedes utilizar para detectar y no caer en deepfakes.

1) TensorFlow y PyTorch 

TensorFlow y PyTorch son dos ejemplos de herramientas gratuitas que emplean redes neuronales profundas para detectar deepfakes.

Pero, ¿qué es una red neuronal profunda? Esta es una técnica de aprendizaje automático que permite a un computador, mediante su entrenamiento, realizar funciones que serían muy difíciles de llevar a cabo utilizando técnicas de programación convencionales, según Botpress.

Los algoritmos de redes neuronales se inspiraron en el cerebro humano, están diseñados para funcionar no solo siguiendo una lista preestablecida de reglas, sino prediciendo soluciones y sacando conclusiones basadas en repeticiones y experiencias anteriores.

TensorFlow

Es una plataforma para construir y entrenar redes neuronales, que permiten detectar y descifrar patrones y correlaciones, similares al aprendizaje y razonamiento usados por los humanos, según la descripción del mismo sitio.

¿Cómo funciona la aplicación para reconocer una imagen? En este caso se pueden encontrar capas de entrada y de salida. Las redes neuronales van aprendiendo automáticamente. Memorizan representaciones cada vez más abstractas de los datos que reciben de las imágenes. Las neuronas detectan líneas, formas y texturas, entre otras cosas, para reconocer una imagen, objeto, etc.

También, se puede utilizar para analizar videos y pistas de audio con el fin de detectar indicios de manipulación. Los usuarios solo tienen que subir ejemplos de contenidos reales y falsos para entrenar un modelo de detección que sea capaz de diferenciar entre ambos.

PyTorch

Es un marco de código abierto para aprendizaje automático, y se basa en el lenguaje de programación Python y la biblioteca de la Antorcha. Fue desarrollado en 2016 por un equipo de investigadores para inteligencia artificial por Facebook para mejorar la eficiencia del desarrollo y despliegue de prototipos de investigación. PyTorch computa con tensores, que se aceleran mediante procesadores gráficos. El framework permite realizar más de 200 operaciones matemáticas diferentes.

2) Deepware

Es una aplicación que se utiliza para el análisis y detección de videos deepfake. El uso de la herramienta es gratuito, se utiliza desde el navegador sin tener que instalar programas y no necesita registro.

¿Cómo se utiliza?

Todo lo que debes hacer es escribir o pegar la URL del video, hacer clic en el botón “SCAN” y esperar los resultados.

También puedes usarla para analizar videos que no están almacenados en Internet. Solo tienes que cargar la grabación que quieres analizar y seguir los pasos anteriores, es decir, pulsar en “SCAN” y esperar los resultados.

Al igual que otros detectores de deepfakes, los modelos de deepware buscan signos de manipulación en el rostro humano. La principal limitación de la herramienta es su incapacidad para detectar técnicas de sustitución de voz.

3) Sensity

Esta herramienta está especializada en la detección de deepfakes y de imágenes generadas por inteligencia artificial (IA). Lo que permite la aplicación es analizar señales visuales y contextuales para identificar IA.

La herramienta no es gratuita; las tarifas dependen del uso mensual y las áreas de interés individuales.

4) Hive

Con esta aplicación, tanto textos como imágenes digitales se pueden escanear para comprobar su identidad. Para chequear una imagen, los usuarios suben un archivo a la sección de detección de contenidos generados por IA para que sea procesado rápidamente.

También existe la extensión para Chrome Hive AI Detector, que permite a los usuarios detectar gratuitamente texto e imágenes generados por IA desde el navegador, según Ijnet (Red Internacional de Periodistas)

Puedes verificar tanto texto como imagen

5) Illuminarty

Por último, está Illuminarty, la cual también ofrece la posibilidad de detectar imágenes y texto generados por IA.

Con esta aplicación, los usuarios pueden identificar dónde está exactamente la manipulación en una imagen falsa y a partir de qué modelos de IA se ha generado.

https://www.fastcheck.cl/2023/09/15/imagen-el-ultimo-sabueso-gris-irlandes-gigante-1902-falso/

Cabe recordar que todas las herramientas mencionadas en este blog, ayudan a combatir los deepfakes, pero no son 100% precisas, según Ijnet.

Por último, un punto que hay que tener en cuenta a la hora de detectar un deepfake es observar la imagen, el video o el audio. Generalmente, los contenidos hechos con IA no son perfectos: Fíjate en el parpadeo de los ojos, el rostro, el cuello y siempre cuestiónate la fuente de procedencia.

Fast Check CL es un medio que depende de sus suscriptores para financiar el equipo de trabajo. Sin ti este proyecto finalizará en 2025. Considera ser suscriptor por 1.500 pesos mensuales. Puedes cancelar cuando tu quieras.

Te puede interesar:

Casa de Allende

Casa de Allende: Presidencia recibió advertencias de funcionarios de Bienes Nacionales y de Cultura sobre problemas legales de la compra

Según Ciper, funcionarios de los ministerios de Bienes Nacionales y de Cultura advirtieron a asesores de Presidencia sobre los problemas legales en la compra de la casa de Allende en mayo y junio de 2024. En abril, Bienes Nacionales había advertido a Cultura a través de correo. Es más, el Servicio Nacional de Patrimonio redactó una minuta a comienzos de 2024 apuntando a los problemas “efectos jurídicos y comunicacionales” de que la casa fuera propiedad de la ministra Maya Fernández y la senadora Isabel Allende.

Claudio Castro, alcalde de Renca: “El candidato que presentemos desde el mundo progresista tiene grandes opciones de ganar la presidencial”

El alcalde de Renca, Claudio Castro, conversa con Fast Check Cl sobre cómo han sido sus primeros meses en la reelección del municipio. Además, analiza el escenario político de cara a las elecciones presidenciales y parlamentarias de este año. Sobre la posibilidad de ser un cuadro disponible para una primera vuelta el jefe comunal es claro: “Quiero colaborar como alcalde en que nosotros, no solo tengamos una triunfo presidencial, sino que consolidemos esta coalición”. Por otra parte, explica que su vocación lo hace preferir el mundo Ejecutivo antes que llegar al Congreso.

Últimos chequeos:

“Kaiser se opuso a la demolición de narcomausoleos”: #Falso

En redes sociales se está replicando que el diputado Johannes Kaiser recurrió a la Contraloría para impedir la demolición de un mausoleo narco. Sin embargo, esto es #Falso. El diputado aclaró que el oficio que presentó no buscaba impedir la demolición de narcomausoleos, sino fiscalizar la legalidad del proceso y asegurar que las municipalidades pudieran actuar sin problemas legales.

El Foro Económico Mundial exige una reducción “urgente” del 86% de la población humana para 2030: #Falso

Se comparten publicaciones asegurando que el Foro Económico Mundial exigió una reducción urgente del 86% de la población mundial. Esto es #Falso, luego de revisar las fuentes oficiales se comprobó que la institución no realizó un llamado para que se reduzca la población. Además se constató que esta desinformación se originó desde el portal The People’s Voice, un espacio que frecuentemente comparte contenido falso cuyas publicaciones ya hemos desmentido anteriormente.

Hackeo a Klap

Empresa de pagos Klap reporta a la CMF supuesta filtración de datos en la dark web

Fast Check CL accedió a parte de los datos publicados en la dark web que supuestamente corresponden a información de Klap. Desde la empresa señalaron a nuestro medio que los datos no son sensibles, ni dan detalle de ningún tipo de transacciones. “Son datos de tickets de Multicaja. Se decidió declararlo en la CMF como una buena práctica, y porque en la dark web salía el nombre de Klap”.