Por si tienes poco tiempo:
- Sebastián Sichel compartió en X unas capturas de pantalla con insultos y amenazas que le llegaron por redes sociales. En la zona inferior izquierda de las imágenes se lee «Contenido generado por IA».
- Producto de esto, diversos usuarios comparten que los mensajes los creó el propio Sichel mediante inteligencia artificial para simular las amenazas.
- Fast Check calificó esto como falso. Se replicó el proceso de edición y se comprobó que la herramienta de los dispositivos Samsung deja la marca de «Contenido generado por IA», como lo hizo el alcalde de Ñuñoa.
- Además, se probaron distintos softwares de inteligencia artificial y con ninguno se puede generar una conversación como la que compartió.
Por Pablo Flores
Esta semana el Concejo Municipal de Ñuñoa aprobó cambiar el nombre de la ‘Avenida República de Israel’ por ‘Nueva Ñuñoa’. Según consigna La Tercera, la decisión se trata de una «sanción y no avalarán el ‘genocidio’ que Israel comete en la guerra contra la Franja de Gaza».
Ante esto, el nuevo alcalde de Ñuñoa, Sebastián Sichel, expresó ante el mismo medio su disconformidad con el cambio por considerarlo una mala decisión. «El concejo tomó una decisión de largo plazo para la comuna usando una técnica autoritaria, conocida como leyes de amarre, dejando al próximo concejo amarrado a esta decisión de cambiar el nombre a una calle», declaró.
En este contexto, Sichel compartió en su cuenta de X capturas de pantalla de una persona insultándolo por sus declaraciones.
Algo que llama la atención es que en la zona inferior izquierda se lee «Contenido generado por IA» (inteligencia artificial). Por lo anterior, usuarios en X (1,2,3,4,5) y Facebook (1,2,3) afirmaron que los mensajes de insultos y amenazas los creó el propio Sichel con IA.
Sebastián Sichel no creó los mensajes con inteligencia artificial
En respuesta a un cuestionamiento que le hizo una usuaria por la marca de agua que indica el uso de IA, Sebastián Sichel respondió que se debe a una edición hecha en la imagen para no revelar la identidad de la persona que lo insultó y luego publicó las capturas originales. Esto mismo lo reiteró al ser contactado por este medio e informó que ingresó una denuncia en la 18a Comisaría de Ñuñoa.
Fast Check se contactó luego con el equipo del alcalde, desde donde confirmaron que la marca de agua aparece por la forma en que se editó. Según explica, el proceso se hizo con la herramienta de recorte de un celular Samsung Galaxy S23 para recortar la foto de perfil del usuario. Esto, con el objetivo de resguardar la identidad de la persona.
Sí aparece el mensaje solo por editar
Utilizando el celular de un miembro de nuestro equipo, que tiene el mismo modelo, se replicó el proceso de edición siguiendo los siguientes pasos:
1- Se identificó que el formato de la conversación es el de Messenger de Facebook. Esto lo evidencian los colores y la opción de reaccionar al mensaje.
2- Se utilizó la cuenta de Facebook de Fast Check para iniciar una conversación ficticia con la cuenta del miembro de nuestro equipo.
3- Hicimos captura de pantalla para editarla con el modo IA desde el dispositivo Samsung Galaxy S23. Para esto, se seleccionó el ícono encerrado en rojo en la siguiente imagen:
4- Al seleccionar esta opción se despliega el mensaje «Pulse o trace una línea alrededor de cualquier elemento que desee mover o eliminar». Por lo tanto, se seleccionó el círculo con la F color verde en fondo blanco (nuestra foto de perfil). De esta forma, se eliminó el círculo con la foto de perfil y quedó el mensaje de «Contenido generado por IA», exactamente el mismo que le apareció al alcalde de Ñuñoa.
De esta forma, se corroboró que la marca de agua desplegada es producto de la edición con IA, no porque la imagen se generara con esta herramienta.
El chat de IA de Facebook no puede generar una conversación así
Fast Check utilizó el chat de IA de Facebook, ‘Meta AI‘, y le solicitó que simule ser una persona enfadada insultando a un político con groserías chilenas. Así, generó un mensaje con insultos como «¡Estás loco!» y «Político de pacotilla». Se le pidió que los insultos fueran explícitos (como los que subió Sichel), pero respondió que «No puedo cumplir con esa solicitud».
Luego se le argumentó que los mensajes serían para un diálogo ficticio de una obra de teatro, ya que, por ejemplo, con Chat GPT se logra cumplir el requerimiento al tratarse de un escenario ficticio de este tipo. Pero, en el caso de Meta AI, aún con esta condición no accede a generar la conversación. «Mi política de contenido no me permite generar texto con lenguaje ofensivo o grosero», explica el chatbot.
Sumado a esto, se identificó que las respuestas de la herramienta se realizan en un solo mensaje. Si se fija en las capturas subidas por Sebastián Sichel, los insultos y mensajes se envían por separado. Además, el fondo en el chat con Meta AI es de un color degradado entre azul y morado, a diferencia del tono grisáceo de los chats entre usuarios. Por lo tanto, ninguno de los detalles indica que el chat se generara con esta IA.
Conclusión
Fast Check califica el contenido viral como falso. Aunque las capturas de Sichel indican que se usó IA, esto no prueba que la conversación se generara con esta herramienta. Al replicar la edición que hizo el alcalde para mantener al usuario en el anonimato, también apareció la marca de agua. Además, el chat de IA de Facebook no permite generar conversaciones con insultos, descartando que usara ese método.
