Influencers, músicos, actores y políticos han estado expuestos a la suplantación de su rostro o voz —a través de inteligencia artificial— marcando un hito y nuevos problemas para el reguardo de la privacidad y los datos personales. En Chile, estos casos son cada vez más frecuentes y, por ahora, no hay una normativa específica que regule esta práctica. Fast Check CL te explica cómo lo está abordando el mundo, sus alcances en nuestro país y los proyectos en el Congreso que buscan ponerle un freno.
Por Fast Check CL
Ya no son casos aislados que puedan merecer exclusivas en matinales. Son hechos reiterados y cada vez más frecuentes en Chile y el mundo. Quizás, el que acaparó toda la atención en el último tiempo —por su sensibilidad—, fue la situación de los alumnos del Colegio Saint George que crearon imágenes desnudas de sus compañeras con inteligencia artificial (IA).
La denuncia provocó: que los apoderados demandaran al establecimiento y, al mismo tiempo, develara algunas luces de una nueva forma de ciber acoso. La suplantación de la imagen —sea el rostro o la voz— y la generación de deepfakes, están a la orden del día: «Usaron mi cara con inteligencia artificial», es la frase que hoy asedia la privacidad de las personas.
Entre otros afectados por esta práctica hay: influencers, actores, políticos y artistas musicales; desde Morgan Freeman, pasando por el Presidente Gabriel Boric, hasta María Fernanda «Mafe» Bertero, quien resultó víctima de un deepfake, donde su cara es superpuesta en imágenes y videos pornográficos que circulan en distintas plataformas de mensajería.
¿Hay penas asociadas a esta práctica? ¿Cuál es la discusión en Chile? ¿Qué puedes hacer si utilizan tu imagen para este tipo de contenido? Fast Check CL aborda todas interrogantes que hoy se discuten en la opinión pública.
¿Qué es un deepfake?
Según el portal especializado Seon, un deepfake es un tipo de contenido generado digitalmente, como video, imagen o audio, que imita la apariencia y el sonido de una persona. Estos «medios sintéticos» son tan convincentes en su simulación de lo real que pueden engañar tanto a personas como a algoritmos.
¿Cómo funciona un deepfake?
En la actualidad, gracias al avance en inteligencia artificial y aprendizaje automático, han surgido nuevos paquetes de software que incluyen avatares. Un avatar, de acuerdo a la Real Academia Española (RAE), es la representación gráfica de la identidad virtual.
Asimismo —recoge la empresa especializada en este ámbito, Sensity—, estos avatares son representaciones visuales de rostros humanos generados por IA, capaces de hablar con una voz humana y de parecerse a personas reales.
Los avatares de IA, conocidos también como humanos digitales, combinan tecnología avanzada de texto a voz con gráficos fotorrealistas y algoritmos de aprendizaje especializados. Estos sistemas utilizan grandes cantidades de datos de audio y video para crear representaciones realistas de humanos, que pueden interactuar en tiempo real con los usuarios.
Para el año 2020, un estudio elaborado por Deeptrace, actual Sensity, arrojó que los videos deepfake se duplicaban cada 6 meses, aproximadamente.
¿Qué se está haciendo en el mundo?
La aproximación más cercana a la regulación de deepfakes y la suplantación de rostro o voces, es la discusión que se desarrolla en la Comisión Europea, en base al aumento de imágenes de abusos sexuales infantiles, generadas por inteligencia artificial. En Bruselas actualizaron los lineamientos vigentes desde 2011.
De esta manera, el pasado 13 de marzo, el Parlamento Europeo aprobó por amplia mayoría la Ley de Inteligencia Artificial, la cual viene a establecer cierta protección a derechos de privacidad, al mismo tiempo que fomenta la innovación.
¿Qué dice la ley?
Conforme a los pilares más relevantes que establece la ley, esta guarda ciertas obligaciones para los sistemas de Inteligencia Artificial, según su nivel de riesgo potencial y su impacto en la seguridad. En ese sentido, la legislación establece cuatro riesgos:
- Mínimo (por ej. Videojuegos, filtro de spam)
- Limitado (por ej. Chatbox, Deep Fake)
- Alto (uso de IA en educación, transporte, salud, seguridad y aplicación de la ley)
- Inaceptable (por ej. puntuación social)
De esta manera, en el numeral 134 de la ley, quedó estipulado «que los usuarios que utilicen estos sistemas para crear o manipular imágenes, audio o video que parezcan auténticos (deepfakes) deben etiquetar claramente el contenido como artificial».
¿Hay penalización?
En Reino Unido, de acuerdo a la BBC, desde octubre de 2023 que se considera delito compartir pornografía deepfake. No obstante, por ahora, generar este tipo de contenido no es ilegal en el citado país. Por esta razón es que en abril de 2024, un proyecto de ley ingresado busca penalizar su generación, incluso si no es compartido.
Otro caso es el de Australia, donde el Fiscal General, Mark Dreyfus, presentó al Parlamento un proyecto de ley para enmendar el Código Penal. Esta iniciativa propone penalizar la distribución de contenido deepfake —sexualmente explícito, sin consentimiento— con una pena máxima de seis años de cárcel. Por lo demás, contempla delitos agravados para los reincidentes y los creadores de dicho contenido.
El panorama en Chile
En el caso de nuestro país, cuando se utiliza la suplantación con Inteligencia Artificial (IA) o deepfakes en perjuicio de una persona —para fines publicitarios o de contenido sexual sin su consentimiento— es importante considerar la legislación vigente en la materia y las disposiciones que ésta nos puede entregar.
Para conocerlo a cabalidad, Fast Check CL conversó con Danielle Zaror —abogada e investigadora en el Centro de Derecho Informático (CEDI) de la Facultad de Derecho de la Universidad de Chile— y Lucía Camacho, abogada y coordinadora de políticas públicas de Derechos Digitales.
Una legislación insuficiente
«En Chile no hay una regulación específica que se aplique a la creación de imágenes que tengan por resultado la suplantación de una persona en un contexto determinado», explica Zaror.
A lo anterior, la investigadora del CEDI agrega: «En principio, hay que saber que no siempre esas creaciones serán reprochables al punto de ser reprimidas como un delito y, en ese sentido, cualquier regulación debería tener en vista que hay casos menos graves y otros más graves. En los casos menos graves, sería posible aplicar las reglas que existen en Chile sobre la protección de la propia imagen que ancla su resguardo en el derecho».
«Hay casos donde el agravio es tan grande, ya sea porque hay menores de edad involucrados o porque las imágenes se han viralizado a tantas personas y lugares que el daño a la integridad psíquica sólo puede ser reparable sancionando como delito la actividad relacionada con la suplantación», afirma Zaror.
“En Chile no hay jurisprudencia sobre el asunto, hace poco tiempo la cantante Denise Rosentahl fue víctima de esta suplantación y presentó una denuncia, hace poco supimos de unos alumnos que hicieron lo mismo con imágenes de una compañeras y las acciones que las familias presentaron aún están en curso”, puntualiza Danielle Zaror.
En tanto, Lucía Camacho complementa que «cuando vemos que la persona está viendo su imagen suplantada, donde ve su rostro en videos que no son suyos, su voz en audios que no ha grabado o que no reconoce como suyos, también se configura el delito de suplantación de la propia identidad».
«Pero, ¿qué pasa? La regulación chilena tiene este delito de suplantación de identidad, pero no es uno que al día de hoy permita responder a los retos que trae consigo el deepfake, las tecnologías de inteligencia artificial, que permiten generar de manera verosímil atributos de personalidad de alguien más, como puede ser su voz o imagen», sostiene Camacho.
«Este no es solo un problema de la regulación en Chile. En la región, por ahora, no contamos con regulaciones que nos permitan hacer frente a los retos que traen los deepfakes. Estamos hablando de gente que vio su rostro, de una mujer que está participando en política y vio su rostro en contenido sexual. Este tipo de problemas que, según el contexto y a quien busquen suplantar, tienen una connotación más o menos gravosa. Porque en lo que describo, la mujer aludida también puede ser víctima de violencia de género. Hay varios fenómenos delictivos que se van superponiendo entre sí, y eso lo complejiza», concluye Camacho.
¿Qué se discute hoy en el Congreso?
Este año, en el mes de mayo, el Gobierno presentó al Congreso Nacional un proyecto de ley para regular la Inteligencia Artificial. Concretamente, la iniciativa —empujada por la ministra de Ciencia, Aisén Etcheverry— propone clasificar los sistemas de IA en cuatro categorías según el nivel de riesgo que representen para las personas, la sociedad y los derechos fundamentales.
Inspirados en el modelo europeo, la propuesta define categorías como «inaceptable» para herramientas que puedan vulnerar la dignidad humana, como deepfakes sexuales involucrando a menores; «alto riesgo» para aplicaciones que puedan afectar la salud, seguridad o derechos fundamentales; «riesgo limitado», donde se encuentran aplicaciones de Inteligencia Artificial que no representan riesgos significativos de manipulación; y «sin riesgo evidente», que es aquella que recomienda películas o canciones basándose en las preferencias del usuario.
¿Qué dice sobre los deepfakes?
En el proyecto de ley se considera como «riesgo inaceptable» prácticas con alto potencial de manipulación de personas, así como el uso de sistemas de categorización biométrica, salvo para fines terapéuticos autorizados con consentimiento informado y autorización sanitaria correspondiente.
Adicionalmente, también se prohíben sistemas de calificación social genérica y sistemas de IA que empleen técnicas de facial scraping para la extracción no selectiva de imágenes faciales, donde quedaría incluido la creación de deepfakes de contenido sexual que vulnere a niños, niñas y adolescentes.
La iniciativa del Congreso y la suplantación de la voz
El diputado Alejandro Bernales (PL), el 17 julio de 2023, presentó un proyecto de ley que moderniza el delito de usurpación de identidad en el contexto de uso de inteligencia artificial, innovando en lo que refiere a la capacidad de la IA para imitar o replicar la voz, pero también incluyendo la suplantación visual.
- Lee el proyecto aquí.
Por lo anterior, es que la iniciativa sustituye el artículo 214 del Código Penal:
- Artículo actual: El que usurpare el nombre de otro será castigado con presidio menor en su grado mínimo, sin perjuicio de la pena que pudiere corresponderle a consecuencia del daño que en su fama o intereses ocasionare a la persona cuyo nombre ha usurpado.
- Artículo del proyecto: El que usurpare la identidad física o virtual de otro, mediante la simulación nominativa, visual, auditiva o el uso de datos personales, será castigado con presidio menor en su grado mínimo, sin perjuicio de la pena que pudiere corresponderle a consecuencia del daño que en su fama o intereses ocasionare a la persona cuya identidad ha usurpado.
De acuerdo al estado del boletín, el proyecto se encuentra en primer trámite constitucional, en la Comisión de Constitución, siendo el 25 de julio del año 2023, el último movimiento en su tramitación.
