Las herramientas de inteligencia artificial están facilitado uno de los actos más comunes de violencia digital contra las mujeres: la publicación y creación sin consentimiento de nudes falsas. En este escenario, ¿qué podemos hacer para protegernos?, ¿qué papel tienen las empresas generadoras de herramientas con IA para prevenir que esto ocurra?, ¿cómo accionar?
Responder estas preguntas no es sencillo, pues las tecnologías de inteligencia artificial generativa son relativamente recientes y, por lo tanto, carecen de regulación. Actualmente son pocos los países que están elaborando leyes en este sentido, por ejemplo, en abril de 2021 la Unión Europea presentó una propuesta de Reglamento de Inteligencia Artificial con el objetivo de que esos sistemas garanticen los derechos humanos y sean seguros. Brasil, en Latinoamérica, es otro de los países que ya están discutiendo leyes similares.
Casos recientes, como el de la cantante Rosalía, han puesto sobre la mesa la popularización de la creación de fake porn (porno falso) de mujeres sin su consentimiento. De acuerdo con el reporte The State of Deepfakes: landscape, threats and impact (2019), de la compañía de ciberseguridad Deeptrace Labs, son exclusivamente las mujeres el objetivo de este tipo de prácticas en todo el mundo.
De hecho, el mismo informe encontró que las personas más afectadas por el fake porn son las actrices británicas y las cantantes surcoreanas. Sus videos falsos acumulan más de 10 millones de vistas en sitios pornográficos que albergan videos deepfake, es decir, que son una simulación.
“Cada vez estamos viendo al alza las agresiones que se realizan a través de la tecnología donde el cuerpo y la integridad, sobre todo de las mujeres, es violentado”, dijo en entrevista Ixchel García, investigadora de tecnología e internet en Luchadoras, una colectiva feminista enfocada en derechos y seguridad digital.
Fake porn: una nueva forma de abuso usando inteligencia artificial
Aunque en México no hay datos específicos sobre el tema de IA, sí los hay de violencia digital. En nuestro país, tres de cada 10 mujeres de entre 12 a 29 años han sido víctimas de este tipo de violencia, principalmente a través de la publicación de información personal, fotos o videos, de acuerdo con la encuesta Mociba 2021 del INEGI.
Pero entonces, ¿podemos hacer algo para prevenir?
¿Qué podemos hacer para protegernos?
Lo primero, de acuerdo con Ixchel, es familiarizarnos con nuestro “cuidado digital”, es decir, aquellas medidas que nos permiten proteger toda la información que tenemos en línea, por ejemplo:
- No aceptar todas las cookies cuando navegamos.
- Usar contraseñas seguras (no usar la misma contraseña para todo).
- Aunque dé flojera, leer los términos y condiciones de las redes sociales o aplicaciones que usamos
- Decidir si queremos tener un perfil público o privado en redes (actualizar la seguridad).
Si quieres leer más sobre el tema, Luchadoras tiene varias herramientas de cuidado digital.
En un mundo o en un momento en el cual las redes sociales y la hiperconectividad son tan presentes, decir que la respuesta es ‘no publicar’ pues no es. Las redes sociales y la tecnología tienen un potencial enorme para acercarnos, obtener información, conectar con otres.
Ixchel García
En cuanto a prevención, solo tú puedes decidir qué medidas necesitas. Sin embargo, si estás enfrentando una amenaza de publicación de fotos íntimas Meta tiene una herramienta de prevención (que por cierto usa inteligencia artificial) llamada Nunca sin mi consentimiento, la cual permite registrar tu rostro y así borrar las imágenes si alguien las intenta publicar en la plataforma.
Google también tiene un recurso de soporte para denunciar contenidos publicado sin consentimiento y que se restrinja su publicación en los productos de Google, como Blogger, Drive, Grupos, Fotos, Sites y Classroom.
Si bien es casi imposible que prácticas como el fake porn sigan ocurriendo si las propias herramientas y espacios que lo albergan no lo impiden, Ixchel dice que “el primer paso para poder enfrentar la violencia digital es nombrarla y, desde ahí, también exigir tanto a las plataformas y a las autoridades una respuesta (…) porque al final lo virtual es real y lo que nos está pasando en el espacio digital también se siente en nuestro cuerpo”.
¿Y si quiero denunciar?
Para Ixchel la respuesta depende de varios factores, “no hay receta única”. En primer lugar está la decisión de la persona de querer comenzar el proceso de denuncia. Si este es el caso es importante revisar cada legislación local para corroborar que se pueda atender como un delito.
Luchadoras tiene disponible un buscador que recaba cómo se legisla en cada estado del país la difusión de imágenes íntimas sin consentimiento. Por ejemplo, en Ciudad de México “comete el delito contra la intimidad sexual quien videograbe, audiograbe, fotografíe, filme o elabore, imágenes, audios o videos reales o simulados de contenido sexual íntimo, de una persona sin su consentimiento o mediante engaño”.
Ixchel explica que si bien la ley no contempla específicamente el tema de inteligencia artificial, al considerar responsable a quien “elabore” o “simule” este tipo de contenido deja abierta una puerta para incorporar la elaboración de nudes falsas o fake porn.
En este caso es importante recabar toda la evidencia posible tomando capturas de pantalla, por ejemplo. También reportar directamente con cada plataforma. Y si así lo deseas, con las autidades.
Sin embargo, “sabemos que muchas veces las autoridades y las plataformas no nos dan la respuesta suficiente, entonces es importante saber que no estamos solas soles. Es muy cierto que las redes nos salvan y nuestras amistades nos cuidan”, agrega Ixchel.
Si tú o alguien cercano lo necesita, estas son algunas organizaciones que brindan acompañamiento e información:
Y, sobre todo, recuerda que tú nunca serás culpable si alguien publica fotos tuyas sin tu consentimiento.