Hoy en día cualquiera puede crear un video porno hiperrealista con inteligencia artificial (IA). Solo necesitas una foto de cualquier persona, un correo electrónico y entre 10 y 50 dólares. Estos son los requisitos de las 96 aplicaciones ya existentes para “conseguir desnudos profundos convincentes” de forma ilimitada durante un año. “Será pan comido añadir a alguien a una escena porno”, dice una de las apps más conocidas en su web, con 1,5 millones de visitas mensuales. “Es lo mejor de lo mejor por lo fácil y poderoso que es”, describe otro. Es precisamente esta facilidad para generar contenido sin consentimiento y difundirlo lo que preocupa tanto a los expertos de la región, donde la violencia de género digital recién se está convirtiendo en un delito en varios países de América Latina y donde el compromiso por prevenir estas conductas es aún más volátil.
El uso perverso de las redes sociales y la realidad virtual abrió el debate sobre si catalogar o no estos comportamientos que afectan principalmente a las mujeres; ya que, en países como México, responden al 89% de las víctimas. La inteligencia artificial generativa ha reabierto la discusión: ¿convertir en delito el uso abusivo de imágenes íntimas es la solución? Para María Camila Correa Flórez, profesora de Derecho Penal de la Facultad de Jurisprudencia de la Universidad del Rosario en Bogotá, es solo una pequeña parte: “Se necesitan políticas públicas integrales que prevengan, no solo sancionen. El derecho penal puede intervenir hasta cierto punto: para que la gente entienda que es un delito. Aún así, es un buen primer paso”.
Colombia, sin embargo, tiene una de las leyes menos garantistas del continente en esta materia. Junto a Nicaragua y Venezuela, la violencia de género en línea no está incluida en ningún marco legal. La producción o distribución de imágenes sexuales sin consentimiento no es un delito, aunque algunas figuras delictivas -la extorsión o los delitos informáticos o de odio- pueden utilizarse para castigar estas conductas en casos excepcionales.
En Argentina y Chile, en cambio, existe un marco legal más proteccionista para niñas, niños y adolescentes, pero existe un gran vacío en la defensa de los derechos de las mujeres adultas. Brasil tipifica como delito la distribución no consentida de imágenes íntimas desde 2018 y Perú también incorporó los delitos de acoso sexual en línea y chantaje en su Código Penal. México ha sido uno de los países más preocupados por la violencia contra las mujeres en línea y cuenta con un gran paquete de reformas federales y estatales para sancionar estas prácticas, conocida como la Ley Olimpia, en honor a Olimpia Coral Melo, víctima en 2014 de la difusión no autorizada lanzamiento de un video con contenido sexual.
Sin embargo, a pesar de una legislación pionera en México, este delito sigue siendo esquivo. “Puedes tener leyes y elementos, pero la materialización de la sentencia es lo más difícil”, dice por videollamada Elvia Karina Ramírez Juárez, abogada litigante mexicana. “Suena muy bien en papel, pero conseguir que estos videos se descarguen de la red es muy poco probable. La brecha entre el papel y la realidad es muy larga”. Julio César Bonilla Gutiérrez, Comisionado Ciudadano del Instituto de Transparencia de la Ciudad de México reconoce que “todavía queda mucho camino por recorrer”: “Si bien la legislación representa un avance, para combatir mejor el ciberacoso, las reformas tienen que mejorar mucho. El peligro de no hacer nada es que la violencia digital a menudo se vuelve física”.
Mujeres que no denuncian
Con o sin tipificación, hasta la fecha son muy pocos los casos de violencia de género en línea que han sido resueltos por los tribunales de la región. La falta de jurisprudencia es consecuencia de la burocracia en los mecanismos de denuncia, el miedo a la revictimización y los sentimientos de vergüenza y desconfianza en las autoridades judiciales y su falta de conocimientos técnicos. “Los obstáculos para enjuiciar la violencia contra la mujer dentro y fuera de la red son los mismos: las mujeres siguen sin denunciar porque no les creen o siguen pensando que es un tema de privacidad de la pareja”, explica Luz Patricia Mejía, secretaria técnica de la Mecanismo de Seguimiento de la Convención de Belém do Pará. “Lo único diferente es que la tecnología avanza demasiado rápido”.
Políticas públicas, sanciones penales y conversaciones con las grandes plataformas. Estas son algunas de las premisas que propone Mejía para regular la inteligencia artificial en materia de género. “Tenemos que estar preparados para debates que nunca se han dado, como que la libertad de expresión, que es el pilar de la democracia, no puede seguir siendo intocable. Estamos hacia la transición de un nuevo mundo que nos obliga a repensar estos modelos”. Y agrega: “Los estados tienen una capacidad más limitada que Twitter y Meta para regular realmente. Tendría que comprometerse globalmente con las aplicaciones. No hay otra manera”.
Cecilia Celeste Danesi, investigadora de la UPSA y autora de The Algorithm Empire sugiere que la regulación está más cerca de la información que de la prohibición: “Las propuestas que están impulsando la Unión Europea y Estados Unidos pasan por poner una marca de agua que informe que el contenido generado es falso; también está vinculado al derecho a estar informado de los consumidores”. Ella y agrega: “La IA podría incluso ser parte de la solución si se usa para encontrar este contenido”.
Para Katya Vera Morales, funcionaria experta en género del Programa de Ciberseguridad de la Organización de los Estados Americanos (OEA), es necesario poner a las víctimas en el centro de las políticas: “Muchas de ellas no quieren denunciar y pasan por todo el proceso. de revictimización que esto suele conllevar, a veces solo quieren que se dejen de distribuir sus fotos, que se elimine el contenido, que cese la sextorsión… Tenemos que preguntarnos, ¿qué significa el acceso a la justicia para las víctimas? las respuestas que obtenemos, diseñan un curso de acción”.
Denuncias en redes
Aunque las denuncias judiciales aún no recogen esta amenaza, decenas de mujeres han criticado en las redes sociales haber sido víctimas de la IA generativa. “La Ley [Olimpia] debe hacerse para indemnizar y cuidar a las víctimas. Y no lo está haciendo. Tienen que ir tras los servidores. Es cierto que detener el flujo no detiene el daño, pero lo limita”, explica por teléfono Eri Gutiérrez, creadora de contenido y especialista en tecnología. “Los datos generados en las aplicaciones se quedan en los servidores y estos cada vez van perfeccionando la técnica para que el ‘usuario’ tenga un repertorio más amplio. Ves cosas horribles en la red profunda…”.
“Es increíblemente fácil crear las chicas más atractivas con solo unas pocas palabras… y harán lo que les digas. ¡Vuélvete loco!”. Un foro que compara “porno falso” o apps porno ficticias, otorga una puntuación muy alta a una aplicación que crea avatares sexys de mujeres, con fotos proporcionadas por el usuario. El único ‘pero’ es que para que el las imágenes que produce no son borrosas “tienes que suscribirte”. Esta cuesta menos de 10 dólares. Ramírez, un litigante mexicano, cree que la clave de estos casos está en demostrar responsabilidad: “Y solo los analistas están teniendo este gran debate, no políticos. En México nunca ha habido una restricción de aplicaciones o redes sociales. Y, sinceramente, no lo veo cerca.
Nuestras recomendaciones de la semana:
Y una sugerencia para terminar:
👩🏻💼Una mujer a seguir: Raquel Bernal
Por Lorena Arroyo
Raquel Bernal Es la primera rectora de la Universidad de los Andes, una de las más importantes de Colombia. Como ella misma dijo en un discurso reciente durante la ceremonia de graduación de 2023, está tras 75 años de historia y 23 hombres que han ocupado ese cargo. Según su propio relato, si lo consiguió fue porque sus padres hicieron un “buen trabajo” empoderándola desde pequeña. Y así creció creyendo que todo era posible: se graduó en Economía en la Universidad de los Andes y se doctoró en la Universidad de Nueva York. Pero reconoció en ese discurso que no ha sido fácil llegar a ese puesto y tampoco lo ha sido ser líder en un ambiente que sigue siendo muy masculino.
te recomiendo ver el discurso completo en youtube. En él, muestra cómo es la desigualdad de género en América Latina y anima a sus alumnos a buscar la igualdad para todos. Pero, sobre todo, hace un poderoso llamado a una forma diferente de liderazgo frente a los desafíos que ha vivido en su cargo. Aquí dejó ese fragmento del discurso:
“A veces, lo confieso, siento la necesidad de reprimirme para encajar en este papel. Incluso otras mujeres a veces me dicen que necesito ser más vehemente y que no debo aceptar errores porque me hacen parecer débil. Me ha tomado un tiempo entender que si lo hago yo, nadie gana. Creo que todos se benefician de estilos de liderazgo diferentes e incluso complementarios. Curiosamente, no creo que todos los hombres prefieran un estilo organizacional más fuerte. Donde no se aceptan los errores y la conversación excesivamente asertiva es siempre preferible a la escucha activa. Mis colegas me han dicho que a veces también es agotador para ellos. La jueza asociada Sonia Sotomayor de la Corte Suprema de los Estados Unidos dijo que “no debemos confundir la amabilidad con la falta de carácter”. Eso significa que cuando las mujeres ejercemos el liderazgo desde lo que somos y sentimos, cambiamos el ambiente de trabajo en formas que también son beneficiosas para los hombres”.
Suscríbete aquí hacia Boletin informativo de EL PAÍS México y recibe toda la información clave de la actualidad de este país
