La violencia digital nada en un vacío legal

En Córdoba, un fiscal pidió la elevación a juicio de una causa que tiene como único imputado a un estudiante secundario del Instituto Superior de Comercio Manuel Belgrano, dependiente de la Universidad Nacional de Córdoba: está acusado de haber usado Inteligencia Artificial para superponer los rostros de compañeras en videos pornográficos.

Las imágenes fueron publicadas en un sitio web para adultos, acompañadas por descripciones que cosificaban a las adolescentes. Es otra cara de la violencia de género en entornos digitales. Desnudar virtualmente a una mujer hoy es muy sencillo: hay aplicaciones desarrolladas exclusivamente para eso --conocido como deep swapping-- y son de fácil acceso. Pero el daño que causan no es virtual: es real. Los casos se multiplican en las escuelas, contó a Página 12 Belén Barral, profesora de Filosofía y especialista y formadora en ESI. Hace tres semanas, justamente abordó el tema en un secundario de La Matanza, provincia de Buenos Aires, donde un par de alumnos habían manipulado fotos de tres compañeras con IA para desnudarlas y luego difundirlas y viralizarlas. También el Ministerio Público Tutelar de la Ciudad Autónoma de Buenos Aires (CABA) está recibiendo cada vez más casos. ¿Qué respuestas se están poniendo en práctica para prevenir, sancionar y erradicar este tipo de conductas?

“Las chicas estaban totalmente angustiadas, avergonzadas, muy ansiosas, con miedo a volver a la escuela. Las fotos eran motivo de chiste. Algunos compañeros les querían tranquilizar, les decían que no se preocuparan 'porque no sos vos igual, porque está hecho por inteligencia artificial'. Les dije que ese no era el punto. Y hablamos de la convivencia en el curso, del respeto entre pares y de qué es el consentimiento”, comentó Barral a este diario del caso que surgió recientemente en una de las escuelas en las que trabaja.

De a poco, indicó, las escuelas van tratando de tener ciertos espacios para el debate y para poder educar al respecto. “Pero obviamente se va más lento en el proceso de poder pensar qué significa una ciudadanía digital que la rapidez con la que los chiques saben usar las apps, las fotos, las capturas de pantallas, y van naturalizado esos usos que desplazan las formas de las violencias cotidianas de la realidad presencial a la virtual”, planteó Barral.

El fenómeno tiene varias aristas. El problema se complejiza ante la ausencia de protocolos de actuación en los espacios educativos, la falta de reglamentación de la Ley Olimpia y el vacío legal --no existe una figura penal para castigar este tipo de conductas, aunque hay varios proyectos en el Congreso--. Este combo favorece la impunidad y la idea de que es “algo divertido”, que no lastima. Pero además, se suma la cuestión ética en el desarrollo de Apps, pensadas exclusivamente para eso: “desnudar” cuerpos/fotos de personas reales. ¿No hay ningún límite? Y un aspecto más: todavía la respuesta de las big tech es deficiente para frenar la viralización de contenidos íntimos --reales o fake-- que se difunden sin consentimiento.

Entre las víctimas de esta modalidad estuvieron estrellas hiper famosas como Taylor Swift, y la catalana Rosalía. Las víctimas son mayoritariamente mujeres. Hubo casos similares en escuelas de la provincia de Buenos Aires, Córdoba, Chaco, Río Negro y San Juan. En algunos episodios, los alumnos manipulaban las fotos de sus compañeras para luego venderlas.

El de Córdoba fue uno de los primeros que se conocieron en el país. Ocurrió en 2024. El fiscal Pablo Cuenca pidió hace dos semanas la elevación a juicio por dos hechos --es decir, dos compañeras--, aunque en el episodio estuvieron involucradas fotos trucadas de más de media docena de adolescentes –serían 16–, cuyas imágenes “desnudadas” terminaron en una página de contenidos para adultos. Ante la ausencia de una figura específica se encuadró la acusación en el tipo penal de lesiones graves agravadas por violencia de género. ¿Es una acusación desmesurada? Podría ser. También pensar que el estudiante, de 18 años, actuó con intención de lesionar a sus compañeras. Pero sin un tipo penal específico, la Justicia busca atajos. Sucede con esta y otras formas de violencia de género en entornos digitales. Las víctimas --las dos alumnas--, según trascendió, tuvieron consecuencias en su salud mental, que se expresó en una baja en el rendimiento escolar y deportivo, cambios en sus rutinas, vergüenza, desgano y temor. Los contenidos se bajaron, pero seguirían circulando en Internet asociados a sus nombres reales. El daño continúa. Se sabe que es muy sencillo subirlos pero no eliminarlos por completo del ciberespacio. Las plataformas de redes sociales, como X, han intentado hacer frente a este fenómeno mediante políticas de “tolerancia cero” hacia el contenido falso. Sin embargo, la realidad demuestra que esos esfuerzos no siempre son efectivos. A pesar de la eliminación de cuentas que comparten material manipulado, el contenido suele resurgir en otros perfiles o plataformas, lo que complica enormemente el control y su eliminación definitiva.

Mientras este tipo de casos se replican en escuelas, desde el Gobierno Nacional atacan la ESi y el jefe de Gobierno porteño, Jorge Macri, cierra el Postítulo de ESI, único curso de especialización y gratuito dependiente de la Ciudad, con más de 18 años de antigüedad y una demanda de docentes que dejaba cada año a la mitad de inscriptos en lista de espera.

Desde Movimiento xmasesi, Natalia Di Marco, plantea la necesidad de recuperar, más que nunca, para el abordaje de la violencia de género en entornos digitales los cinco ejes de la ESI: el cuidado de la salud, y en ella, la salud mental, cómo atraviesa todas las cuestiones que tienen que ver con las plataformas y la vida en entornos digitales, el respeto por la diversidad, el ejercicio de derechos, la afectividad, y la perspectiva de género. “De nuevo, es ese marco el que nos permite proponer una reflexión profunda con los pibes y las pibas”, dijo la docente que trabaja en un colegio secundario de Córdoba.

Para Barral hay dos ejes clave para trabajar en las aulas: por un lado, en los acuerdos institucionales debe estar incluida la sanción pedagógica --alguna actividad o algún proyecto que vaya haciendo que la grupalidad entienda el cuidado propio, por qué es discriminatorio, por qué es necesario fomentar el buen trato-- y por otro, se debe poner el énfasis no tanto en la prohibición sino en el tema del consentimiento. “Eso es fundamental porque es con lo que más se enganchan los jóvenes y las jóvenes adolescentes cuando hablamos de estos temas”, señaló la especialista en ESI. “Desde las instituciones hay que empezar a darles más importancia a estas cosas que sí son graves, independientemente del marco legal o del punitivismo o de otras cuestiones que son parte de otra discusión”, señaló. Una herramienta importante para enmarcar el tema, consideró, es la ley 26.892 de Promoción de la convivencia y abordajes de la conflictividad en las instituciones escolares, aprobada en 2013.

En diciembre último, el gobierno porteño aprobó un Protocolo Escolar ante Situaciones de Violencia Digital. Las ONG Género y TIC (GENTIC), El Faro y el movimiento Ley Olimpia, junto con la diputada Mónica Macha (UxP) y la senadora de la provincia de Buenos Aires, Laura Clark (UxP) están elaborando una guía destinada a las escuelas, para prevenir y que sepan cómo actuar ante estos casos. Lo están trabajando con Laura Sanchez, la mamá de Ema, una adolescente de la localidad bonaerense de Longchamps que se suicidó en agosto del año pasado luego de un compañero viralizara un video íntimo. Se va a llamar Guía Ema. El colegio al que iba la adolescente minimizó o no supo qué hacer frente al hecho y apenas le comunicó a la madre el episodio. Al día siguiente, Ema se suicidó.

“Este tipo de situaciones son justamente las que demuestran que siempre hay que seguir alertas, pensando, problematizando, y sobre todo, con una escucha atenta sobre lo que están viviendo y diciendo las, los y los estudiantes”, agregó Di Marco. Y consideró fundamental, además, la incorporación transversal también de la dimensión ética de las IA como otra arista a problematizar en ESI y en todos los espacios educativos.

La Ley Olimpia prevé que en las clases de ESI se den contenidos para identificar las violencias digitales y contenidos de buenas prácticas en el uso de las TICs. También prevé que esos contenidos los tiene que crear el Consejo Federal de Educación. “El problema es que la ley nunca se reglamentó, el Consejo Federal de Educación nunca creó esos contenidos. Entonces, de manera autónoma, muchas escuelas están empezando a hablar de estos temas”, advirtió a Página 12 la abogada Florencia Zerda, fundadora de GENTIC, desde donde promueven el activismo contra la ciberviolencia de género y acaban de ser disintiguidas con el premio Simone Veil, otorgado por el gobierno francés.

Zerda contó que “muchísimos docentes” les escriben para pedirles capacitación porque no hay una formación oficial en violencias digitales. “Ahora estamos brindando cursos gratuitos y gran parte de las personas que se anotan son docentes”, destacó.

Otro aspecto a tener en cuenta, indicó Zerda, es que este tipo de conductas no está tipificada en el Código Penal. No hay una figura que castigue específicamente la creación de imágenes con inteligencia artificial. Algunos países ya tienen legislación, como Gran Bretaña y también Estados Unidos, donde hace pocas semanas Donald Trump promulgó una nueva ley.

La Ley Olimpia incorporó el concepto de “violencia contra mujeres en entornos digitales” a la Ley 26.485 de “Protección Integral a las Mujeres”. No prevé castigos pero sí una serie de medidas que pueden disponer los jueces. Por ejemplo, si el material con las imágenes manipuladas está alojado en algún link que puede ser identificable, las damnificadas podrían solicitar el retiro del contenido, la conservación de los datos informáticos y la posterior revelación para una investigación posterior que se realice ya sea por un delito o por daños y perjuicios.

“Falta legislación que penalice la creación, distribución, difusión, reenvío o comercialización de material digital que sea creado, editado, alterado, modificado con inteligencia artificial o con software informático que modifique la imagen o la voz de una persona”, precisó Zerda.

GENTIC, con Ley Olimpia Argentina y la diputada Macha elaboraron el proyecto Ley Belén, que penaliza la difusión de este tipo de contenidos, junto con la difusión de material íntimo sexual y de desnudez. Es la segunda vez que lo presentan, pero su tratamiento no avanza en el Congreso. Hay distintos proyectos de otros legisladores que prevén penas sobre todo cuando la víctima es menor de edad. “Nosotros consideramos más adecuado un proyecto integral en donde se penalice si la víctima es mayor o menor”, explicó la abogada. “Están todos estos proyectos frenados en la Comisión de Legislación Penal de Diputados. El año pasado la presidenta Laura Rodríguez Machado, del PRO, le prometió a las organizaciones que iban a empezar a tratarse en febrero de este año y todavía seguimos esperando. Es lamentable que no tengamos una regulación en estos temas”, cuestionó Zerda.

“No podemos seguir perdiendo más tiempo”, exhortó, recordando el suicidio de Ema. Además de la legislación penal, planteó la necesidad de normativa en materia de educación en estos temas y también contemplar la reparación para las víctimas.