San Luis ordenó bloquear un sitio que generaba desnudos falsos con IA de adolescentes

La Justicia de San Luis impulsó una medida cautelar para bloquear en todo el país un sitio web que, mediante inteligencia artificial, permite generar imágenes de desnudez simulada a partir de fotos reales. El caso se conoció luego de que un menor utilizara esa plataforma para crear contenidos falsos de adolescentes y los difundiera a través de Facebook.

La presentación fue realizada por la fiscal de Instrucción Penal N°2 con intervención en contextos de género, diversidad sexual, infancias y adultos mayores, Antonella Córdoba. En el escrito sostuvo que las imágenes vulneraban la intimidad de las jóvenes, al simular desnudez con cuerpos que no les pertenecían y sin consentimiento.

Según la investigación, el menor fue identificado y también se logró determinar la aplicación que facilitó la manipulación: una IA diseñada para implantar rostros en otros cuerpos y generar resultados en pocos pasos, con herramientas de “aprendizaje profundo” que analizan y procesan las imágenes para producir el efecto de “quitar la ropa”.

El Departamento de Delitos Complejos detalló que se trata de tecnología de uso sencillo, disponible para Android, iOS y Windows, lo que amplifica el riesgo de replicación del contenido y su circulación en redes sociales.

Otro punto que preocupó a la Fiscalía fue la opacidad sobre los responsables de la plataforma: no existiría información pública verificable sobre sus desarrolladores, lo que dificulta la trazabilidad y la eventual imputación de responsabilidades en origen.

En su propia descripción, el sitio buscó deslindar consecuencias con advertencias del estilo “no guardamos ningún dato” y que “no asumimos ninguna responsabilidad”, además de sostener que “el procesamiento de menores es imposible”. Para la fiscalía, esos avisos no neutralizan el daño potencial ni el uso real que quedó expuesto por el caso.

Córdoba remarcó que la herramienta, en los hechos, habilita la creación y distribución de imágenes íntimas sin autorización explícita, con consecuencias que pueden derivar en hostigamiento, grooming, extorsión y difusión no consentida. También señaló los serios cuestionamientos éticos y legales que plantea este tipo de aplicaciones.

La solicitud se enmarca en un enfoque de prevención y protección frente a la violencia de género y la violencia digital. En el escrito se citan marcos normativos como la Convención sobre los Derechos del Niño, la Ley 26.061 de Protección Integral de Niñas, Niños y Adolescentes y la llamada Ley Olimpia, que incorpora las agresiones digitales entre sus modalidades.

Con el bloqueo solicitado, la Justicia busca frenar la disponibilidad de la plataforma y limitar su uso como herramienta de daño. La causa sigue en investigación y no se descartan nuevas medidas para identificar responsables, reducir la circulación del material y proteger a las víctimas.