La justicia de Victoria investiga a un grupo de adolescentes que asisten a un colegio privado de la ciudad, ante la sospecha que habrían comercializado fotografías de sus compañeras de escuela luego de modificarlas mediante el uso de la Inteligencia Artificial para que aparezcan desnudas.

La denuncia fue radicada en la Fiscalía, y quedó en manos del fiscal Iván Yedro, quien, según pudo confirmar Elonce, solicito medidas al Juzgado de Garantías y fueron cumplimentadas por policía.

Desde la Jefatura Departamental de Policía se concretaron una serie de procedimientos en distintos puntos de la ciudad de las Siete Colinas.

Como la causa se está iniciando, y hay menores implicados, no trascendieron muchos detalles, pero se supo que Yedro requirió algunas averiguaciones para avanzar con la investigación, que generó gran revuelo y preocupación en la comunidad educativa donde asisten los alumnos implicados. 

La denuncia se radicó directamente en la Fiscalía por parte de padres de estudiantes afectadas y no hubo presentaciones en la sede policial.

El caso podría tener similitud con el ocurrido el mes pasado en una localidad de la provincia de Buenos Aires, donde un alumno de 17 años, también de un colegio privado, fue denunciado por crear y vender fotos falsas de sus compañeras de clase, manipuladas con Inteligencia Artificial para simular desnudez.

También hubo otro caso en Córdoba, donde un estudiante también fue denunciado por generar imágenes pornográficas de sus compañeras utilizando inteligencia artificial. El alumno usó herramientas de IA para fusionar los rostros de las jóvenes con cuerpos desnudos de mujeres adultas y luego subió el material resultante a una conocida página pornográfica. Las imágenes iban acompañadas de descripciones que cosificaban a las afectadas. 

Uso responsable de la IA

El uso de la inteligencia artificial (IA) con respeto y responsabilidad es especialmente crucial cuando se trata de menores. Los niños y adolescentes son más vulnerables a los riesgos que puede traer la tecnología, como la manipulación de información, el acceso a contenido inapropiado o la violación de su privacidad. 

La IA debe ser diseñada y utilizada de manera que proteja su seguridad, respete sus derechos y promueva su desarrollo saludable. Además, es fundamental evitar que los menores sean objeto de sistemas automatizados que los exploten, como en el caso de la publicidad dirigida o el uso indebido de sus datos personales. Los adultos, incluidos padres, educadores y responsables de políticas públicas, tienen el deber de garantizar que la IA se utilice de manera ética y segura para los más jóvenes, brindándoles las herramientas para un uso consciente y beneficioso de la tecnología.

Cuando la IA se emplea de forma adecuada, puede ser una gran aliada en la educación, el entretenimiento y el desarrollo, pero su mal uso podría tener consecuencias perjudiciales para el bienestar de los menores.