El peligro del falso material íntimo creado con IA en menores

El abogado y director ejecutivo de la ONG Grooming Argentina, Hernán Navarro, advirtió sobre las alarmantes mutaciones de los delitos contra menores en entornos virtuales y el impacto directo del uso de nuevas tecnologías durante una entrevista en Radio Buenos Aires AM 1350. El especialista detalló cómo las redes de pedofilia utilizan diversas plataformas y videojuegos para el abordaje de niños, niñas y adolescentes, y alertó sobre el drástico cambio metodológico que representa el desarrollo de sistemas generativos de imágenes. Al respecto, Navarro remarcó que "la inteligencia artificial vino a cambiar las reglas, vino a cambiar el estatus quo en clave digital" y que la manipulación de imágenes íntimas simuladas otorga a los agresores "la herramienta de coacción, la herramienta de amenaza, la herramienta de extorsión".

Durante el análisis de los recientes acontecimientos de público conocimiento que involucran a estudiantes de colegios secundarios de la Ciudad de Buenos Aires, el abogado aclaró que técnicamente estos casos no configuran grooming, sino que encuadran bajo el delito penal de distribución y producción de pornografía infantil. El director ejecutivo de Grooming Argentina hizo hincapié en que "no existe normativa en la Argentina tendiente a la introducción de algún tipo penal mediado por inteligencia artificial", lo que exige una rápida respuesta legislativa ante dinámicas perversas como la "nudificación" o el escaneo de fotografías reales para desnudarlas digitalmente. Asimismo, destacó el alarmante vacío en educación digital en el país y cuestionó las respuestas drásticas basadas en la mera restricción técnica, argumentando que "la prohibición primero que no es prevención. Y después la prohibición clandestiniza, o sea todo lo prohibido se convierte en clandestino".

Para hacer frente a esta problemática que vulnera los derechos fundamentales de las infancias, el especialista instó a las familias y a las instituciones educativas a involucrarse activamente en la prevención primaria y a adoptar una corresponsabilidad real en el ecosistema virtual. Navarro enfatizó que el mundo adulto debe superar la falta de visión periférica sobre la vida digital de los jóvenes y comenzar a interactuar de manera fluida y protectora en este territorio que define identidades. Los invitamos a ver la entrevista completa en nuestro canal de YouTube para profundizar sobre los detalles del debate legislativo actual, el análisis pedagógico y las recomendaciones del especialista para proteger a los menores.