La Guardia Civil identificó a un adolescente de 14 años como presunto autor de la creación y difusión de imágenes falsas de contenido sexual generadas con inteligencia artificial, que afectan a nueve alumnas menores de edad en Logroño.
La Guardia Civil ha identificado a un menor de 14 años como presunto autor de la creación y difusión de imágenes falsas de contenido sexual generadas mediante inteligencia artificial. El caso, que afecta a nueve alumnas menores de edad en Logroño, ha desencadenado una investigación por parte del Equipo de Investigación Tecnológica (EDITE) y del Equipo@ del instituto armado, informó este martes la Guardia Civil en un comunicado.
Según la información difundida por la institución, el menor habría accedido a los perfiles públicos en redes sociales de sus compañeras de clase y habría recopilado fotografías sin autorización. Después utilizó aplicaciones de inteligencia artificial para manipular esas imágenes y crear material pornográfico falso (deepfakes). “El material fue alojado en una página de pornografía para adultos, donde se organizó en carpetas individuales con datos personales de cada víctima”, comunicó la Guardia Civil.
La difusión de las imágenes aumentó después de que el menor abriera un perfil en esa página para adultos con la descripción “Subo chicas de mi insti hechas con IA”. Esto permitió la identificación de las víctimas. Según la investigación, antes de que el contenido fuese eliminado, las imágenes falsas ya habían sumado cerca de 40.000 visualizaciones.
Los agentes determinaron que el menor conocía personalmente a las víctimas y que la obtención de las imágenes se produjo a través del acceso no consentido a sus perfiles en redes. Las diligencias han sido remitidas a la Fiscalía de Menores, conforme a la Ley Orgánica 5/2000, que regula la responsabilidad penal de los menores en España. Los progenitores o tutores legales del investigado deberán responder de manera solidaria por los daños morales ocasionados, conforme a la legislación vigente.
La Guardia Civil recordó que la manipulación y difusión de imágenes íntimas, incluso cuando son generadas por medios digitales, constituye un delito grave y puede acarrear consecuencias legales tanto para los autores materiales como para sus responsables legales.
El desarrollo de la inteligencia artificial y la proliferación de los deepfakes han planteado nuevos retos para la protección de la intimidad. El Consejo de Ministros aprobó la semana pasada una nueva ley del derecho al honor que refuerza la protección frente a la creación y difusión de imágenes o voces falsas generadas mediante inteligencia artificial. Con esta norma, se considerará ilegítimo utilizar la voz o la imagen de una persona sin su consentimiento con fines publicitarios o comerciales cuando se empleen herramientas de inteligencia artificial.