La empresa xAI, de Elon Musk, presentó una demanda federal contra el estado de Minnesota por la primera ley estadounidense que prohíbe el uso de inteligencia artificial para generar imágenes de personas sin ropa.
La empresa xAI, propiedad de Elon Musk, presentó una demanda contra el estado de Minnesota en un tribunal federal tras la aprobación de la primera ley en Estados Unidos que prohíbe el uso de inteligencia artificial para crear imágenes falsas de personas desnudas, conocida como ‘nudificación’. La acción legal se produjo pocos días antes de la entrada en vigor de la normativa.
Detalles de la demanda
La legislación, firmada en mayo, busca impedir el uso de IA en aplicaciones y sitios web para generar imágenes ficticias de desnudos de personas reales sin su consentimiento. La demanda de xAI señala que la ley estatal no solo prohíbe la distribución de imágenes de este tipo, sino que también restringe la creación y posesión de una amplia gama de contenidos protegidos constitucionalmente, lo que podría afectar a la libertad de expresión.
En el documento judicial de 38 páginas, xAI argumenta que la ley “va mucho más allá del objetivo de proteger a las personas de la distribución no consentida de imágenes íntimas”, llegando a penalizar imágenes y videos cuyo uso ha sido autorizado por la persona retratada, o incluso creados por la misma. La compañía advierte que la normativa establece una multa de 500.000 dólares por cada infracción, sin contemplar excepciones para plataformas que actúan de buena fe para evitar la generación de contenidos ilícitos.
Argumentos constitucionales
La demanda subraya que la ley de Minnesota carece de una disposición de “puerto seguro” para empresas que implementan medidas preventivas y que el concepto de “parte íntima” definido por la normativa es tan amplio que incluye zonas del cuerpo comúnmente expuestas en espacios públicos. xAI sostiene que la regulación podría tener efectos desproporcionados sobre la libertad creativa y la innovación tecnológica.
Keith Ellison, fiscal general del estado, declaró que su oficina no había sido notificada oficialmente de la demanda, pero afirmó que la creación de imágenes íntimas mediante IA sin consentimiento es “espantosa” y puede causar daños personales, emocionales y profesionales de gran magnitud. “Hay muchos debates legítimos sobre la política de inteligencia artificial. Este no es uno de ellos. La nudificación con IA roba la dignidad de la víctima”, manifestó Ellison.
Contexto normativo
La normativa de Minnesota se distingue de otras leyes estatales y federales que penalizan la creación y difusión de “deepfakes” y contenidos sexuales generados por IA sin consentimiento, ya que estas últimas suelen sancionar a los usuarios que producen o comparten el material, pero no a los desarrolladores de las herramientas tecnológicas.
El año pasado, el Congreso de Estados Unidos aprobó la Take It Down Act, que obliga a plataformas y aplicaciones a contar con mecanismos para eliminar este tipo de imágenes bajo pedido. Texas adoptó una aproximación distinta en 2025: responsabiliza civil y penalmente a los propietarios de webs o aplicaciones si, con conocimiento, permiten la difusión de desnudos sin consentimiento o no los retiran tras recibir la notificación correspondiente.
Posición de xAI y medidas de Grok
En la demanda, xAI explica que los términos de uso de su generador de imágenes y chatbot, Grok, prohíben expresamente la utilización de la plataforma para actividades ilegales o abusivas, incluyendo la alteración de fotografías con fines de nudificación o contenido sexual explícito. La empresa asegura que impone sanciones como la suspensión o cancelación de cuentas y reporta cualquier sospecha de explotación sexual infantil.
Tras una ola de críticas globales por la circulación de imágenes sexualizadas de mujeres y menores, xAI implementó un sistema de bloqueo geográfico en Grok para impedir la edición de fotos de personas reales en ropa interior o prendas reveladoras en aquellos territorios donde está prohibido por ley. “Hemos implementado medidas tecnológicas para impedir que la cuenta de Grok permita la edición de imágenes de personas reales en atuendos como bikinis, ropa interior y otras prendas reveladoras”, indicó xAI en un comunicado emitido en enero. La empresa de Elon Musk también afirmó a comienzos de año que mantiene una política de “tolerancia cero” frente a la explotación sexual infantil, la desnudez no consentida y cualquier contenido sexual no deseado.