Las aplicaciones son una de las principales formas en que se crean deepfakes utilizando inteligencia artificial sin ningún conocimiento técnico, incluso por parte de niños.
Jasmine Mitani para El 19
El Senado de Minnesota aprobó el miércoles por 65-0 la primera prohibición del país de aplicaciones “desnudas”, apuntando a una de las principales fuentes de deepfakes no consensuales. El proyecto de ley fue aprobado por la Cámara de Representantes del estado la semana pasada y ahora sólo necesita la firma del gobernador para convertirse en ley.
Los defensores son optimistas. El gobernador Tim Walz, un demócrata, pronto firmará la legislación.
El proyecto de ley fue el primer intento en el país de prohibir sitios web o aplicaciones que promueven el desnudo digital, donde se pueden cargar y manipular fotografías de personas completamente vestidas utilizando inteligencia artificial generativa para hacerlas parecer desnudas.
Relacionados | Gracias a la IA, cualquiera puede convertirse en víctima de pornografía no consentida. ¿Pueden las leyes mantenerse al día?
Esta mezcla significa que las herramientas son fáciles de usar para los niños; La organización de medios independiente Indicator ha rastreado 23 casos de abuso de deepfake dirigidos a comunidades escolares en los EE. UU. desde 2023.
Los esfuerzos del gobierno federal para crear un derecho de acción civil para los sobrevivientes de deepfakes no consensuales se han estancado en el Congreso. La Ley DEFIANCE aún no ha llegado al pleno de la Cámara, aunque ha sido aprobada dos veces por el Senado. La Ley Take It Down del año pasado tipificó como delito federal la distribución de imágenes íntimas sin consentimiento, independientemente de su origen, pero no permitió a los sobrevivientes demandar por daños y perjuicios.
Minnesota House File 1606 permitiría a los sobrevivientes demandar a los propietarios de aplicaciones desnudas por daños y perjuicios y otorgaría al fiscal general del estado el poder de solicitar multas de 500.000 dólares por infracción.
Los deepfakes no consensuados han aumentado en número en los últimos años. El episodio masivo de agresión sexual digital comenzó en diciembre, cuando la plataforma de redes sociales X permitió que su chatbot incorporado Grok generara imágenes de forma gratuita. El New York Times y el Center to Counter Digital Hate estiman que Grok creó y publicó más de 1,8 millones de imágenes sexualizadas de mujeres en nueve días.
Relacionados | California se une a la represión global contra el chatbot de IA Mascarilla
X dijo que había tomado medidas para limitar la creación de deepfakes sin consentimiento, pero los usuarios pudieron sortear los obstáculos constantemente.
La mayoría de los productos de IA generativa tienen protección contra la creación de imágenes sexualizadas. Las demandas alegan que xAI, el fabricante de Grok, que anunció que el chatbot estaba “preparado para responder preguntas difíciles que la mayoría de los demás sistemas de inteligencia artificial rechazan”, no tomó las precauciones estándar.
El incidente de Grok llega en un momento en el que los nudificadores se han generalizado, pero existe toda una economía de aplicaciones y sitios web que monetizan la creación de deepfakes no consensuales.
Los deepfakes solían requerir mucho tiempo y trabajo, pero ahora se pueden crear con solo hacer clic en un botón. Gracias a este acceso, cada vez más niños se convierten en perpetradores de este tipo de abuso, convirtiéndose muchas veces en víctimas de sus pares.
RAINN, una organización nacional sin fines de lucro que opera la Línea Directa Nacional de Agresión Sexual, es una de las principales fuerzas detrás del proyecto de ley de Minnesota a medida que aumenta el abuso basado en la tecnología. Sandy Johnson, asesora principal de política legislativa del grupo, dijo que la cantidad de niños que hablan sobre el abuso digital ha aumentado en los últimos cinco años.
Relacionados | Trump allana el camino para que una IA pervertida explote a los niños
Los Centros para el Control y la Prevención de Enfermedades midieron la incidencia de la violencia sexual asistida por tecnología por primera vez en su Encuesta Nacional sobre Violencia Sexual y de Pareja Íntima 2023-2024. El término es amplio e incluye tanto la finalidad de deepfakes no consentidos como el envío de imágenes explícitas no deseadas. La encuesta encontró que en los 12 meses anteriores, una de cada diez mujeres reportó haber experimentado este tipo de violencia; Una de cada tres mujeres dijo lo mismo cuando se le preguntó sobre su vida.
Molly Kelly es una de esas mujeres. Hace dos años, se enteró de que un amigo cercano de la familia estaba usando un sitio conocido por su desnudez para hacer deepfakes no consensuales de ella y otras mujeres en su vida. Alrededor de 80 mujeres en Minnesota fueron víctimas del mismo perpetrador, y eso inició la búsqueda de justicia de Kelly.
“He dedicado los últimos dos años de mi vida a encontrar una solución para mitigar el daño cuando realmente se hace, lo cual está en ciernes”, dijo Kelly a The 19th. “Estas imágenes no existen sin terceros y algún tipo de modelo de aprendizaje automático”.
Los deepfakes solo se almacenaban en la computadora de la persona, por lo que Kelly dijo que no se aplicaría ninguna ley que impidiera su distribución, como la Ley Takedown. (Kelly buscó sitios pornográficos para tratar de determinar si las imágenes habían sido publicadas). Dijo que no había evidencia de juego sucio y que las fotos no fueron consensuales, eximiendo así la ley estatal de “pornografía de venganza”. Ninguna de las mujeres era menor de edad, por lo que la posesión de las imágenes no era un delito.
Al darse cuenta de que ninguna ley le permitiría presentar una demanda de restitución, Kelly dijo que comenzó a llamar a todas las personas que se le ocurrían. Finalmente se puso en contacto con la senadora Erin May Quaid, demócrata por Farmer-Labor, quien presentó el HF 1606.
Las únicas personas a las que Kelly podía llegar eran los administradores escolares, quienes a menudo tenían que lidiar con niños que se victimizaban entre sí a través de deepfakes. Dirigió su atención a lo que cree que es la fuente del problema: la tecnología que creó los deepfakes.
Atribución: David Horsey/Tribune Content Agency. Caricatura de David Horsey.
“Me tomó cada minuto libre que tenía”, dijo Kelly. Ha capacitado a legisladores, testificado y abogado sin cesar durante los últimos dos años mientras hacía malabarismos con dos hijos, un trabajo de tiempo completo y una licenciatura en derecho. Dijo que la profesión jurídica es otro trabajo de tiempo completo.
La legislación técnica puede ser complicada, pero Kelly confía en que el HF 1606 resistirá cualquier desafío legal si se convierte en ley.
Johnson dijo que RAINN consultó con muchas empresas de tecnología para garantizar que la ley no tuviera consecuencias no deseadas para los productos convencionales. Esta versión del proyecto de ley incluye una exención para las empresas que requieren “habilidades técnicas de usuario” para editar una imagen utilizando herramientas estándar como Photoshop, por ejemplo.
La administración Trump aboga por la primacía federal sobre las leyes estatales de IA; Si se consagra esta política, este proyecto de ley puede quedar invalidado.
Mientras tanto, Kelly espera a que salgan a la luz sus imágenes manipuladas. Después de enterarse de los deepfakes, borró todas sus redes sociales.
“En el fondo, se trata de una cuestión de manipulación y control sobre las mujeres”, afirmó.
Daily Kos es gratuito para todos, sin barreras de pago ni barreras de ningún tipo. Ayúdame a mantenerlo así
Daily Kos se compromete a mantener todo nuestro contenido gratuito. Es por eso que no tenemos un muro de pago y nunca lo tendremos. Sin embargo, los ingresos de Daily Kos han disminuido y es posible que no podamos continuar brindando la calidad de trabajo que espera de nosotros. Las donaciones de nuestros lectores son nuestra mayor fuente de ingresos. Si valoras el periodismo independiente, accesible y gratuito, considera hacer una donación hoy.
