Claves de la nueva ley contra la pornovenganza y 'deepfakes' sexuales (y el papel de Melania Trump en ella)

Esta semana el Congreso aprobó el proyecto de ley conocido como Take it Down para combatir la creación y difusión de imágenes íntimas no consensuadas (NCII, por sus siglas en inglés), un fenómeno que incluye desde la generación de contenidos sexuales falsos con el uso de inteligencia artificial hasta la llamada "pornovenganza".

Se trata de una iniciativa legislativa doblemente rara, porque regula contenidos online ( algo que ha sido tradicionalmente una tarea difícil para los congresistas) y porque contó con un abrumador respaldo bipartidista imposible de concertar en otros proyectos de ley.

La ley tipifica como delito federal la publicación de imágenes íntimas no consensuadas, incluídas las deepfake sexualmente explícitas, y exige a las plataformas en línea eliminar el material en un plazo de 48 horas después de ser denunciado.

Aunque casi todos los estados tienen leyes que protegen contra las NCII, incluyendo 30 que cubren específicamente los deepfakes sexuales, estas varían en cuanto a cómo se clasifican los delitos y las penas, y su aplicación es desigual.

Y aunque algunos la ley Take it Down como un esfuerzo loable, otros advierten que puede convertirse en una peligrosa herramienta para "censurar" publicaciones que no necesariamente estén dentro de lo contemplado por la ley.

¿Qué hace la ley Take It Down?

La ley busca proteger a las personas cuya intimidad ha sido vulnerada en internet mediante la publicación de imágenes sexuales sin su consentimiento, ya sean reales o generadas digitalmente, a través de cuatro acciones:

• Convierte en delito federal la publicación de imágenes íntimas no consensuada sin permiso en redes sociales o sitios web, incluso si esas imágenes fueron creadas digitalmente y parecen reales. La legislación aclara que el hecho de que una persona haya aceptado tomarse una foto íntima no significa que haya dado permiso para que se publique.

• Permite compartir las imágenes con autoridades para ayudar a la víctima. La ley protege a quienes actúan de buena fe, como policías, abogados o personal de plataformas, que necesiten compartir las imágenes para denunciar el caso o apoyar a la víctima.

• Obliga a las plataformas a eliminar el contenido en 48 horas. Las redes sociales y sitios web estarán obligados a tener mecanismos para eliminar estas imágenes dentro de las 48 horas siguientes a que la víctima haga la denuncia. También indica que deberán hacer esfuerzos razonables para eliminar todas las copias del contenido.

• Define la intencionalidad. La ley solo castiga la publicación de este contenido cuando se hace con conocimiento y de forma intencional. Además, establece que para que una imagen creada por computadora sea considerada ilegal, debe ser tan realista que una persona promedio no pueda distinguirla de una imagen auténtica.

Una ley con un raro apoyo bipartidista

El respaldo casi unánime con el que contó en la Cámara de Representantes (409 votos a favor y solo 2 en contra) se debe en gran parte a que el proyecto, presentado en junio de 2024 por el senador republicano Ted Cruz y la senadora demócrata Amy Klobuchar, fue impulsado por el testimonio de víctimas de pornografía no consensuada y deepfakes en audiencias del Congreso.

Esto parece haber sensibilizado a legisladores de ambos partidos, que en el pasado han tenido dudas sobre cómo regular contenidos en internet y permitió que legisladores republicanos y demócratas se unieran en torno a la protección de las víctimas sin involucrarse en debates más amplios.

Aunque la propuesta se enfocó específicamente en la publicación de imágenes íntimas no consensuadas, incluyendo aquellas generadas por inteligencia artificial y no en la regulación del contenido sexual consensuado, algunos detractores consideran que la vaguedad de la redacción podría permitir la "censura" de otros contenidos sexualmente implícitos.

¿Quiénes se oponen a la ley contra la pornovenganza?

Pese al amplio respaldo bipartidista, la ley no está libre de críticas. Diversas organizaciones y expertos en derechos digitales han expresado preocupación, pues temen que su falta de precisión legal pueda facilitar abusos, persecución política y hasta censura de contenidos.

El proyecto no contó con el respaldo de Cyber Civil Rights Initiative (CCRI), una organización que representa a víctimas de NCII, que señaló en marzo pasado en un comunicado que la redacción del proyecto es “inconstitucionalmente vaga y excesivamente amplia”, lo que dificulta su interpretación y aplicación tanto para los individuos como para las plataformas.

“La disposición carece de garantías adecuadas contra el abuso, lo que aumenta la probabilidad de denuncias de mala fe y frena la libertad de expresión. Tales deficiencias serían alarmantes en cualquier circunstancia; dado el compromiso explícito de la actual istración con la aplicación selectiva de las leyes con fines políticos, son fatales”, señala el comunicado de la CCRI.

En febrero, una docena de organizaciones envió una carta al Senado advirtiendo que la ley podría suprimir discursos legales y protegidos, afectando el derecho a la libre expresión en línea. “En su forma actual, el proyecto de ley crea un mecanismo de notificación y retirada (NTD, por sus siglas en inglés) que resultaría en la eliminación no solo de imágenes íntimas no consensuadas, sino también de discursos que no son ilegales ni realmente NDII (imágenes íntimas no consentidas). Este mecanismo probablemente sea inconstitucional y, sin duda, tendrá un impacto sobre la libre expresión de los s”, dice la misiva.

¿Qué tiene que ver Melania Trump con esta ley?

La primera dama Melania Trump fue una de las principales impulsoras de la ley Take It Down, incorporándola en su campaña contra el ciberacoso y la violencia digital Be Best.

En varias ocasiones, señaló que proteger a menores y mujeres de la violencia digital es una “responsabilidad moral” del Estado, y que la ley es una forma de “restaurar la dignidad de quienes han sido vulnerados en internet”.

Desde el inicio del proceso legislativo, la primera dama participó en actos públicos, promovió el proyecto en entrevistas y foros, y se reunió con víctimas y familias afectadas.

Su respaldo público también ayudó a movilizar apoyo mediático y político.