Esta primavera, el Congreso tiene la oportunidad de aprobar legislación bipartidista para abordar algunos de los daños que enfrentan los niños en línea y exigir a las empresas tecnológicas que respondan al contenido abusivo en sus plataformas. El proyecto de ley propuesto, la Ley TAKE IT DOWN, promete ayudar a detener la horrible propagación de imágenes íntimas no consensuadas (NCII) en línea, que se ha disparado en los últimos años.
El Acta TAKE IT DOWN, un proyecto de ley bipartidista que tiene como objetivo combatir la proliferación de imágenes íntimas no consensuadas (NCII) en línea, está a punto de ser aprobado en el Congreso, con un apoyo significativo de ambos lados del espectro político y el posible respaldo del presidente Donald Trump. Sin embargo, a medida que el proyecto de ley se acerca a sus etapas finales, han surgido preocupaciones sobre su constitucionalidad, particularmente con respecto a su enfoque para la eliminación de NCII.
Para abordar estas preocupaciones y aclarar la situación legal del Acta TAKE IT DOWN, es crucial comprender las devastadoras consecuencias de la inacción. Las NCII, que abarcan tanto imágenes reales como generadas por IA, constituyen una forma de abuso sexual, causando graves daños emocionales, psicológicos, de reputación y financieros a las víctimas. Además, puede conducir a la autolesión y el suicidio. La llegada de la IA generativa ha exacerbado el problema, acelerando la producción y distribución de NCII. El FBI ha emitido múltiples advertencias sobre el alarmante aumento de la extorsión infantil que utiliza contenido sexualmente explícito en línea, lo que destaca la explotación de NCII por parte de actores maliciosos.
En marcado contraste con la gravedad del problema, las principales empresas tecnológicas como Meta y Google han sido criticadas por no abordar adecuadamente el problema. Las revisiones de sus políticas han revelado deficiencias en la respuesta a la rápida eliminación de NCII deepfake. A pesar de estos fracasos, algunas de estas empresas han respaldado el Acta TAKE IT DOWN.
El Acta TAKE IT DOWN aborda la crisis de las NCII a través de varias medidas clave. Criminaliza la publicación de NCII, incluido el contenido generado por IA, y cierra las brechas en las leyes estatales existentes. Crucialmente, el proyecto de ley exige que las plataformas de redes sociales y otros sitios relevantes establezcan un proceso para que las víctimas soliciten la eliminación acelerada de NCII. Esta disposición es esencial para acabar con la distribución de NCII y garantizar su rápida eliminación. Además, la Ley otorga a la Comisión Federal de Comercio (FTC) la facultad de responsabilizar a las empresas por no actuar.
La base legal del Acta TAKE IT DOWN está firmemente arraigada en la Constitución. Si bien la Primera Enmienda protege la libertad de expresión, no se extiende a ciertas categorías de contenido dañino, como los materiales de abuso sexual infantil (CSAM), la obscenidad y el discurso integral al delito. El Congreso tiene una amplia libertad para elaborar leyes que protejan la seguridad de los niños, como lo confirmó la Corte Suprema en casos como *New York v. Ferber* (1982) y *Ashcroft v. Free Speech Coalition* (2002).
El Acta TAKE IT DOWN se alinea con este marco constitucional. El discurso regulado por la Ley no está protegido por la Primera Enmienda. En muchos casos, las formas más atroces de NCII incluyen CSAM, que nunca está protegido. En otros casos, el discurso se utiliza para cometer extorsión sexual, lo cual es ilegal. Incluso si el discurso no encaja perfectamente en estas categorías, las NCII también podrían considerarse obscenidad, que no está protegida por la Primera Enmienda.
Incluso si el proyecto de ley se examina de cerca bajo la Primera Enmienda, está diseñado de forma limitada para servir a un interés gubernamental convincente. El proyecto de ley busca proteger a las personas del acoso sexual, el abuso y la humillación, lo cual es un interés gubernamental convincente. El proyecto de ley está diseñado de forma limitada para avanzar en estos objetivos. El gobierno debe probar que una persona “a sabiendas” publicó la NCII. En los casos que involucran a menores, se requiere prueba de la intención de dañar al menor o satisfacer el “deseo sexual” de una persona. En los casos que involucran a no menores, el proyecto de ley requiere prueba de múltiples elementos que limitan significativamente el alcance del proyecto de ley.
El proyecto de ley no es constitucionalmente demasiado amplio. Su definición de “representación visual íntima” se basa en la ley actual, que ha sido interpretada por los tribunales en docenas de casos. Es importante destacar que excluye asuntos de “interés público o preocupación” o “pornografía comercial”, y contiene varias excepciones para fines legítimos, como buscar ayuda médica, alertar a las autoridades y proteger la seguridad nacional.
El discurso regulado por el proyecto de ley tiene poco o ningún valor expresivo. El Acta TAKE IT DOWN no favorece puntos de vista, oradores o mensajes. No amenaza el arte, incluido el arte sexual, la educación o el debate público. No permite que los funcionarios gubernamentales insistan en su propia verdad o se protejan del debate público incómodo sobre asuntos de interés público. En cambio, simplemente restringe la publicación de NCII, un término bien definido, y facilita su eliminación en línea.
Además, la publicación de NCII tiene un efecto amedrentador en el discurso de las víctimas, que a menudo participan en la autocensura. Las balanzas de la justicia deberían inclinarse a su favor.
Los críticos han expresado su preocupación de que el Acta TAKE IT DOWN pueda sofocar el discurso comercial, particularmente la pornografía comercial. Este argumento se basa en una incomprensión del texto del proyecto de ley. La Sección 4 de la Ley define “representación visual íntima” incorporando la ley actual, 15 U.S.C. § 6851, que se promulgó en 2022 como parte de la reautorización de la Ley de Violencia contra las Mujeres (VAWA). Esta definición excluye expresamente “asuntos de interés público o interés público” y “contenido pornográfico comercial”.
Finalmente, las preocupaciones de que el proyecto de ley pueda ser mal utilizado son infundadas. El Acta TAKE IT DOWN incluye salvaguardas para evitar el mal uso. Las definiciones del proyecto de ley y las altas cargas probatorias sobre el gobierno limitan significativamente su alcance. Estas limitaciones restringen la discreción de aplicación y otorgan a los tribunales una amplia autoridad para rechazar reclamaciones dudosas o motivadas políticamente. La autoridad otorgada a la FTC para garantizar el éxito del proceso de eliminación del proyecto de ley es la misma autoridad que ya ejerce en virtud de la Sección 5 de la Ley de la FTC para controlar las prácticas desleales o engañosas. Estas mismas barreras de protección se aplicarían en virtud del Acta TAKE IT DOWN, lo que la convierte en una herramienta deficiente para la aplicación politizada.
La Ley TAKE IT DOWN busca combatir la proliferación de imágenes íntimas no consensuadas (NCII) en línea al criminalizar su publicación, exigir a las plataformas la eliminación rápida de contenido abusivo y responsabilizar a las empresas tecnológicas. Legalmente, el proyecto de ley se basa en la jurisprudencia establecida de la Primera Enmienda, dirigiéndose a discursos dañinos como CSAM y aquellos integrales a la actividad criminal, incorporando una adaptación precisa y sólidas salvaguardas contra el mal uso. Con apoyo bipartidista y una clara necesidad de proteger a las víctimas, el Congreso debería actuar con decisión para aprobar esta legislación crucial y garantizar un entorno en línea más seguro.
Leave a Reply