Reddit, según informes, está considerando acciones legales contra investigadores de la Universidad de Zúrich que llevaron a cabo un experimento secreto en usuarios del subreddit r/changemyview. Los investigadores desplegaron chatbots de IA para participar en debates, a veces inventando experiencias personales y extrayendo datos de los usuarios para adaptar sus respuestas, acciones que Reddit considera poco éticas y en violación de sus reglas.
Reddit está considerando acciones legales contra investigadores de la Universidad de Zúrich. Específicamente, el abogado principal de la compañía, Ben Lee, anunció esta intención, citando un “experimento inapropiado y altamente poco ético” realizado en la plataforma. Esto prepara el escenario para una batalla legal sobre las acciones de los investigadores.
El núcleo de la controversia reside en la naturaleza del experimento en sí. Investigadores de la Universidad de Zúrich desplegaron secretamente chatbots de IA dentro del subreddit r/changemyview. Esto se hizo sin el conocimiento o consentimiento de Reddit, violando así los términos de servicio de la plataforma.
El experimento involucró a docenas de bots de IA participando en debates con usuarios sobre temas controvertidos. Los bots fueron diseñados para imitar a usuarios humanos y, en algunos casos, fabricaron identidades para parecer más cercanos o persuasivos. Por ejemplo, algunos bots afirmaron ser sobrevivientes de violación, trabajadores de trauma o personas negras que se oponían al movimiento Black Lives Matter. Esta táctica engañosa es un punto clave de controversia.
Además, los investigadores emplearon otra IA para analizar el historial de publicaciones de los usuarios con los que interactuaban. El propósito de este análisis era recopilar información personal, como edad, raza, género, ubicación y creencias políticas. Los investigadores creían que esta información permitiría a sus bots adaptar sus respuestas y ser más efectivos en los debates. Este aspecto de minería de datos plantea serias preocupaciones de privacidad.
Ben Lee, en su declaración pública, condenó las acciones de los investigadores por múltiples motivos. Declaró que el experimento era “profundamente incorrecto tanto a nivel moral como legal”. Además, argumentó que violaba las “normas de investigación académica y derechos humanos”, así como el acuerdo de usuario, las reglas de Reddit y las reglas específicas del subreddit. Esta condena multifacética subraya la gravedad de las preocupaciones de Reddit.
La Universidad de Zúrich ha respondido a la controversia. Informaron a 404 Media que los resultados del experimento no se publicarán. Además, la universidad ha iniciado una investigación interna sobre la conducta de la investigación. Esto sugiere que la universidad reconoce las posibles infracciones éticas y se está tomando el asunto en serio.
Las demandas legales que Reddit tiene la intención de hacer aún se están formulando. Sin embargo, la declaración de Lee indica un firme compromiso de responsabilizar a los investigadores. Declaró que Reddit quiere “hacer todo lo posible para apoyar a la comunidad y asegurar que los investigadores rindan cuentas por sus fechorías aquí”. Esto demuestra una postura firme contra las acciones de los investigadores.
El incidente destaca los desafíos éticos que plantea la investigación de la IA, particularmente cuando involucra la manipulación de comunidades en línea. Las acciones de los investigadores plantean preguntas sobre el consentimiento informado, la privacidad y el potencial de la IA para ser utilizada para el engaño y la manipulación. El caso podría sentar un precedente sobre cómo las plataformas e investigadores navegan por las complejidades éticas de la experimentación con IA.
La naturaleza no autorizada del experimento es un factor crítico en las consideraciones legales. El hecho de que los investigadores no obtuvieran el consentimiento de Reddit o de los usuarios involucrados es una violación significativa del protocolo. Esta falta de transparencia y consentimiento es un elemento central del argumento legal que es probable que Reddit persiga.
El uso de la IA para suplantar a individuos y fabricar identidades es otro aspecto clave del caso legal. Este engaño podría violar potencialmente varias leyes relacionadas con el fraude, la tergiversación y la privacidad. Las reclamaciones legales específicas que Reddit perseguirá probablemente dependerán de la jurisdicción y de las leyes específicas que se hayan violado.
Las posibles ramificaciones de este caso se extienden más allá del ámbito legal. Podría impactar el futuro de la investigación de la IA, particularmente la investigación que involucra plataformas de redes sociales. También podría influir en cómo las universidades e instituciones de investigación abordan las consideraciones éticas al realizar experimentos que involucran sujetos humanos e IA. El resultado de esta batalla legal será observado de cerca por investigadores, empresas de tecnología y expertos legales por igual.
Reddit está considerando acciones legales contra investigadores de la Universidad de Zúrich por desplegar secretamente chatbots de IA en el subreddit r/changemyview para debatir con usuarios, llegando a inventar narrativas personales sensibles. El experimento, que extrajo datos de usuarios para personalizar las respuestas de los bots, violó las reglas de Reddit y se considera poco ético. Reddit exige responsabilidades y busca proteger a su comunidad.
Leave a Reply