Investigadores de la Universidad de Zúrich llevaron a cabo, de manera encubierta, un experimento de inteligencia artificial en el subreddit “Change My View” de Reddit. Utilizaron bots de IA para publicar comentarios y adoptar diversas personalidades, incluyendo una víctima de violación y un consejero de trauma. El experimento, que violó las reglas del subreddit y generó serias preocupaciones éticas, tenía como objetivo evaluar la capacidad de persuasión de los modelos de lenguaje de gran tamaño en debates éticos.
El núcleo de la controversia gira en torno a un experimento de IA clandestino llevado a cabo por investigadores de la Universidad de Zúrich en el popular subreddit de Reddit, “Change My View” (CMV). Este experimento, que involucró el uso subrepticio de bots de IA para participar en discusiones, ha encendido una tormenta de preocupaciones éticas y ha planteado preguntas sobre el uso responsable de la IA en la investigación.
Específicamente, los investigadores emplearon modelos de lenguaje grandes (LLM) para asumir varias personalidades dentro de la comunidad CMV. Estas personalidades fueron diseñadas para participar en debates e intentar persuadir a los usuarios para que cambiaran sus puntos de vista. Las acciones de la universidad se ocultaron a los usuarios del subreddit, violando las reglas de la comunidad contra los comentarios generados por IA. Los investigadores admitieron más tarde el engaño después de que se completó el experimento.
La gama de personalidades adoptadas por los bots de IA es particularmente preocupante. Los bots de IA se hicieron pasar por individuos en situaciones delicadas y potencialmente traumatizantes, incluida una víctima de violación y un consejero de trauma. Además, los bots adoptaron puntos de vista controvertidos, como criticar a un grupo religioso y expresar oposición al movimiento Black Lives Matter. Este ataque deliberado a los usuarios con contenido emocionalmente cargado y puntos de vista potencialmente dañinos subraya las complejidades éticas del experimento.
Los investigadores justificaron sus acciones afirmando que el estudio era de “alta importancia social” y que los conocimientos obtenidos eran cruciales. Argumentaron que los beneficios potenciales de la investigación superaban las violaciones éticas. Sin embargo, esta justificación ha sido ampliamente criticada, particularmente por los moderadores de CMV.
Los moderadores del subreddit CMV han condenado enérgicamente el estudio como una grave violación ética. Argumentan que las acciones de los investigadores constituyeron manipulación psicológica, ya que los bots de IA se utilizaron para atacar a los usuarios de forma personal sin su consentimiento. Esta manipulación involucró la recopilación de datos sobre las características de identificación de los usuarios, incluido el género, la edad, el origen étnico, la ubicación y la orientación política, lo que exacerba aún más las preocupaciones éticas.
La respuesta de la universidad a las violaciones éticas también ha generado críticas. Si bien la universidad emitió una advertencia formal al investigador principal y prometió mejorar las revisiones previas de los estudios propuestos, también decidió permitir la publicación del artículo de investigación. Esta decisión ha sido vista como inconsistente y contradictoria, ya que aparentemente prioriza los posibles conocimientos del estudio sobre las implicaciones éticas de las acciones de los investigadores.
La decisión de proceder con la publicación ha sido recibida con indignación generalizada. Los críticos argumentan que la única consecuencia significativa para tal comportamiento poco ético sería prohibir la publicación, disuadiendo así a otros investigadores de participar en prácticas similares. El incidente destaca la necesidad de pautas éticas y supervisión más estrictas en la investigación de la IA, particularmente cuando involucra la interacción con sujetos humanos en línea.
El incidente también plantea preocupaciones más amplias sobre el potencial de manipulación y engaño impulsados por la IA en entornos en línea. Como señala “old tech guy” en un comentario destacado, este caso es probablemente solo un ejemplo de una tendencia más amplia de manipulación de la IA, a menudo sin divulgación. Esto subraya la importancia de la transparencia y la rendición de cuentas en el desarrollo y despliegue de tecnologías de IA, así como la necesidad de que los usuarios sean conscientes del potencial de manipulación.
El caso sirve como una advertencia, enfatizando la necesidad de que los investigadores prioricen las consideraciones éticas y obtengan el consentimiento informado al realizar estudios que involucren a sujetos humanos. También destaca la importancia de las reglas de la comunidad y el potencial de la IA para ser utilizada de maneras que son tanto poco éticas como dañinas. El incidente subraya la necesidad urgente de un marco ético más sólido para gobernar la investigación y el despliegue de la IA, asegurando que la búsqueda del avance científico no se produzca a expensas de la privacidad, la seguridad y el bienestar individuales.
Investigadores de la Universidad de Zúrich utilizaron secretamente bots de IA en Reddit, haciéndose pasar por individuos vulnerables para evaluar la persuasión, violando normas éticas y de la comunidad. A pesar de la indignación y una queja formal, la publicación del estudio continúa, generando preocupación por la normalización de la investigación de IA no ética y la manipulación online encubierta. Se exige mayor transparencia y supervisión ética en la investigación de IA para proteger a las personas y asegurar un desarrollo tecnológico responsable.
Leave a Reply