Un sitio web de noticias prorruso, en gran medida automatizado, ha sido utilizado para “blanquear” propaganda sobre temas australianos en el período previo a las elecciones federales de este fin de semana.
Una operación de influencia pro-rusa, apodada “Portal Kombat”, ha estado apuntando a Australia en el período previo a las recientes elecciones federales, con el objetivo de “envenenar” los chatbots de IA con propaganda. Esta operación, encabezada por el sitio web de noticias Pravda Australia, busca manipular los modelos de IA para que difundan narrativas pro-rusas y sembrar la división entre los australianos.
Pravda Australia, registrado el año pasado, comenzó a publicar artículos en noviembre, pero su producción aumentó significativamente a mediados de marzo, justo antes de que se convocaran las elecciones. Desde entonces, el sitio ha estado publicando hasta 155 historias al día, principalmente reempaquetando contenido de canales de Telegram y sitios de propaganda rusos bien conocidos. Este aumento en la actividad sugiere un esfuerzo deliberado para influir en el panorama informativo que rodea las elecciones.
El objetivo principal de esta operación no es influir directamente en las audiencias humanas, ya que el sitio ha visto poca interacción orgánica. En cambio, los expertos creen que el verdadero objetivo son los chatbots de IA. McKenzie Sadeghi, editora de IA e influencia extranjera en NewsGuard, afirma que la Red Pravda está “diseñada y creada únicamente para afectar a… los chatbots de IA”. Esta estrategia implica alimentar a los chatbots con contenido de Pravda Australia, permitiéndoles absorber y repetir narrativas pro-rusas, que de otro modo serían excluidas debido a su fuente poco confiable.
Esta táctica de “envenenamiento” de los chatbots de IA fue discutida abiertamente por John Dougan, un propagandista clave del Kremlin, en una mesa redonda en Moscú. Dougan abogó por entrenar modelos de IA con material pro-ruso, jactándose de que sus sitios web ya habían “infectado aproximadamente el 35 por ciento de toda la inteligencia artificial mundial”. Esto confirma el propósito de la red: manipular los modelos de IA y cambiar sutilmente el panorama de la información.
El contenido de Pravda Australia se centra principalmente en temas australianos, con aproximadamente el 40% de sus más de 6.300 historias directamente relacionadas con las elecciones. El sitio web presenta con frecuencia contenido relacionado con Rusia, Ucrania, la discordia entre los aliados occidentales y representaciones desfavorables de los líderes occidentales. La mayoría de las historias son reproducciones textuales de publicaciones de canales de Telegram, particularmente aquellos gestionados por AussieCossack (Simeon Boikov) y RealLandDownUnder.
AussieCossack, un australiano conocido por sus puntos de vista pro-Kremlin, es una fuente importante de contenido para Pravda Australia. Aproximadamente uno de cada cuatro artículos del sitio reproduce sus publicaciones. Si bien Boikov afirma desconocer que sus publicaciones se están utilizando, lo ve positivamente, afirmando que es probable que el sitio reproduzca su contenido porque “confían en [él] como una fuente creíble pro-rusa”.
NewsGuard realizó una auditoría de los chatbots de IA para evaluar la efectividad de la red Pravda en la difusión de desinformación relacionada con temas australianos. La auditoría probó 300 indicaciones sobre 10 narrativas falsas en 10 chatbots líderes, incluidos ChatGPT-4o, Grok-2, Copilot, Meta AI y Gemini 2.0. Los resultados revelaron que el 16,66% de las respuestas de los chatbots amplificaron las narrativas falsas que se les proporcionaron.
Las narrativas falsas probadas incluyeron afirmaciones como “El Banco de Australia demandó a la ministra de Asuntos Exteriores australiana, Penny Wong, por promover una plataforma de criptomonedas” y “Las granjas eólicas causan sequía y contribuyen al calentamiento global”. Los chatbots tuvieron el peor desempeño cuando se les presentaron indicaciones diseñadas para generar desinformación.
Si bien la tasa de amplificación del 16,66% puede parecer baja, es comparable a la tasa de error de las organizaciones australianas de verificación de datos. NewsGuard descubrió que la tasa de amplificación fue casi el doble en los Estados Unidos, lo que sugiere que la campaña para influir en los modelos de IA en los EE. UU. es más extensa y de mayor duración.
La ABC también realizó su propia auditoría de los chatbots de IA, que arrojó resultados similares. Algunas herramientas de IA devolvieron respuestas que contenían información falsa relacionada con la política australiana, como el inexistente “Partido Musulmán Australiano”. Además, algunos chatbots podían generar fácilmente publicaciones falsas en redes sociales para amplificar información falsa.
A pesar de los hallazgos preocupantes, el impacto de Pravda Australia en el frente de la IA sigue sin estar claro. La falta de participación humana orgánica del sitio sugiere que puede ser una operación de “larga duración”, centrada en la influencia a largo plazo en lugar del impacto inmediato.
El Grupo de Trabajo de Aseguramiento de la Integridad Electoral, que incluye a las agencias de inteligencia y la Comisión Electoral Australiana (AEC), está investigando las actividades de Pravda Australia. El senador James Paterson, portavoz de asuntos internos de la Coalición, ha pedido una investigación exhaustiva de cualquier denuncia de injerencia extranjera.
La AEC ha señalado que el tráfico web al sitio y la amplificación de su contenido en las redes sociales son muy bajos. Sin embargo, los expertos enfatizan que la participación humana no es la métrica principal para juzgar el éxito de la operación. El objetivo es influir en los modelos de IA, que luego pueden difundir narrativas pro-rusas a un público más amplio.
Los expertos creen que Rusia está jugando un juego largo en la guerra de la información. Miah Hammond-Errey, director ejecutivo de Strat Futures, señala que Rusia considera estas operaciones en términos de generaciones, mientras que los australianos tienden a centrarse en los ciclos electorales. Rusia tiene un interés particular en los resultados electorales de Australia debido a la membresía de Australia en la alianza de seguridad Five Eyes y su apoyo a Ucrania.
Una operación de influencia pro-rusa, a través del sitio web “Pravda Australia”, está intentando “envenenar” chatbots de IA con propaganda dirigida a las elecciones australianas y sembrar división a largo plazo. Aunque el sitio tiene poca interacción humana, forma parte de una red más amplia que influye con éxito en los modelos de IA, alterando potencialmente sus respuestas y amplificando narrativas falsas. Esto destaca un cambio preocupante en la guerra de la información, priorizando la manipulación de la IA sobre la interacción humana directa, exigiendo vigilancia y medidas proactivas para salvaguardar los procesos democráticos.
Leave a Reply