Blog

En un momento en que Meta está incrementando significativamente su inversión en inteligencia artificial para competir con rivales como OpenAI y Anthropic, Joelle Pineau, la jefa de investigación de IA de la compañía, se marcha. La salida de Pineau plantea interrogantes sobre la capacidad de Meta para alcanzar sus ambiciosos objetivos, incluyendo establecer su modelo de lenguaje Llama como un estándar de la industria y llegar a mil millones de usuarios de chatbots.

La investigación de inteligencia artificial (IA) de Meta está experimentando un cambio significativo con la salida de su directora, Joelle Pineau. Esta decisión se produce en un momento crítico, ya que Meta está realizando inversiones sustanciales en el desarrollo de la IA para mantener su ventaja competitiva en un panorama en rápida evolución. Pineau, que ha sido una figura clave en los esfuerzos de IA de Meta desde que se unió en 2017, anunció su decisión de irse el 30 de mayo, afirmando que es hora de “crear espacio para que otros persigan el trabajo” a medida que “la carrera por la IA se acelera”. Su salida deja un vacío en el liderazgo del grupo de Investigación Fundamental de IA (FAIR) de Meta, que dirigía y que estaba compuesto por un equipo de aproximadamente 1.000 personas en diez ubicaciones.

El momento de la salida de Pineau plantea interrogantes sobre su posible impacto en la capacidad de Meta para competir eficazmente con importantes actores de la IA como OpenAI, Anthropic y xAI de Elon Musk. El CEO de Meta, Mark Zuckerberg, ha priorizado explícitamente la IA, comprometiendo una suma sustancial de 65.000 millones de dólares este año para iniciativas relacionadas con la IA. Esta importante inversión subraya la ambición de la empresa no solo de seguir el ritmo, sino de liderar potencialmente en el campo de la IA. La pérdida de una líder experimentada como Pineau, con su amplia experiencia y liderazgo de un gran equipo de investigación, podría introducir complejidades en la navegación de este entorno competitivo y en la ejecución de la ambiciosa hoja de ruta de IA de Meta.

Un componente central de la estrategia de IA de Meta es su modelo de lenguaje grande de código abierto, Llama. La empresa pretende establecer Llama como el estándar de la industria a nivel mundial, posicionándolo como un competidor directo de los modelos propietarios desarrollados por otros gigantes tecnológicos. Además, Meta se ha fijado el ambicioso objetivo de alcanzar los mil millones de usuarios para su chatbot de IA, que está integrado en sus plataformas populares, incluyendo Facebook, Instagram y WhatsApp. A diciembre, el chatbot de IA de Meta ya había conseguido 600 millones de usuarios activos mensuales, lo que indica una tracción significativa hacia este objetivo. El éxito de Llama y la adopción generalizada del chatbot de IA de Meta son cruciales para las aspiraciones de IA a largo plazo de la empresa, y los cambios de liderazgo a nivel de investigación podrían influir en la velocidad y la eficacia de estas iniciativas.

El mandato de Pineau en Meta vio una reorganización estratégica de los equipos de IA de la empresa el año pasado. Esta reestructuración tenía como objetivo acercar a Pineau y al grupo FAIR a la división de productos. El objetivo era acelerar la integración de la investigación de IA de vanguardia en la diversa gama de productos de Meta. Esta medida puso de manifiesto el compromiso de la empresa de traducir la investigación fundamental en mejoras y características tangibles de los productos. La salida de Pineau podría requerir una reevaluación de esta estructura o el nombramiento de un sucesor que pueda tender eficazmente un puente entre la investigación y el desarrollo de productos para mantener el impulso de esta integración.

Las contribuciones de Pineau al campo de la IA abarcan más de dos décadas, lo que demuestra un compromiso profundo y duradero con el área. Sus primeros trabajos incluyeron el desarrollo de un sistema de reconocimiento de voz para pilotos de helicópteros durante sus estudios. Reflexionando sobre su decisión de unirse a Meta, señaló que “mucha de la mayor innovación en IA iba a ocurrir en la industria”. También enfatizó el compromiso único de Meta con la “ciencia abierta y la investigación abierta” como un factor clave en su elección, lo que indica una preferencia por un enfoque colaborativo y transparente del desarrollo de la IA. Su salida significa la pérdida de una líder que valoraba y defendía los principios de la investigación abierta dentro de una gran empresa tecnológica.

La salida de Pineau no es un incidente aislado dentro de la estructura de liderazgo de Meta. La empresa ha experimentado recientemente otras salidas significativas, incluyendo a Dan Neary, vicepresidente para la región de Asia-Pacífico, que es el mayor mercado de Meta, y a Kate Hamill, directora general de comercio minorista y comercio electrónico en Norteamérica, que había estado en la empresa durante más de una década. Estos cambios de liderazgo concurrentes en diferentes divisiones podrían sugerir cambios organizativos más amplios o desafíos dentro de Meta, añadiendo otra capa de complejidad al panorama actual de la empresa, mientras navega por importantes iniciativas estratégicas como su importante impulso en la IA.

Joelle Pineau, jefa de investigación de IA de Meta, se marcha mientras la empresa invierte fuertemente en IA para competir con OpenAI y xAI, buscando establecer Llama como estándar y alcanzar mil millones de usuarios de chatbot. Su salida, junto con otros cambios recientes de liderazgo, podría complicar la ambiciosa estrategia de IA de Meta. ¿Será suficiente el compromiso de Meta con la ciencia abierta y sus ambiciosos objetivos para asegurar su lugar en el panorama de la IA en rápida evolución?

La tecnología de vehículos autónomos enfrenta desafíos significativos al manejar situaciones inesperadas, tanto en sentido figurado como literal. Recientemente, el ex ingeniero de la NASA Mark Rober realizó una serie de pruebas para evaluar el desempeño de los sistemas de vehículos autónomos, específicamente el Autopilot de Tesla y un sistema basado en LiDAR, cuando se enfrentan a obstáculos inusuales, incluyendo un intento humorístico de replicar un truco del Correcaminos.

Los coches autónomos se enfrentan a desafíos significativos, tanto figurativos como literales. Figurativamente, un obstáculo importante es la capacidad de anticipar lo inesperado, identificar rápidamente problemas potenciales y reaccionar apropiadamente para garantizar la seguridad. Literalmente, como destaca un experimento reciente, el desafío puede ser tan extravagante como una pared gigante pintada para que se asemeje a la carretera por delante, diseñada para engañar al vehículo y provocar una colisión. Si bien este último escenario es altamente improbable en la conducción del mundo real, sirvió como premisa para una prueba convincente de las capacidades de los vehículos autónomos.

El ex ingeniero de la NASA y popular YouTuber Mark Rober exploró este concepto en su video “¿Puedes engañar a un coche autónomo?”. Enfrentó a dos sistemas de conducción autónoma distintos: el Autopilot de Tesla, que se basa únicamente en la visión por computadora, y un sistema sin nombre que utiliza sensores de detección y alcance de luz (LiDAR). La serie de pruebas culminó en un intento dramático de detener un coche utilizando la táctica clásica de Wile E. Coyote de una pared pintada.

Los resultados de la prueba de la pared fueron sorprendentes. El Tesla, operando con Autopilot, no reconoció la pared como un obstáculo y la atravesó directamente a aproximadamente 40 millas por hora, dejando un agujero visiblemente grande. Este fallo fue uno de los tres en un total de seis pruebas realizadas por Rober.

Más allá de la prueba de la pared caricaturesca, Rober también investigó la capacidad de los sistemas para evitar golpear a un muñeco infantil en condiciones adversas. Si bien el Autopilot de Tesla se detuvo con éxito ante un muñeco estacionario, un muñeco que salía corriendo en el último segundo y un muñeco oscurecido por luces brillantes, no logró detenerse cuando el muñeco estaba oculto por la niebla y la lluvia intensa. Esto demuestra una vulnerabilidad significativa en el sistema de solo visión por computadora en condiciones climáticas comunes del mundo real.

En marcado contraste con el rendimiento del Tesla, el sistema basado en LiDAR tuvo éxito en cada prueba, incluidos los desafiantes escenarios de niebla y lluvia y la prueba de la pared. Este éxito constante, aunque quizás no sorprendente dado el tema subyacente del video, subraya la efectividad potencial de la tecnología LiDAR para superar obstáculos que desafían la visión por computadora.

Vale la pena señalar que el video promueve sutilmente la tecnología LiDAR. Rober comienza mostrando un sensor LiDAR portátil utilizado para mapear la atracción Space Mountain de Disney World e incluye un anuncio directo de un fabricante de LiDAR. Este contexto sugiere que el video tiene, al menos en parte, la intención de resaltar las ventajas de LiDAR.

El sólido rendimiento del sistema LiDAR en las pruebas de Rober es particularmente notable porque Tesla ha optado públicamente por prescindir de estos sensores, confiando por completo en la visión por computadora. La justificación de esta decisión varía, pero las razones comúnmente citadas incluyen el alto costo de los sensores LiDAR, el aumento del procesamiento de datos requerido y la creencia de que LiDAR actúa como una “muleta” que obstaculiza el avance de la tecnología de visión por computadora. El CEO de Tesla, Elon Musk, incluso ha descartado LiDAR como una “misión inútil”.

Sin embargo, el video presenta un contrapunto convincente a esta postura. Si bien LiDAR puede tener inconvenientes, demostrablemente impidió que el vehículo atravesara una pared y, lo que es más importante, que golpeara a un muñeco infantil en condiciones difíciles. Esto plantea una pregunta crítica sobre las compensaciones involucradas. ¿Vale la pena el potencial de un desarrollo más rápido de la visión por computadora el riesgo de no evitar accidentes prevenibles en el presente? Es difícil justificar un sistema que podría golpear a un niño cuando la tecnología alternativa podría haberlo evitado, simplemente para acelerar el desarrollo de un sistema futuro que *podría* eventualmente evitar tales incidentes.

A pesar de las graves implicaciones de los resultados de la prueba, el video en sí es muy atractivo, característico del trabajo de Rober. La reacción al video, particularmente las imágenes del choque contra la pared compartidas en Twitter, ha sido igualmente entretenida. Según los informes, ha alimentado teorías de conspiración entre algunos entusiastas de Tesla que creen que Rober está siendo pagado por la industria LiDAR para desacreditar a Tesla, agregando otra capa de drama al debate en curso sobre la tecnología de vehículos autónomos.

El experimento de Mark Rober expone una vulnerabilidad crítica en el Autopilot de Tesla basado únicamente en visión artificial: su susceptibilidad a trucos visuales engañosos y condiciones climáticas adversas, a diferencia de los sistemas LiDAR que rindieron consistentemente bien. Aunque Tesla prioriza el desarrollo de la visión artificial, los hallazgos de Rober plantean serias dudas sobre las compensaciones de seguridad y las posibles consecuencias de prescindir de la redundancia de sensores en vehículos autónomos; quizás sea hora de reconsiderar la etiqueta de “misión inútil”.

Imagina escuchar música o un podcast sin audífonos, o tener una conversación privada en público sin que nadie más la escuche. Nuestra investigación recién publicada presenta una forma de crear enclaves audibles – zonas localizadas de sonido que están aisladas de su entorno. En otras palabras, hemos desarrollado una tecnología que podría crear sonido exactamente donde se necesita.

Imagina un mundo donde pudieras disfrutar de tu música o podcast favorito en público sin necesidad de auriculares ni audífonos, y sin que un solo sonido llegara a nadie más a tu alrededor. Este concepto aparentemente futurista se está convirtiendo en realidad gracias a una investigación innovadora que introduce la idea de “enclaves audibles”: bolsillos de sonido localizados que están aislados de su entorno. Esta tecnología innovadora promete ofrecer sonido precisamente donde se necesita, transformando la forma en que experimentamos el entretenimiento, la comunicación y el audio espacial.

En esencia, el sonido es simplemente una vibración que se propaga por el aire como una onda. Estas ondas son generadas por objetos que se mueven hacia adelante y hacia atrás, lo que hace que las moléculas de aire se compriman y descompriman. La frecuencia de estas vibraciones dicta el tono que percibimos; las bajas frecuencias crean sonidos graves como un bombo, mientras que las altas frecuencias producen sonidos agudos como un silbido. Sin embargo, controlar la dirección y la propagación del sonido es inherentemente desafiante debido a la difracción, la tendencia de las ondas sonoras a extenderse a medida que viajan. Este efecto es particularmente pronunciado para los sonidos de baja frecuencia con sus longitudes de onda más largas, lo que dificulta increíblemente confinar el sonido a un área específica. Si bien las tecnologías existentes como los altavoces de matriz paramétrica pueden crear haces de sonido enfocados, aún emiten sonido audible a lo largo de toda la trayectoria del haz.

El avance en la creación de enclaves audibles radica en un enfoque novedoso que utiliza haces de ultrasonido auto-flexibles y los principios de la acústica no lineal. El ultrasonido, con frecuencias por encima del rango de audición humana (por encima de 20 kHz), es inaudible para los humanos y puede penetrar varios materiales, lo que lo hace útil en campos como la imagen médica. En esta investigación, el ultrasonido sirve como un portador silencioso para el sonido audible. Normalmente, las ondas sonoras se combinan linealmente, simplemente sumándose proporcionalmente. Sin embargo, cuando las ondas sonoras son suficientemente intensas, pueden interactuar de forma no lineal, generando nuevas frecuencias que no estaban presentes originalmente. Esta interacción no lineal es la clave: dos haces de ultrasonido a diferentes frecuencias, individualmente silenciosos, se cruzan en el espacio. En esta intersección, los efectos no lineales generan una nueva onda sonora a una frecuencia audible, que se escucha solo dentro de esa región específica.

Fundamentalmente, los investigadores diseñaron haces ultrasónicos que pueden doblarse de forma autónoma. Si bien las ondas sonoras normalmente viajan en línea recta a menos que se obstruyan, el uso de metasuperficies acústicas, materiales especializados diseñados para manipular las ondas sonoras, permite dar forma a los haces de ultrasonido para que se doblen a medida que se propagan. De manera similar a como una lente óptica dobla la luz, las metasuperficies acústicas alteran la trayectoria de las ondas sonoras. Al controlar con precisión la fase de las ondas ultrasónicas, se pueden crear trayectorias de sonido curvas, lo que permite que los haces naveguen alrededor de obstáculos y converjan en una ubicación objetivo específica.

El fenómeno central que impulsa esta tecnología es la generación de frecuencia de diferencia. Cuando dos haces ultrasónicos con frecuencias ligeramente diferentes, por ejemplo, 40 kHz y 39,5 kHz, se superponen, producen una nueva onda sonora en la diferencia entre sus frecuencias, en este caso, 0,5 kHz, o 500 Hz, que se encuentra dentro del rango de audición humana. Esto significa que el sonido solo es audible donde los haces se cruzan. Fuera de esta intersección, las ondas ultrasónicas permanecen silenciosas. En consecuencia, el audio se puede entregar a una ubicación o persona específica sin molestar a nadie más mientras el sonido viaja.

Las posibles aplicaciones de esta capacidad para crear enclaves de audio son vastas y transformadoras. El audio personalizado en espacios públicos es una posibilidad significativa. Los museos podrían ofrecer diferentes guías de audio a los visitantes sin necesidad de auriculares, y las bibliotecas podrían permitir a los estudiantes escuchar lecciones de audio sin interrumpir a los demás. En un automóvil, los pasajeros podrían disfrutar de la música sin que el conductor se distraiga de las instrucciones de navegación. Las oficinas y los entornos militares podrían beneficiarse de zonas de voz localizadas para conversaciones confidenciales. Además, los enclaves de audio podrían adaptarse para cancelar el ruido en áreas designadas, creando zonas silenciosas para mejorar la concentración en los lugares de trabajo o reducir la contaminación acústica en entornos urbanos.

Sin embargo, esta tecnología aún no está lista para su disponibilidad comercial inmediata. Quedan desafíos, incluida la distorsión no lineal que puede afectar la calidad del sonido. La eficiencia energética es otro obstáculo, ya que la conversión de ultrasonido a sonido audible requiere campos de alta intensidad que pueden ser intensivos en energía para generar. A pesar de estos obstáculos, los enclaves de audio representan un cambio fundamental en el control del sonido. Al redefinir cómo el sonido interactúa con el espacio, esta investigación abre nuevas y emocionantes posibilidades para experiencias de audio inmersivas, eficientes y personalizadas.

Investigadores han creado “enclaves de audio”, bolsillos de sonido localizados mediante la intersección de haces de ultrasonido enfocados que generan sonido audible solo en un punto específico. Esta tecnología, que utiliza acústica no lineal y metasuperficies acústicas para curvar el ultrasonido, promete experiencias de audio personalizadas en espacios públicos, vehículos, oficinas y más, sin molestar a otros. Aunque persisten desafíos como la calidad del sonido y la eficiencia energética, los enclaves de audio representan un avance revolucionario en el control del sonido, sugiriendo un futuro donde el sonido se moldea y se entrega con precisión.

Se ha descubierto una nueva vulnerabilidad que permite a los investigadores forzar la fuerza bruta de la encriptación utilizada por el ransomware Akira, lo que potencialmente permite a las víctimas recuperar sus datos sin pagar el rescate. El ransomware Akira, conocido por atacar a organizaciones de alto perfil y exigir grandes sumas de dinero, utilizaba anteriormente métodos de encriptación que fueron descifrados y parcheados, pero una variante reciente ha demostrado ser vulnerable a un contraataque basado en GPU.

Se ha logrado un avance significativo contra el ransomware Akira, un ciberataque notorio conocido por atacar a entidades de alto perfil con exorbitantes demandas de rescate. Un bloguero conocido como Tinyhack ha descubierto y utilizado un nuevo exploit que aprovecha métodos de fuerza bruta con la ayuda de potentes GPU para descifrar archivos cifrados por una variante específica de Akira. Este desarrollo ofrece un posible salvavidas para las organizaciones ya impactadas por esta cepa particular del ransomware.

La vulnerabilidad reside en el método de cifrado empleado por esta variante de Akira. A diferencia del cifrado moderno más sofisticado, utiliza técnicas más antiguas, específicamente chacha8 y Kcipher2, para generar claves de cifrado por archivo. Crucialmente, estas claves se basan en cuatro marcas de tiempo distintas, medidas en nanosegundos. La investigación de Tinyhack reveló que estas marcas de tiempo, aunque inicialmente parecen aleatorias, pueden reducirse a un rango relativamente estrecho, con un promedio de alrededor de 5 millones de nanosegundos (equivalente a 0,005 segundos). Este rango limitado hace que el cifrado sea susceptible a ataques de fuerza bruta, donde un potente sistema informático intenta sistemáticamente cada combinación posible dentro de ese rango para identificar las marcas de tiempo correctas y, posteriormente, generar las claves de descifrado.

Sin embargo, la ejecución exitosa de este método de descifrado no está exenta de requisitos previos y desafíos. Para que el ataque de fuerza bruta sea efectivo, los archivos cifrados deben permanecer intactos después del proceso de cifrado. Esto es fundamental porque el método se basa en poder determinar la marca de tiempo del último acceso al archivo, que sirve como una pieza crucial de información para reducir el rango potencial de las marcas de tiempo de cifrado originales. Además, el uso de Sistemas de Archivos de Red (NFS) puede introducir complicaciones. El retraso del servidor inherente a los entornos NFS puede dificultar la determinación precisa de las verdaderas marcas de tiempo utilizadas durante el proceso de cifrado, lo que podría ampliar el espacio de búsqueda para el ataque de fuerza bruta y aumentar el tiempo necesario para el descifrado.

La potencia computacional requerida para este descifrado de fuerza bruta es sustancial. Las pruebas de Tinyhack demostraron que, utilizando una sola GPU Nvidia RTX 4090, una tarjeta gráfica de primer nivel conocida por su potencia de procesamiento, descifrar un solo archivo iterando a través del rango promedio de 4,5 millones de nanosegundos para encontrar las cuatro marcas de tiempo correctas y generar las claves de descifrado lleva aproximadamente siete días. Para reducir significativamente este tiempo de descifrado, es necesario el uso de múltiples GPU de alta gama. El artículo destaca que con dieciséis GPU RTX 4090, el proceso podría completarse en poco más de diez horas. Esto subraya la necesidad de importantes recursos computacionales, y se aconseja a las organizaciones afectadas que consideren alquilar servidores equipados con múltiples GPU a través de servicios como Runpod o Vast.ai para acelerar el proceso de descifrado. La propia experiencia de Tinyhack con un cliente implicó descifrar un conjunto completo de archivos de VM, lo que llevó alrededor de tres semanas utilizando este método, lo que ilustra que incluso con recursos significativos, el proceso aún puede llevar mucho tiempo dependiendo del volumen de datos.

El descubrimiento de un método de descifrado viable para una variante de ransomware es una victoria significativa en la batalla en curso contra el cibercrimen. Los ataques de ransomware son notoriamente difíciles de recuperar sin pagar el rescate, lo que convierte cualquier método que evite esto en una herramienta valiosa para los investigadores de ciberseguridad y las organizaciones afectadas. Si bien es muy probable que los perpetradores detrás de Akira parcheen rápidamente esta vulnerabilidad en futuras iteraciones de su ransomware, tal como lo hicieron después de que se lanzara la herramienta de descifrado anterior de Avast, este nuevo método ofrece una ventana de oportunidad para aquellos que ya han sido impactados por esta variante específica para potencialmente recuperar sus datos sin sucumbir a las demandas de los atacantes.

La publicación detallada del blog de Tinyhack proporciona una descripción completa del descubrimiento de esta vulnerabilidad y ofrece instrucciones completas para implementar el método de descifrado de fuerza bruta basado en GPU. Este nivel de transparencia es crucial para permitir que las partes afectadas y los profesionales de la ciberseguridad comprendan y potencialmente utilicen este contraataque. La evolución del ransomware, desde los simples ataques basados en disquetes hasta las amenazas sofisticadas y de alto perfil como Akira, destaca el panorama siempre cambiante del cibercrimen. Sin embargo, desarrollos como el exploit de Tinyhack demuestran que con investigación persistente y enfoques innovadores, las victorias contra estas amenazas son posibles, lo que marca otro paso positivo en la lucha contra el ransomware.

Un nuevo exploit permite descifrar el ransomware Akira utilizando 16 GPUs RTX 4090 en aproximadamente 10 horas, aprovechando una vulnerabilidad en sus métodos de cifrado chacha8 y Kcipher2. Si bien es una victoria significativa contra el ransomware, este método requiere archivos cifrados intactos y no es una solución infalible, ya que los atacantes probablemente se adaptarán. El incidente resalta la continua carrera armamentística en ciberseguridad y la importancia de copias de seguridad de datos sólidas e historial de versiones.

El internet se está inundando de contenido generado por inteligencia artificial – videos extraños, imágenes interminables – a menudo producido y publicado a una velocidad asombrosa. Esta afluencia es tan masiva que está eclipsando el contenido tradicional como artículos y remodelando fundamentalmente industrias como el SEO y la publicidad. Este contenido, sin embargo, no está dirigido principalmente a espectadores humanos, sino a manipular los propios algoritmos que gobiernan internet y dan forma a nuestra comprensión de la realidad, de manera muy similar a un ataque cibernético de fuerza bruta.

La magnitud del alcance del contenido generado por IA es asombrosa. Considere el ejemplo de un solo video generado por IA, que representa una criatura extraña transformándose dentro de un centro comercial, el cual ha acumulado la asombrosa cifra de 362 millones de visualizaciones. Esta única pieza de contenido ha logrado una audiencia que supera con creces la lectura acumulada de una publicación como 404 Media en todos sus artículos, multiplicada muchas veces. Esto resalta el inmenso potencial viral y el favor algorítmico que este tipo de contenido disfruta actualmente.

Este fenómeno se refleja en la experiencia personal del autor con su algoritmo de Instagram Reels, que ahora está dominado por videos similares generados por IA. Estos videos, que a menudo presentan imágenes surrealistas o sin sentido, probablemente se producen con una velocidad notable, posiblemente en cuestión de segundos o minutos. La facilidad de creación facilita un alto volumen de producción, con muchas cuentas publicando varias veces al día. Esta proliferación se extiende a través de las plataformas de redes sociales, con miles de cuentas que contribuyen a esta vasta corriente de contenido generado por IA.

El impacto de la IA generativa se extiende más allá de las fuentes de redes sociales y llega a las industrias digitales establecidas. Porciones significativas de la industria SEO (Optimización de Motores de Búsqueda) han cambiado su enfoque por completo para aprovechar el contenido generado por IA. De manera similar, elementos de la industria de la publicidad en Internet están incorporando estas herramientas en sus estrategias. Esto indica una adopción generalizada de la IA generativa como un medio para abrumar y manipular los sistemas en línea, una estrategia que está demostrando ser notablemente efectiva.

Este despliegue estratégico de contenido generado por IA puede entenderse a través de la lente de un ataque de fuerza bruta, un concepto fundamental en ciberseguridad. Un ataque de fuerza bruta implica un enfoque implacable de prueba y error para obtener acceso a un sistema, como adivinar una contraseña intentando sistemáticamente cada combinación posible. Si bien no es el método más eficiente, su efectividad radica en su persistencia y capacidad para eventualmente descubrir vulnerabilidades o credenciales correctas.

Al igual que un ataque de fuerza bruta, la proliferación de “basura” y spam generados por IA en Internet opera abrumando al objetivo, en este caso, los algoritmos que rigen la visibilidad en línea y la difusión de información. Estos algoritmos, que dan forma a cómo una parte significativa del público percibe e interpreta la realidad, están siendo bombardeados con un gran volumen de contenido. La distinción clave es que la “audiencia” principal de este contenido generado por IA no son los seres humanos, sino los propios algoritmos, que están siendo explotados para el alcance y la visibilidad.

La IA generativa inunda internet con contenido de baja calidad, simulando un ataque de fuerza bruta a los algoritmos y potencialmente distorsionando nuestra percepción de la realidad. Esta creación incesante de contenido, impulsada por el SEO y la publicidad, prioriza la visibilidad algorítmica sobre la interacción humana genuina. Es crucial examinar críticamente cómo la IA está remodelando el panorama digital y su impacto en nuestra comprensión de la verdad.

El Instituto Nacional de Estándares y Tecnología (NIST), en colaboración con el Instituto de Seguridad de Inteligencia Artificial (AISI) de EE. UU., ha revisado sus directrices para los científicos asociados, cambiando significativamente el enfoque de la seguridad, la equidad y el desarrollo responsable de la IA. Estos cambios, supuestamente impulsados por la administración Trump, priorizan la reducción del sesgo ideológico y el impulso de la competitividad estadounidense en el panorama global de la IA, lo que genera preocupación entre algunos investigadores sobre las posibles consecuencias negativas para los usuarios de la IA.

El Instituto Nacional de Estándares y Tecnología (NIST), la organización matriz del Instituto de Seguridad de Inteligencia Artificial de EE. UU. (AISI), ha alterado significativamente el enfoque de sus acuerdos de investigación colaborativa con científicos asociados. Las instrucciones recientemente emitidas para los miembros del consorcio AISI, distribuidas a principios de marzo, han eliminado las menciones explícitas de “seguridad de la IA”, “IA responsable” y “equidad de la IA” de las habilidades esperadas de los investigadores. Esto marca un cambio notable con respecto a los acuerdos anteriores, que fomentaban el trabajo técnico destinado a identificar y rectificar el comportamiento discriminatorio de los modelos basado en factores como el género, la raza, la edad o la desigualdad de riqueza. El énfasis anterior en abordar tales sesgos se basaba en su potencial para impactar directamente a los usuarios finales y perjudicar desproporcionadamente a los grupos minoritarios y económicamente desfavorecidos.

Además, el acuerdo actualizado señala un menor interés en combatir la desinformación y los deepfakes. Ha eliminado el requisito de que los investigadores desarrollen herramientas “para autenticar el contenido y rastrear su procedencia” y “etiquetar el contenido sintético”. Al mismo tiempo, las nuevas instrucciones introducen una solicitud para priorizar la “reducción del sesgo ideológico, para permitir el florecimiento humano y la competitividad económica”. Este nuevo enfoque se ve reforzado por un énfasis adicional en un enfoque de “Estados Unidos primero”, con un grupo de trabajo específicamente encargado de desarrollar herramientas de prueba “para expandir la posición global de Estados Unidos en IA”.

Estos cambios han provocado fuertes críticas por parte de los investigadores que trabajan con el Instituto de Seguridad de IA. Un investigador, que habló de forma anónima por temor a represalias, afirmó que la eliminación de la seguridad, la equidad, la desinformación y la responsabilidad como aspectos valiosos de la IA “habla por sí sola”. Este investigador cree que descuidar estos problemas podría afectar negativamente a los usuarios habituales al permitir potencialmente que algoritmos que discriminan por ingresos u otros datos demográficos operen sin control. Afirma que, “A menos que seas un multimillonario de la tecnología, esto te llevará a un futuro peor para ti y para las personas que te importan. Espera que la IA sea injusta, discriminatoria, insegura y se implemente de forma irresponsable”. Otro investigador que ha colaborado anteriormente con el AISI expresó su desconcierto, preguntando: “¿Qué significa siquiera que los humanos florezcan?”.

El cambio de prioridades parece alinearse con las críticas a los modelos de IA expresadas por figuras como Elon Musk. Musk, que actualmente está involucrado en un esfuerzo por reducir el gasto y la burocracia gubernamental en nombre del presidente Trump, ha criticado públicamente los modelos desarrollados por OpenAI y Google, calificándolos de “racistas” y “woke”. Con frecuencia ha citado un improbable escenario hipotético en el que un modelo de Google debatía la ética de usar el pronombre incorrecto de alguien para evitar un apocalipsis nuclear como evidencia de un sesgo ideológico percibido. Vale la pena señalar que Musk dirige xAI, una empresa de IA que compite directamente con OpenAI y Google, y un investigador que asesora a xAI ha desarrollado, según se informa, una técnica para alterar potencialmente las tendencias políticas de los modelos de lenguaje grandes.

Un creciente cuerpo de investigación respalda la noción de que el sesgo político puede existir en los modelos de IA e impactar a los usuarios de todo el espectro político. Por ejemplo, un estudio de 2021 del algoritmo de recomendación de Twitter reveló que era más probable que a los usuarios se les mostraran perspectivas de derecha en la plataforma. Esta evidencia existente de sesgo en los modelos de IA aumenta la preocupación por las posibles consecuencias de restar importancia a la equidad y centrarse en reducir el “sesgo ideológico” sin definiciones ni salvaguardas claras.

Los cambios en el NIST y el AISI se están produciendo en un contexto más amplio de esfuerzos liderados por el llamado Departamento de Eficiencia Gubernamental (DOGE) de Musk. Desde enero, DOGE ha estado trabajando activamente para reducir el tamaño y el alcance del gobierno de EE. UU., lo que, según se informa, ha llevado al despido de funcionarios públicos, la suspensión del gasto y la creación de un entorno percibido como hostil para aquellos que podrían oponerse a los objetivos de la administración Trump. Algunos departamentos gubernamentales, como el Departamento de Educación, han archivado y eliminado documentos que mencionan la Diversidad, la Equidad y la Inclusión (DEI). DOGE también ha apuntado recientemente al NIST, la organización matriz de AISI, lo que ha resultado en el despido de docenas de empleados, según se informa.

Stella Biderman, directora ejecutiva de Eleuther, una organización sin fines de lucro que trabaja con el Instituto de Seguridad de IA, sugiere que estos cambios probablemente se originan en la Casa Blanca. Ella afirma: “Esos cambios provienen casi directamente de la Casa Blanca”. Biderman cree que la administración ha dejado claras sus prioridades y que “reescribir el plan era necesario para seguir existiendo”. Esto indica que el cambio de enfoque puede ser una medida estratégica para garantizar la continuación de las operaciones del AISI bajo las directivas de la administración actual.

El Instituto de Seguridad de IA fue establecido inicialmente por una orden ejecutiva emitida por la administración Biden en octubre de 2023, en un momento de creciente preocupación con respecto a los rápidos avances en la IA. Bajo la administración Biden, el instituto tenía la tarea de abordar una amplia gama de riesgos potenciales asociados con los modelos de IA potentes, incluido su posible uso en ciberataques o el desarrollo de armas químicas o biológicas. Una parte clave de su mandato original era evaluar si los modelos de IA podrían volverse engañosos y peligrosos a medida que evolucionaban.

Sin embargo, una orden ejecutiva emitida por la administración Trump en enero revocó la orden de Biden, manteniendo el Instituto de Seguridad de IA. Esta nueva orden ejecutiva establece explícitamente: “Para mantener este liderazgo, debemos desarrollar sistemas de IA que estén libres de sesgos ideológicos o agendas sociales diseñadas”. Este lenguaje refleja directamente el nuevo énfasis que se observa en las instrucciones actualizadas del NIST y destaca el enfoque de la administración en la neutralidad ideológica percibida en el desarrollo de la IA.

Reforzando aún más este cambio de prioridades, el vicepresidente JD Vance declaró en la Cumbre de Acción de IA en París en febrero que el gobierno de EE. UU. priorizaría la competitividad estadounidense en el desarrollo y la utilización de la IA. Vance dijo a los asistentes que “El futuro de la IA no se ganará con lamentos sobre la seguridad”. Cabe destacar que la delegación estadounidense a este evento internacional no incluyó a nadie del Instituto de Seguridad de IA, lo que indica potencialmente un papel disminuido para el instituto en las discusiones internacionales sobre la seguridad de la IA.

El investigador que expresó su preocupación por la posibilidad de una mayor injusticia e inseguridad en la IA también alega que algunos investigadores de IA han buscado el favor de los republicanos y sus patrocinadores financieros en un intento de mantener la influencia en las discusiones sobre la seguridad de la IA. Este investigador expresa la esperanza de que estos investigadores eventualmente reconozcan que “estas personas y sus patrocinadores corporativos son leopardos que se comen la cara y solo se preocupan por el poder”, lo que sugiere una relación transaccional percibida en la que las preocupaciones de seguridad se ven comprometidas por el acceso político. La Casa Blanca no respondió de inmediato a una solicitud de comentarios de WIRED con respecto a estos acontecimientos.

La administración Trump ha cambiado significativamente el enfoque del Instituto de Seguridad de la IA (AISI), abandonando la seguridad de la IA, la equidad y las preocupaciones sobre la desinformación para priorizar la “reducción del sesgo ideológico” y la competitividad estadounidense en IA. Este cambio, impulsado por figuras como Elon Musk y David Sacks, implica la eliminación de objetivos clave relacionados con la seguridad y podría poner en peligro las salvaguardas contra algoritmos de IA discriminatorios, lo que genera preocupaciones sobre un futuro de IA menos equitativo y potencialmente más peligroso.

China exigirá que todo contenido generado por inteligencia artificial (IA), incluyendo texto, audio, video, imágenes y escenas virtuales, sea claramente etiquetado a partir del 1 de septiembre de 2025. Esta regulación, anunciada por la Administración del Ciberespacio de China (CAC), tiene como objetivo combatir la difusión de desinformación y prevenir la confusión entre los usuarios de internet a medida que avanza la tecnología de IA.

China se prepara para implementar regulaciones integrales que exigen el etiquetado claro de todo el contenido generado por IA, una medida significativa destinada a mejorar la transparencia y combatir la posible propagación de desinformación. Esta nueva política, anunciada por la Administración del Ciberespacio de China (CAC), el censor de internet de la nación, exige que el texto, audio, video, imágenes e incluso escenas virtuales generados por IA sean explícitamente señalados para las audiencias. Además, se requiere que estas etiquetas se incrusten dentro de los metadatos del contenido, lo que garantiza un sistema de identificación más robusto y rastreable. La publicación por parte de la CAC de una transcripción que describe estas medidas, similar a una sección de preguntas frecuentes, proporciona una mayor comprensión del alcance y la implementación de esta política, que se insinuó por primera vez en los borradores de planes en septiembre pasado.

Entrando en vigor el 1 de septiembre de 2025, esta regulación responsabiliza a los proveedores de servicios, incluidos los modelos de lenguaje grandes (LLM), de garantizar que todo el contenido generado y sintetizado lleve estas etiquetas explícitas. La directiva es amplia y abarca una amplia gama de tipos de datos, desde texto e imágenes tradicionales hasta formatos más complejos como videos, audio y entornos virtuales. Más allá de los creadores de contenido, la regulación también extiende su alcance a las tiendas de aplicaciones, exigiéndoles que verifiquen que las aplicaciones que alojan cumplan con estas nuevas reglas, creando un enfoque de múltiples capas para la aplicación.

Si bien la regla general requiere el etiquetado, existen disposiciones para que los usuarios soliciten contenido generado por IA sin etiquetar en circunstancias específicas, como para “preocupaciones sociales y necesidades industriales”. Sin embargo, esta exención viene con estipulaciones. La aplicación generadora debe reiterar claramente el requisito de etiquetado al usuario y, lo que es crucial, la aplicación debe registrar esta información para facilitar la trazabilidad. La responsabilidad final de agregar la etiqueta generada por IA y los metadatos en estos casos específicos recae en la persona o entidad del usuario final, lo que traslada la carga del cumplimiento en estos casos.

Un componente clave de la regulación es la estricta prohibición contra la eliminación maliciosa, la manipulación, la falsificación o el ocultamiento de estas etiquetas de IA. Esto incluye no solo el acto de eliminar las etiquetas y los metadatos existentes, sino también la provisión de herramientas diseñadas para facilitar tales acciones. Además, la regulación prohíbe explícitamente la adición de estos identificadores de IA a los datos creados por humanos, lo que impide la caracterización errónea del contenido auténtico como generado artificialmente. Esta doble prohibición tiene como objetivo mantener la integridad tanto del contenido generado por IA como del creado por humanos.

El objetivo principal detrás de esta política, según lo articulado por el PCCh a través de la CAC, es controlar la difusión de desinformación e impedir que los usuarios de Internet sean engañados por el contenido generado por IA. Al exigir una identificación clara, el gobierno pretende capacitar a las personas para distinguir entre el contenido creado por humanos y el generado por máquinas. Si bien aún no se han prescrito castigos específicos por violaciones, la amenaza inherente de acciones legales por parte del gobierno chino sirve como un elemento disuasorio significativo, lo que subraya la seriedad con la que se harán cumplir estas regulaciones.

Esta medida de China no es un incidente aislado en el panorama global de la regulación de la IA. La Unión Europea, por ejemplo, promulgó su Ley de Inteligencia Artificial en 2024, lo que demuestra un creciente esfuerzo internacional para regular el desarrollo y el uso de las tecnologías de IA. Si bien algunos pueden reaccionar negativamente al enfoque de China, particularmente dado el papel de la CAC en la administración del “Gran Cortafuegos”, que limita y controla el acceso a Internet dentro de China, los beneficios potenciales de esta política de etiquetado en la reducción de la desinformación son innegables. A medida que los LLM de IA se vuelven cada vez más sofisticados, la capacidad de identificar claramente el contenido generado artificialmente será aún más crucial para ayudar a las personas a discernir entre eventos reales y los creados por máquinas, lo que contribuirá a un entorno en línea más informado.

China exigirá etiquetado claro de todo contenido generado por IA (texto, audio, video, imágenes, escenas virtuales) a partir del 1 de septiembre de 2025 para combatir la desinformación. Aunque muchos ven esto como un paso positivo para distinguir la realidad de la fabricación por IA, persisten preocupaciones sobre la posible aplicación selectiva y la erosión de la confianza. A medida que la influencia de la IA crece, la alfabetización mediática crítica y la vigilancia son primordiales.

Los gobiernos locales chinos están utilizando cada vez más la inteligencia artificial, específicamente la plataforma de IA de DeepSeek, para detectar posibles casos de corrupción y fraude en la asistencia social. Impulsados por un impulso del gobierno central para la adopción de la IA con el fin de mejorar la eficiencia, estas autoridades locales están empleando la tecnología para analizar grandes conjuntos de datos, identificar patrones sospechosos y señalar posibles irregularidades en áreas como la distribución de la asistencia social y la venta de activos estatales.

Los gobiernos locales chinos están aprovechando cada vez más la inteligencia artificial, específicamente la plataforma de IA de DeepSeek, para detectar e investigar proactivamente posibles casos de corrupción, lo que marca un cambio significativo en las estrategias anticorrupción. Esta adopción está impulsada por un impulso del gobierno central para utilizar la IA y mejorar la eficiencia en varios sectores, incluyendo la gobernanza y la aplicación de la ley. La integración de la IA en la lucha contra la corrupción representa un avance hacia investigaciones basadas en datos, con el objetivo de complementar los métodos tradicionales y potencialmente descubrir instancias de mala conducta previamente indetectadas.

Una aplicación principal de la IA de DeepSeek es la identificación del fraude en el bienestar social, un área de preocupación común para los gobiernos locales. Por ejemplo, las autoridades de Suihua, una ciudad en la provincia de Heilongjiang, han detallado públicamente su uso de la plataforma de IA en conjunto con el análisis de big data. Según un comunicado publicado en el Heilongjiang Daily, el departamento disciplinario local examinó meticulosamente los datos relacionados con las muertes y las protecciones otorgadas a personas mayores y discapacitadas. Este análisis no fue una simple revisión de datos; implicó un “cálculo sistemático” que resultó en la señalización de “11 casos sospechosos”. Este ejemplo demuestra una aplicación práctica de la IA en la identificación de irregularidades dentro de los programas de bienestar social, lo que sugiere una posible mala asignación de fondos o reclamaciones fraudulentas. El énfasis en los “cálculos sistemáticos” destaca la capacidad de la IA para procesar grandes conjuntos de datos e identificar patrones que podrían pasar desapercibidos para los revisores humanos.

Más allá del fraude en el bienestar social, la IA de DeepSeek también se está utilizando para examinar la venta de empresas estatales (SOEs), un sector históricamente vulnerable a la corrupción. En Zhengzhou, una importante ciudad en el centro de China, los funcionarios locales informaron que la IA identificó con éxito posibles irregularidades dentro del proceso de subasta de las SOEs. La capacidad del sistema para “cruzar información sobre funcionarios públicos con datos de licitación” resultó particularmente efectiva. Esta capacidad de referencia cruzada permite a la IA señalar instancias en las que personas con conexiones con funcionarios gubernamentales están involucradas en procesos de licitación, lo que podría indicar favoritismo o colusión. Los funcionarios declararon explícitamente que este proceso “puede identificar con precisión pistas sobre problemas de [corrupción]”, lo que subraya el potencial de la IA para descubrir actividades ilícitas relacionadas con la venta de activos estatales.

La adopción de la IA de DeepSeek no es un fenómeno localizado; refleja una tendencia más amplia alentada por el gobierno central. Reconociendo el potencial de la IA para mejorar la eficiencia operativa, el gobierno central ha instado activamente a las autoridades locales a integrar las tecnologías de IA en sus flujos de trabajo. Esta directiva proporciona un marco de apoyo para que los gobiernos locales experimenten e implementen soluciones basadas en IA, incluidas las destinadas a combatir la corrupción. Este estímulo de arriba hacia abajo, junto con los resultados demostrables observados en ciudades como Suihua y Zhengzhou, es probable que acelere la adopción de la IA en los esfuerzos anticorrupción en toda China.

Además, el uso de la IA en estos casos va más allá de la simple identificación de posibles señales de alerta; su objetivo es mejorar la precisión, la eficiencia y la cientificidad generales del trabajo disciplinario. Las autoridades de Suihua declararon explícitamente que la tecnología ha “mejorado enormemente la precisión, la eficiencia y la cientificidad del trabajo de supervisión y disciplina”. Esto sugiere un cambio de las investigaciones reactivas, basadas en consejos o quejas, a un enfoque proactivo y basado en datos que anticipa y previene la corrupción. La integración de la IA permite una evaluación más sistemática y objetiva de la posible mala conducta, reduciendo la dependencia del juicio subjetivo y potencialmente minimizando el riesgo de falsas acusaciones.

En conclusión, la adopción de la IA de DeepSeek por parte de los gobiernos locales chinos representa una evolución significativa en las estrategias anticorrupción. Desde la identificación del fraude en el bienestar social en Suihua hasta el escrutinio de las subastas de SOEs en Zhengzhou, la capacidad de la IA para analizar vastos conjuntos de datos, cruzar información y señalar sistemáticamente patrones sospechosos está demostrando ser valiosa. Impulsada por el estímulo del gobierno central y demostrando resultados tangibles, la integración de la IA en los esfuerzos anticorrupción está destinada a convertirse en una práctica estándar, prometiendo un enfoque más eficiente y basado en datos para combatir la corrupción en China.

Los gobiernos locales chinos emplean cada vez más la IA de DeepSeek para detectar corrupción y fraude en asistencia social, analizando grandes datos y descubriendo numerosos casos sospechosos. Esta adopción refleja un impulso gubernamental central para usar la IA en busca de mayor eficiencia y supervisión, planteando importantes interrogantes sobre el equilibrio entre el avance tecnológico y la privacidad individual.