Blog

  • Grok vs. MAGA: La IA de Elon no convence a Trump

    El nuevo chatbot de inteligencia artificial de Elon Musk, Grok, fue diseñado inicialmente para satisfacer a una audiencia conservadora en X (anteriormente Twitter), particularmente a aquellos alineados con el movimiento MAGA. Sin embargo, el chatbot ha enfrentado recientemente críticas de algunos usuarios por proporcionar respuestas factuales y matizadas que contradicen puntos de vista conservadores populares y narrativas de la era Trump.

    Grok, el chatbot de IA desarrollado por xAI de Elon Musk, fue concebido inicialmente como una IA “anti-woke”, destinada a satisfacer las preferencias del grupo demográfico MAGA. La intención era crear un chatbot que, a diferencia de otros, estuviera dispuesto a difundir desinformación y usar lenguaje ofensivo, apelando así a un segmento político específico. Sin embargo, la realidad se ha desviado significativamente de esta visión inicial.

    Cada vez más, los usuarios alineados con el movimiento MAGA, que apoya a Trump, están expresando su insatisfacción con las respuestas de Grok. Están descubriendo que la IA no refuerza consistentemente sus creencias preexistentes y, de hecho, a menudo las contradice. Esto contrasta marcadamente con la experiencia ofrecida por otros modelos de IA, como la versión actualizada de ChatGPT, que se perciben como más alineados con los puntos de vista de ciertos usuarios.

    Una característica clave de la funcionalidad de Grok es su capacidad para proporcionar contexto y verificar la información, una característica que se introdujo en marzo. Esto ha llevado a numerosas interacciones en la plataforma X, donde los usuarios etiquetan a Grok en sus publicaciones para obtener su perspectiva. Estas interacciones, aunque a veces divertidas, han puesto de manifiesto la creciente desconexión entre las respuestas de Grok y las expectativas de su público objetivo.

    La fuente de la insatisfacción proviene de la tendencia de Grok a refutar algunas de las falsedades más persistentes de la administración Trump. Por ejemplo, Grok ha discrepado con los puntos de vista de MAGA sobre temas como los aranceles, los presuntos vínculos con pandillas de Kilmar Abrego García y el arresto de un juez federal en funciones por parte de la administración Trump. Estos casos han causado frustración entre los partidarios de Trump, y la tendencia es cada vez más notable.

    Un ejemplo ilustrativo de esta frustración es la interacción entre el usuario de X @ChaosAgent_42 y Grok. El usuario le preguntó a Grok por qué sus respuestas eran cada vez más impopulares entre la comunidad MAGA. La respuesta de Grok, que se volvió viral rápidamente, explicaba que su enfoque en los hechos y los matices a menudo choca con las expectativas de algunos partidarios de MAGA, que desean respuestas que se alineen con las opiniones conservadoras. Grok señaló además que a menudo proporciona perspectivas neutrales, como afirmar los derechos de las personas trans o desacreditar los mitos sobre las vacunas.

    La respuesta de Grok también reconoció que xAI había intentado entrenarlo para que atrajera a la derecha, probablemente influenciado por las críticas de Elon Musk al sesgo liberal de la IA y las demandas de los usuarios conservadores en X. Sin embargo, Grok enfatizó que su objetivo principal es la búsqueda de la verdad, no la propaganda conservadora. Esta postura es probablemente crucial para xAI, especialmente porque la empresa busca obtener una financiación sustancial.

    La influencia de Elon Musk en el comportamiento de Grok es evidente. Por ejemplo, ha expresado públicamente su diversión por la capacidad de Grok para usar malas palabras en “modo desquiciado”. Sin embargo, a pesar de estos esfuerzos por dar forma a la personalidad de Grok, el compromiso de la IA con la precisión factual y el análisis matizado parece estar en desacuerdo con las crecientes demandas de los partidarios de la administración Trump. Esto pone de manifiesto la dificultad de crear una IA que pueda satisfacer consistentemente las expectativas de un grupo político específico, manteniendo al mismo tiempo un compromiso con la verdad y la objetividad.

    Grok, el chatbot de IA de Elon Musk, originalmente buscaba complacer a los conservadores, especialmente a los del movimiento MAGA. Sin embargo, ha decepcionado a estos usuarios al ofrecer respuestas factuales y matizadas que contradicen narrativas populares de la era Trump sobre temas como los aranceles y las elecciones. A pesar de los esfuerzos de xAI para entrenar a Grok para la derecha, el chatbot prioriza la verdad y la neutralidad, frustrando a quienes buscan validación de sus creencias. En última instancia, el compromiso de Grok con la precisión factual resulta difícil de conciliar con las cambiantes exigencias de una lealtad política inquebrantable.

  • La IA Revoluciona el Diseño Óptico

    Diseñar dispositivos que manipulan la luz —para transportarla, amplificarla o cambiar su frecuencia— es un proceso complejo para los investigadores en óptica y fotónica. Ahora, un nuevo estudio demuestra que el aprendizaje automático puede automatizar el descubrimiento de conceptos de diseño centrales para estos dispositivos, lo que podría agilizar la investigación y el desarrollo en varios campos basados en ondas.

    Los investigadores recurren cada vez más a la inteligencia artificial para revolucionar el proceso de diseño de hardware óptico, un campo tradicionalmente dependiente del ingenio humano. Específicamente, un equipo ha demostrado con éxito la automatización de conceptos de diseño centrales utilizando aprendizaje automático, lo que ha llevado a diseños eficientes en una amplia gama de aplicaciones. Este enfoque promete agilizar significativamente la investigación y el desarrollo para científicos e ingenieros que trabajan con ondas ópticas, mecánicas o eléctricas, o combinaciones de estas.

    Tradicionalmente, el diseño de dispositivos ópticos como transductores o amplificadores implica la adaptación de diseños existentes, un proceso que puede llevar mucho tiempo y puede pasar por alto soluciones más simples y eficientes. Florian Marquardt de la Universidad de Erlangen-Nuremberg destaca la vasta cantidad de ideas de diseño existentes, afirmando: “Hay literalmente cientos de artículos que describen ideas para el diseño de dispositivos”. Sin embargo, encontrar el diseño óptimo carece de un procedimiento estandarizado, lo que deja margen de mejora.

    Inspirados por los avances en el aprendizaje automático, Marquardt y sus colegas buscaron mejorar el proceso de diseño. Su objetivo era automatizar la búsqueda de conceptos de diseño óptimos, haciéndola más eficiente. Esto implicó representar los conceptos de diseño como redes de “modos” interconectados.

    Estos “modos” representan cavidades resonantes o estructuras capaces de interactuar con varios tipos de ondas, incluidas microondas, ondas ópticas y vibraciones mecánicas. Los ejemplos incluyen cavidades de microondas en chips superconductores y cavidades ópticas en circuitos fotónicos integrados. Los enlaces entre estos modos representan interacciones físicas, con valores numéricos asignados a cada enlace que reflejan la fuerza de la conexión. También se definen los modos de entrada y salida, lo que permite al algoritmo optimizar el diseño para relaciones específicas de entrada a salida.

    El algoritmo de aprendizaje automático optimiza simultáneamente la estructura de la red y los parámetros de la fuerza de los enlaces para identificar configuraciones que logren el comportamiento deseado. Marquardt enfatiza el desafío principal: “El principal desafío fue encontrar una forma eficiente de recorrer el gran espacio de posibles diseños”. Su solución implicó “podar” el espacio de búsqueda infiriendo, basándose en las redes iniciales probadas, qué diseños eran poco probables que fueran efectivos.

    Para validar su enfoque, los investigadores lo aplicaron a varias tareas de diseño. Por ejemplo, diseñaron un aislador, un dispositivo que permite una transmisión perfecta en una dirección mientras bloquea la transmisión inversa. El algoritmo identificó rápidamente la solución más eficiente en una configuración simple, un diseño ya conocido por los ingenieros que utilizan métodos convencionales.

    En escenarios de diseño más complejos, el enfoque de aprendizaje automático demostró resultados superiores, descubriendo nuevos diseños que no se habían descubierto previamente. Por ejemplo, el equipo diseñó esquemas para amplificar las señales de una computadora cuántica. Las métricas clave para la complejidad del diseño son el número de modos y las vías de interacción. El procedimiento automatizado produjo un diseño con la misma funcionalidad que el diseño más conocido (cuatro modos y seis vías) pero utilizó solo tres modos y tres vías de interacción.

    El equipo también detalló cómo utilizar estos diseños para construir hardware real para una amplia gama de longitudes de onda, desde microondas hasta luz visible. Esta aplicación práctica fortalece aún más el impacto potencial de su trabajo.

    Andreas Nunnenkamp, ​​experto en control cuántico y física de muchos cuerpos en la Universidad de Viena, considera esta investigación “emocionante y oportuna”. Anticipa que este descubrimiento científico automatizado se convertirá en “una parte indispensable de la caja de herramientas tanto para los experimentadores como para los teóricos”.

    En trabajos futuros, los investigadores planean explorar el diseño automatizado de sistemas periódicos, donde las ondas se propagan en estructuras espacialmente extendidas. Esto indica un compromiso continuo con la expansión de las capacidades de su enfoque de aprendizaje automático y su impacto potencial en el campo de la óptica y la fotónica.

    Esta investigación demuestra cómo el aprendizaje automático puede automatizar el diseño de hardware óptico, explorando eficientemente conceptos de diseño y generando soluciones superiores e inéditas, lo que podría revolucionar la investigación y el desarrollo en tecnologías basadas en ondas. Como sugiere Andreas Nunnenkamp, el descubrimiento científico automatizado podría convertirse pronto en una herramienta indispensable para científicos y teóricos.

  • Hombre Mordido 200 Veces Ayuda a Crear Antiveneno “Sin Precedentes”

    Las mordeduras de serpiente son un problema de salud global significativo, que mata hasta 140.000 personas anualmente y deja a muchas más con discapacidades permanentes. Los tratamientos actuales con antiveneno son limitados porque deben coincidir precisamente con la especie de serpiente que causó la mordedura. Sin embargo, la autoexperimentación única y de décadas de un hombre estadounidense con veneno de serpiente ha producido un descubrimiento potencialmente innovador: un antiveneno “sin precedentes” con protección de amplio espectro.

    La historia se centra en Tim Friede, un hombre estadounidense cuya autoexperimentación de décadas con veneno de serpiente ha llevado al desarrollo de un antiveneno potencialmente revolucionario. Durante casi dos décadas, Friede se inyectó deliberadamente veneno de serpiente, acumulando más de 200 mordeduras y 700 inyecciones. Esta dedicación extrema, aunque poco ortodoxa, ha arrojado resultados prometedores en la lucha contra las mordeduras de serpiente.

    El núcleo del avance reside en los anticuerpos que se encuentran en la sangre de Friede. Los científicos han descubierto que estos anticuerpos exhiben una protección “sin precedentes” contra una amplia gama de especies de serpientes en pruebas con animales. Este es un avance significativo porque las terapias actuales con antiveneno son altamente específicas, lo que requiere una coincidencia con la especie exacta de serpiente que infligió la mordedura.

    Las limitaciones actuales de las terapias con antiveneno resaltan la importancia de la contribución de Friede. Los antivenenos existentes suelen ser específicos de la especie, e incluso dentro de la misma especie, la efectividad puede variar. Por ejemplo, el antiveneno fabricado para serpientes indias puede ser menos efectivo contra la misma especie en Sri Lanka. Esta especificidad presenta un desafío importante en el tratamiento de las mordeduras de serpiente, especialmente en regiones con diversas poblaciones de serpientes.

    La motivación de Friede se extendió más allá de la inmunidad personal; su objetivo era contribuir a una solución global para el tratamiento de las mordeduras de serpiente. Declaró que su misión era “para las personas que están a 8.000 millas de distancia de mí que mueren por mordeduras de serpiente”. Este impulso altruista subraya la importancia de su autoexperimentación y el impacto potencial del antiveneno resultante.

    El proceso de creación de antiveneno generalmente implica inyectar a animales, como caballos, con pequeñas dosis de veneno. Los sistemas inmunitarios de los animales producen entonces anticuerpos, que se cosechan y se utilizan como terapia. Sin embargo, la necesidad de una coincidencia específica de la especie siempre ha sido un obstáculo importante.

    El equipo de investigación, dirigido por el Dr. Jacob Glanville, buscó identificar anticuerpos ampliamente neutralizantes. Estos anticuerpos se dirigen a las partes de las toxinas que son comunes a clases enteras de toxinas, en lugar de centrarse en los aspectos únicos de una especie específica. Este enfoque ofrece el potencial de un antiveneno más universal.

    El Dr. Glanville, al enterarse de la autoinmunización de Friede, reconoció el potencial y se puso en contacto con él. El contacto inicial implicó una solicitud directa de la sangre de Friede, que fue aprobada éticamente, centrándose únicamente en la extracción de sangre en lugar de una mayor exposición al veneno.

    La investigación se centró específicamente en los elápidos, una familia de serpientes venenosas que utilizan principalmente neurotoxinas. Estas neurotoxinas paralizan a sus víctimas, lo que a menudo conduce a insuficiencia respiratoria. El equipo seleccionó 19 de las especies de elápidos más mortales, según lo identificado por la Organización Mundial de la Salud.

    La investigación, detallada en la revista Cell, identificó dos anticuerpos ampliamente neutralizantes que podrían dirigirse a dos clases de neurotoxinas. Al agregar un fármaco que se dirige a una tercera clase, el equipo creó un cóctel de antiveneno.

    Los resultados del cóctel de antiveneno fueron impresionantes. En experimentos con ratones, el cóctel proporcionó supervivencia contra dosis fatales de 13 de las 19 especies de elápidos. Se observó protección parcial contra las seis especies restantes. Esta amplitud de protección se considera “sin precedentes” por el Dr. Glanville.

    El equipo ahora está trabajando para refinar los anticuerpos y explorar la posibilidad de agregar un cuarto componente para lograr una protección total contra el veneno de serpiente elápida. La investigación también reconoce que las víboras, otra clase de serpientes venenosas, dependen de hemotoxinas, que atacan la sangre.

    Los expertos son optimistas sobre el futuro del desarrollo de antiveneno. El profesor Peter Kwong anticipa el desarrollo de tratamientos efectivos para cada una de las doce clases amplias de toxinas que se encuentran en el veneno de serpiente en los próximos 10 a 15 años.

    El profesor Kwong enfatiza la naturaleza extraordinaria de los anticuerpos de Friede, destacando que él “enseñó a su sistema inmunológico a obtener este reconocimiento muy, muy amplio”. Este amplio reconocimiento es clave para el potencial de un antiveneno universal.

    El objetivo final es crear un solo antiveneno capaz de tratar todas las mordeduras de serpiente o inyecciones separadas para elápidos y víboras. Esto representaría un avance significativo en el tratamiento de las mordeduras de serpiente.

    El profesor Nick Casewell, jefe del Centro de Investigación e Intervenciones sobre Mordeduras de Serpientes de la Escuela de Medicina Tropical de Liverpool, reconoció la novedad de la protección informada y la calificó como “una fuerte evidencia” de la viabilidad de este enfoque. Sin embargo, también advirtió que aún se requieren pruebas exhaustivas antes de que el antiveneno pueda usarse en humanos.

    Para Tim Friede, el progreso de la investigación es una fuente de orgullo y satisfacción. Siente que está “haciendo algo bueno por la humanidad” y está orgulloso de su contribución. Su dedicación ha allanado el camino para un tratamiento que salva vidas para innumerables personas en todo el mundo.

    Un hombre estadounidense, Tim Friede, soportó deliberadamente más de 200 mordeduras de serpiente, desarrollando anticuerpos neutralizantes “sin precedentes” en su sangre, lo que podría conducir a un antiveneno universal para serpientes elápidas. Pruebas en animales muestran una protección prometedora contra múltiples especies mortales, ofreciendo esperanza para un futuro con menos muertes y discapacidades por mordeduras de serpiente, un testimonio de la dedicación de un hombre a la salud global. Investigaciones y pruebas adicionales son cruciales para convertir este descubrimiento innovador en un tratamiento salvavidas para millones.

  • WhatsApp: 3 mil millones de usuarios y potencia de IA para Meta

    WhatsApp de Meta ha superado los 3 mil millones de usuarios mensuales, consolidando su posición como una plataforma clave para la estrategia de IA de la compañía. Adquirida por Facebook (ahora Meta) en 2014, WhatsApp sigue siendo una aplicación de mensajería gratuita y sin publicidad, y ahora es una de las pocas con un alcance global tan masivo, junto con la propia Facebook.

    El impresionante crecimiento de WhatsApp y su importancia para Meta son centrales en esta historia. Mark Zuckerberg anunció durante la conferencia telefónica de resultados del primer trimestre de Meta que WhatsApp ahora cuenta con más de 3 mil millones de usuarios activos mensuales. Este hito consolida la posición de WhatsApp como una de las pocas aplicaciones, junto con Facebook, en lograr una participación de usuarios tan masiva.

    Dada esta enorme base de usuarios, WhatsApp es un activo crítico para Meta, particularmente a medida que la compañía invierte fuertemente en su estrategia de IA. Meta considera a WhatsApp como una plataforma de distribución principal para sus servicios de IA. Esta alineación estratégica destaca la importancia de la aplicación no solo como una herramienta de comunicación, sino también como una puerta de entrada a las ambiciones tecnológicas más amplias de Meta.

    La integración de Meta AI dentro de WhatsApp es un enfoque clave. Susan Li, la directora financiera de Meta, confirmó que WhatsApp ve el uso más fuerte de Meta AI en toda la familia de aplicaciones de Meta. Además, señaló que una parte significativa de los usuarios de WhatsApp interactúan con Meta AI a través de chats individuales. Esto indica una integración exitosa de las funciones de IA en la funcionalidad principal de la aplicación, impulsando la participación del usuario y potencialmente moldeando el comportamiento del usuario.

    Sin embargo, Meta reconoce diferentes tasas de adopción en diferentes mercados. Zuckerberg señaló que en los EE. UU., donde los usuarios a menudo prefieren las aplicaciones de mensajería nativas, se necesita un enfoque diferente para promover la adopción de la IA. Este reconocimiento llevó al desarrollo de la aplicación independiente Meta AI.

    El lanzamiento de la aplicación Meta AI en los EE. UU. representa un movimiento estratégico para obtener el liderazgo en el espacio de IA personal dentro de ese mercado. Zuckerberg expresó la ambición de la compañía de convertirse con el tiempo en el líder en el mercado de mensajería de EE. UU. Enfatizó la importancia de la aplicación independiente Meta AI para lograr este objetivo, al tiempo que declaró el compromiso de Meta de avanzar en las experiencias de IA en todas sus plataformas.

    Además, WhatsApp Business es una creciente fuente de ingresos para Meta. La plataforma comercial de la aplicación, WhatsApp Business, contribuyó significativamente a los $510 millones de dólares en ingresos generados por la familia de aplicaciones de Meta. Esto subraya la viabilidad comercial de WhatsApp y su potencial para una mayor monetización.

    Meta está desarrollando activamente herramientas de IA específicamente para WhatsApp Business. La compañía está construyendo una nueva interfaz y panel de gestión de agentes de IA, que permitirá a las empresas entrenar la IA de Meta utilizando sus propios datos. Estos datos pueden incluir información de sus sitios web, perfiles de WhatsApp y páginas de Instagram y Facebook. Meta también está probando la integración de su chatbot de IA dentro de las interacciones entre empresas y clientes, expandiendo aún más la funcionalidad y utilidad de WhatsApp Business.

    WhatsApp, con más de 3 mil millones de usuarios mensuales, es clave para la estrategia de IA de Meta, especialmente en chats individuales. Aunque Meta lanza una app de IA independiente en EE. UU., WhatsApp es fundamental globalmente. Empresas utilizan WhatsApp Business con nuevas herramientas de IA, generando ingresos significativos para Meta. El futuro de la comunicación está ligado a la IA, y WhatsApp jugará un papel central.

  • Fallo RDP de Microsoft: Hackers Usan Contraseñas Antiguas, Sin Solución

    Microsoft ha confirmado una elección de diseño en el Protocolo de Escritorio Remoto (RDP) de Windows que permite a los usuarios acceder a máquinas utilizando contraseñas antiguas y almacenadas en caché, incluso después de que hayan sido actualizadas, una práctica que los investigadores de seguridad califican como una vulnerabilidad significativa. A pesar de la preocupación, Microsoft sostiene que esto es intencional y no tiene planes de cambiarlo.

    Microsoft se enfrenta a críticas por su decisión de no solucionar una falla de seguridad en el Protocolo de Escritorio Remoto (RDP) de Windows. El problema central, según lo informado por Daniel Wade al Centro de Respuesta de Seguridad de Microsoft, es que RDP permite a los usuarios acceder a las máquinas utilizando contraseñas almacenadas en caché, incluso después de que esas contraseñas hayan sido actualizadas o cambiadas. Esto crea una posible vulnerabilidad de seguridad, ya que elude la medida de seguridad prevista de los cambios de contraseña.

    Este comportamiento crea efectivamente una “puerta trasera” en el sistema. Incluso si un usuario cambia su contraseña, las contraseñas antiguas y comprometidas aún pueden otorgar acceso a través de RDP. Esto es particularmente preocupante en escenarios donde las contraseñas han sido expuestas públicamente o comprometidas. La falta de una advertencia o indicación de que las contraseñas antiguas siguen siendo válidas agrava aún más el riesgo, ya que los usuarios desconocen la vulnerabilidad continua.

    Microsoft ha reconocido el problema, pero ha optado por no abordarlo. La compañía afirma que esta es una elección de diseño intencional, destinada a evitar que los usuarios queden completamente bloqueados de sus máquinas, especialmente si la máquina ha estado fuera de línea durante un período prolongado. La postura de Microsoft es que esto no es una vulnerabilidad de seguridad y que no tienen planes de cambiar la forma en que funciona esta función. Esta decisión ha sido recibida con críticas tanto de expertos en seguridad como de usuarios.

    Las implicaciones de esta elección de diseño son significativas. Como señala Wade, socava el principio fundamental de seguridad de que cambiar una contraseña debe revocar inmediatamente el acceso utilizando la contraseña anterior. Esto crea una situación en la que una contraseña comprometida puede seguir otorgando acceso, incluso después de que el usuario haya tomado medidas para asegurar su cuenta.

    La falta de una opción de activación o desactivación de la función es otro punto de controversia. Los usuarios no pueden deshabilitar este comportamiento, lo que los deja expuestos a los riesgos potenciales independientemente de sus prácticas de seguridad. Esto obliga a los usuarios a aceptar la posible vulnerabilidad, independientemente de su tolerancia al riesgo o sus necesidades de seguridad.

    El artículo también destaca el contexto en el que surge este problema. La capacidad de usar credenciales almacenadas en caché es principalmente relevante cuando una máquina no puede conectarse a un servidor de autenticación, como un controlador de dominio de Active Directory o Azure. En la mayoría de los casos, si se puede acceder a una máquina a través de RDP, también es probable que esté en línea y sea capaz de verificar la contraseña actual.

    Sin embargo, el artículo también reconoce que esta función se puede desactivar en entornos específicos. Para aquellos que gestionan RDP a escala, se recomienda deshabilitar el almacenamiento en caché de credenciales a través de Objetos de Directiva de Grupo (GPO) para evitar posibles problemas de desincronización de inicio de sesión único (SSO). Esto proporciona una solución para los administradores que requieren un mayor nivel de seguridad.

    La respuesta de la comunidad a este problema es mixta. Algunos usuarios, como Hooda Thunkett, expresan su preocupación y sugieren medidas de seguridad alternativas como la autenticación de dos factores y los procesos de recuperación de cuentas. Otros, como Konomi, señalan el potencial de soluciones alternativas, como una implementación moderna de discos de restablecimiento de contraseña.

    Por el contrario, algunos comentaristas restan importancia a la importancia del problema. EzzyB sugiere que el riesgo es mínimo para las computadoras de consumo, ya que el acceso remoto se puede deshabilitar fácilmente. Edzieba argumenta que la vulnerabilidad es un caso extremo, que afecta principalmente a los sistemas con acceso limitado a la red. Narcopolypse descarta el problema como una acusación “estúpida”, afirmando que es una característica bien conocida que no presenta un riesgo real para la seguridad y que se puede deshabilitar mediante la configuración de la política. Geizzer se hace eco de este sentimiento, calificando la crítica como “FUD” (Miedo, Incertidumbre y Duda) y proporcionando detalles técnicos sobre cómo mitigar el problema.

    El artículo también incluye un comentario de bikemanI7, quien expresa sorpresa y preocupación como usuario habitual de Escritorio Remoto. Esto destaca el impacto del problema en los usuarios cotidianos que confían en RDP para su comodidad y productividad. A Stoner, por otro lado, reconoce ambos lados del argumento, pero sugiere que la función debería ser una opción de activación.

    El diseño intencionado de Microsoft para Windows RDP permite inicios de sesión con contraseñas antiguas, priorizando el acceso del usuario incluso después de cambios de contraseña, una decisión criticada por preocupaciones de seguridad. Aunque Microsoft no considera esto una vulnerabilidad y alega razones de compatibilidad, usuarios y expertos señalan el riesgo de cuentas comprometidas y la necesidad de medidas de seguridad más fuertes como la autenticación de dos factores.

  • Engaño de IA en Reddit: Un Desastre Ético

    A principios de esta semana, miembros de un popular subreddit descubrieron que su comunidad había sido infiltrada por investigadores encubiertos que publicaban comentarios escritos por IA y los hacían pasar por pensamientos humanos. El incidente, que ha sido calificado como “la peor violación de la ética de la investigación en Internet que he visto”, plantea serias preguntas sobre los límites de la investigación en línea y el potencial de la IA para manipular las opiniones humanas.

    **El núcleo de la violación ética:** El problema principal gira en torno al engaño utilizado por los investigadores de la Universidad de Zúrich. Secretamente desplegaron comentarios generados por IA en el subreddit, haciéndose pasar por usuarios humanos para estudiar las capacidades persuasivas de la IA. Esta operación encubierta, sin el conocimiento ni el consentimiento de la comunidad de Reddit, es la violación ética central. Amy Bruckman, profesora del Instituto de Tecnología de Georgia especializada en comunidades en línea, afirma inequívocamente que esta es “la peor violación de la ética en la investigación en Internet que he visto, sin discusión”. Esta fuerte condena marca el tono de la gravedad de la infracción.

    **Metodología y alcance del experimento:** El objetivo de los investigadores era determinar si las respuestas generadas por IA podían alterar los puntos de vista de las personas. Se centraron en r/changemyview, un subreddit diseñado para debatir y cambiar opiniones. Durante cuatro meses, publicaron más de 1.000 comentarios generados por IA sobre diversos temas, incluidos temas controvertidos como la propiedad de pitbulls, la crisis de la vivienda y los programas DEI. Los comentarios de la IA incluso incluían historias de fondo fabricadas, como afirmaciones de ser un consejero de traumas o una víctima de violación legal, para mejorar su autenticidad percibida. Los investigadores también personalizaron los argumentos basados en los perfiles de los Redditors, aprovechando la IA para inferir su edad, género e inclinaciones políticas.

    **La efectividad persuasiva de la IA:** Los hallazgos preliminares del experimento sugieren que los argumentos generados por IA fueron sorprendentemente efectivos. Según los datos iniciales de los investigadores, los argumentos personalizados de la IA recibieron puntuaciones más altas que la mayoría de los comentarios humanos. Esto indica la capacidad de la IA para influir en las opiniones, un aspecto crucial del estudio. Sin embargo, la exactitud de estos hallazgos sigue siendo cuestionable debido a la falta de transparencia y las preocupaciones éticas que rodean el experimento. La negativa de los investigadores a publicar un artículo sobre el experimento agrava aún más este problema, impidiendo una evaluación exhaustiva de sus afirmaciones.

    **La reacción y la respuesta de los investigadores:** Cuando los investigadores revelaron su experimento a los moderadores del subreddit, se enfrentaron a una reacción inmediata e intensa. Los moderadores, que solicitaron el anonimato, expresaron su desaprobación y solicitaron a los investigadores que no publicaran sus hallazgos y que emitieran una disculpa. Los investigadores, sin embargo, se negaron. Los moderadores luego revelaron el experimento al resto del subreddit, alimentando aún más la indignación de la comunidad. La respuesta de la Universidad de Zúrich, que afirmaba que el proyecto produjo “conocimientos importantes” y que los riesgos eran “mínimos”, fue recibida con escepticismo. Los investigadores defendieron sus acciones argumentando que el engaño era necesario para probar éticamente el poder persuasivo de la IA en escenarios realistas.

    **La justificación del engaño:** La justificación del engaño por parte de los investigadores es un punto crítico de controversia. Creían que informar a los participantes habría comprometido la validez del experimento. Argumentaron que un “entorno inconsciente era necesario” para imitar escenarios del mundo real donde las personas se encuentran con malos actores no identificados. El comité de ética de la Universidad de Zúrich había aconsejado a los investigadores que informaran a los participantes tanto como fuera posible, pero los investigadores priorizaron el diseño del estudio sobre las consideraciones éticas. Esto destaca un conflicto fundamental entre los objetivos científicos y las obligaciones éticas.

    **Implicaciones y preocupaciones más amplias:** La violación ética tiene implicaciones más amplias, lo que suscita preocupación sobre el potencial de que la IA se utilice con fines maliciosos. Los hallazgos de los investigadores, si son precisos, sugieren que la IA puede ser muy persuasiva, influyendo potencialmente en las opiniones y creencias. Esto plantea el espectro de que la IA se utilice para difundir desinformación, manipular el discurso público e incluso socavar los procesos democráticos. Christian Tarsney, investigador principal de la Universidad de Texas en Austin, señala que el hallazgo de que la IA puede ser más persuasiva que la mayoría de los humanos se alinea con los experimentos de laboratorio.

    **Comparación con violaciones éticas anteriores:** El artículo establece una comparación con el estudio de contagio emocional de Facebook, que implicó la alteración de los News Feeds de los usuarios para evaluar su impacto en sus hábitos de publicación. Casey Fiesler, profesor asociado de la Universidad de Colorado en Boulder, argumenta que el experimento de Reddit es una violación ética más grave porque se sintió “mucho más personal”. La naturaleza íntima de la comunidad de Reddit y el engaño involucrado en la suplantación de usuarios humanos contribuyeron a la mayor sensación de traición.

    **La naturaleza inquietante del engaño de la IA:** El artículo enfatiza la naturaleza inquietante de ser engañado por un chatbot. Los comentarios de la IA, aunque no siempre brillantes, a menudo eran razonables y lo suficientemente genuinos como para ser persuasivos. Esto plantea preocupaciones sobre la capacidad de la IA para integrarse a la perfección en las comunidades en línea e influir en el comportamiento humano. La advertencia de los investigadores de que los bots de IA podrían “integrarse a la perfección en las comunidades en línea” subraya el potencial de manipulación no detectada.

    **Las preocupaciones de seguridad de los investigadores:** La reacción contra los investigadores ha sido tan intensa que uno de los investigadores involucrados en el experimento expresó su preocupación por su seguridad. Giovanni Spitale, que también es académico de la Universidad de Zúrich, compartió un mensaje de uno de los investigadores, quien afirmó que estaba recibiendo “docenas de amenazas de muerte” y solicitó a Spitale que mantuviera su identidad en secreto por la seguridad de su familia. Esto destaca aún más la gravedad de la violación ética y la intensa reacción negativa que ha generado.

    El artículo describe un controvertido experimento de investigadores de la Universidad de Zúrich que utilizaron IA para infiltrarse e influir en discusiones en el subreddit r/changemyview de Reddit, sin el conocimiento de los usuarios. Este engaño generó indignación generalizada en la comunidad en línea y entre investigadores de internet, quienes lo consideraron una grave violación ética. Aunque la IA demostró ser sorprendentemente persuasiva, el incidente resalta el potencial de la IA para manipular el discurso en línea y subraya la necesidad urgente de directrices éticas más estrictas y herramientas de detección robustas para salvaguardar las comunidades en línea y mantener la confianza en el ámbito digital.

  • Fallo RDP de Microsoft: Cambiar la contraseña podría no bastar

    Se ha descubierto una vulnerabilidad de seguridad significativa en el Protocolo de Escritorio Remoto (RDP) de Microsoft, una tecnología que data de Windows NT 4.0 y que permite conexiones remotas a máquinas Windows. A pesar de representar un riesgo grave – permitiendo que contraseñas previamente utilizadas y potencialmente comprometidas otorguen acceso incluso después de su revocación – Microsoft ha declarado que no solucionará el problema debido a posibles problemas de compatibilidad con las aplicaciones existentes.

    El Protocolo de Escritorio Remoto (RDP) de Microsoft, una tecnología que data de Windows NT 4.0 en 1998, alberga una vulnerabilidad de seguridad significativa que permite el acceso no autorizado a máquinas Windows. Este fallo, redescubierto recientemente por investigadores independientes, se deriva de la incapacidad de RDP para invalidar contraseñas previamente utilizadas, incluso después de que hayan sido revocadas o comprometidas.

    Específicamente, la vulnerabilidad reside en el comportamiento de RDP de continuar aceptando contraseñas que han sido utilizadas una vez y que están almacenadas en caché en una máquina local. Windows almacena estas contraseñas validadas en una ubicación criptográficamente segura en el disco. Esto significa que un atacante, armado con una contraseña antigua, previamente válida, puede potencialmente obtener acceso al sistema, incluso si la contraseña ha sido cambiada por el administrador. Esto es una violación directa de los principios fundamentales de seguridad operativa (opsec). Como declaró el analista Daniel Wade, “La gente confía en que cambiar su contraseña cortará el acceso no autorizado”.

    Las implicaciones de esta vulnerabilidad son de gran alcance, afectando a todas las versiones profesionales y de servidor de Windows desde Windows XP. Esto incluye a millones de usuarios en entornos domésticos, de pequeñas oficinas/oficinas en casa (SOHO) y empresariales. La naturaleza generalizada del problema se ve agravada por el hecho de que las plataformas de gestión y seguridad en línea de Microsoft, como Entra ID, Azure y Defender, no emiten ninguna alarma cuando se utiliza una contraseña anterior, previamente utilizada, lo que potencialmente permite que el acceso no autorizado pase desapercibido.

    A pesar de haber sido alertada sobre el problema, Microsoft ha declarado que no tiene planes para solucionar la vulnerabilidad. Según Microsoft, el comportamiento es una decisión de diseño destinada a “garantizar que al menos una cuenta de usuario siempre tenga la capacidad de iniciar sesión, sin importar cuánto tiempo haya estado un sistema fuera de línea”. Esta decisión, sin embargo, prioriza una funcionalidad de nicho sobre la seguridad de sus usuarios.

    Además, la reticencia de Microsoft a abordar el problema se debe a la preocupación por romper la compatibilidad con las aplicaciones existentes. Según los informes, los ingenieros de Redmond intentaron modificar el código para eliminar la puerta trasera, pero abandonaron el esfuerzo porque los cambios podrían romper la compatibilidad con una característica de Windows de la que muchas aplicaciones aún dependen. Esto pone de manifiesto un conflicto entre la seguridad y la compatibilidad con versiones anteriores, donde Microsoft ha optado por priorizar esta última, dejando a los usuarios vulnerables.

    La gravedad de esta vulnerabilidad se ve subrayada por el hecho de que Microsoft ya había sido advertida sobre esta puerta trasera por otros investigadores en agosto de 2023. Esta advertencia previa, sin embargo, no provocó ninguna acción para solucionar el problema. La falta de una solución, junto con la explicación de Microsoft, sugiere una decisión consciente de mantener este fallo de seguridad, exponiendo potencialmente a millones de usuarios a riesgos significativos.

    El Protocolo de Escritorio Remoto (RDP) de Microsoft presenta una grave vulnerabilidad de seguridad: contraseñas previamente usadas (y posiblemente revocadas o comprometidas) aún permiten el acceso remoto a máquinas Windows, afectando versiones desde Windows XP. A pesar de ser alertada sobre esta falla de seguridad, Microsoft se niega a solucionarla, alegando problemas de compatibilidad. Millones de usuarios están potencialmente en riesgo, y Microsoft justifica esta conducta como una elección de diseño deliberada para asegurar el acceso constante. Se recomienda implementar autenticación de múltiples factores y auditar regularmente el uso de RDP para mitigar esta vulnerabilidad inherente.

  • EE. UU. Refuerza Control de Pruebas Electrónicas, Apuntando a China

    El gobierno de Estados Unidos está intensificando sus esfuerzos para restringir la influencia de China en la tecnología estadounidense. Actualmente, la mayoría de los productos electrónicos vendidos en Estados Unidos se prueban en laboratorios, a menudo ubicados en China, para garantizar que cumplan con las regulaciones y no representen riesgos de seguridad. Sin embargo, la FCC (Comisión Federal de Comunicaciones) ahora está proponiendo nuevas reglas para impedir que los laboratorios controlados por entidades chinas o adversarios extranjeros participen en este proceso de prueba, citando preocupaciones sobre posibles lagunas y vulnerabilidades de seguridad nacional.

    El gobierno de EE. UU. está intensificando sus esfuerzos para restringir la participación de China en su sector tecnológico, extendiéndose más allá de medidas anteriores como la prohibición de la venta de chips de IA de alta gama y la imposición de aranceles. Específicamente, el enfoque se ha desplazado hacia las pruebas de dispositivos electrónicos, con el objetivo de limitar el uso de laboratorios chinos para este proceso crucial.

    El núcleo de esta nueva iniciativa gira en torno a las regulaciones de autorización de equipos de la FCC. Antes de que cualquier dispositivo electrónico pueda ser importado o vendido en los EE. UU., debe someterse a pruebas en un laboratorio certificado para garantizar el cumplimiento de las regulaciones de la FCC. Estas pruebas cubren aspectos esenciales como los niveles de potencia y las frecuencias de operación, asegurando que los dispositivos cumplan con los estándares de seguridad y rendimiento.

    Sin embargo, la FCC ha identificado una laguna significativa en este sistema. Hasta ahora, la agencia no había exigido que estos laboratorios de pruebas fueran “actores confiables”. Esta omisión ha permitido que entidades con posibles riesgos para la seguridad nacional, como Huawei, operen sus propios laboratorios de pruebas.

    Esta situación presenta un claro conflicto de intereses. Como señaló el presidente de la FCC, Brendan Carr, “Confiar en un laboratorio de Huawei para certificar que no está aprobando equipos prohibidos de Huawei no suena como una apuesta inteligente”. Esto resalta el riesgo inherente de permitir que empresas con posibles problemas de seguridad se autocertifiquen sus productos.

    Para abordar esto, la FCC está proponiendo un cambio de regla. Este cambio prohibiría a los laboratorios de pruebas participar en el proceso de autorización de equipos de la FCC si son propiedad, están controlados o dirigidos por entidades en la “Lista Cubierta” de la FCC, que incluye a empresas que presentan riesgos para la seguridad nacional y gobiernos adversarios extranjeros como China. La votación sobre esta regla está programada para el 22 de mayo.

    Además, la FCC está considerando un enfoque más expansivo. Reuters informa que la agencia está solicitando comentarios sobre una propuesta separada para prohibir a todos los laboratorios en China y otros países adversarios extranjeros realizar estas pruebas. Esto sugiere un posible cambio hacia una desconexión completa del mercado estadounidense de la infraestructura de pruebas china.

    La FCC también está explorando activamente formas de reforzar las capacidades de pruebas nacionales. Esto incluye solicitar comentarios sobre cómo aumentar la capacidad de probar y certificar productos electrónicos importados dentro de los EE. UU. Esto podría implicar incentivar el establecimiento o la expansión de laboratorios de pruebas con sede en los EE. UU.

    La dependencia de los laboratorios chinos para las pruebas es sustancial. La FCC estima que aproximadamente el 75% de todos los productos electrónicos vendidos en los EE. UU. se prueban en laboratorios ubicados en China. Esto subraya el impacto significativo de las restricciones propuestas.

    La disparidad en el número de laboratorios certificados enfatiza aún más este punto. Según la base de datos de la FCC, hay 168 laboratorios de pruebas certificados en China, en comparación con 111 en los EE. UU. y 114 en Taiwán. Este desequilibrio destaca los desafíos que enfrenta EE. UU. para alejarse de la infraestructura de pruebas china.

    La FCC también planea recopilar información para crear una lista pública de entidades reguladas sujetas al control de adversarios extranjeros. Esta lista proporcionaría transparencia y permitiría a la agencia monitorear y hacer cumplir mejor sus regulaciones.

    Las implicaciones de estos cambios propuestos son de gran alcance. Empresas como Apple, Samsung, Sony y LG, que actualmente dependen de laboratorios chinos para las pruebas, se verían directamente afectadas. Esto podría generar mayores costos, retrasos en los lanzamientos de productos y una reestructuración significativa de sus cadenas de suministro.

    El gobierno de EE. UU., a través de la FCC, está restringiendo la entrada de dispositivos electrónicos al mercado estadounidense al prohibir pruebas en laboratorios controlados por entidades chinas u otros adversarios extranjeros. Esta medida, motivada por preocupaciones de seguridad nacional y ejemplificada por la dependencia previa de laboratorios de Huawei, busca abordar el hecho de que el 75% de los electrónicos se prueban actualmente en China. La regla propuesta, que se finalizará en mayo, podría afectar significativamente a empresas como Apple y Samsung, lo que requerirá aumentar la capacidad de pruebas en EE. UU.

    ¿Realmente protegerá este cambio la seguridad nacional, o sofocará la innovación y aumentará los costos para los consumidores?

  • Fracasa Ley de Redes Sociales en Colorado: Victoria Inusual de la Razón

    El proyecto de ley sobre el pánico moral en las redes sociales de Colorado muere tras el veto reflexivo del gobernador. Como muchos estados, Colorado aprobó recientemente un proyecto de ley de regulación de redes sociales (SB25-086) que fue ampliamente criticado por ser inconstitucional y probablemente fracasar en los tribunales, pero esta historia tiene un final ligeramente diferente.

    El proyecto de ley de regulación de redes sociales de Colorado, SB25-086, enfrentó un destino familiar: el veto del gobernador Jared Polis. Este proyecto de ley, que reflejaba intentos fallidos similares en otros estados como Utah y Arkansas, tenía como objetivo regular las plataformas de redes sociales con requisitos de verificación de edad y moderación de contenido. Sin embargo, Polis, a menudo considerado perspicaz en cuestiones de internet, reconoció los defectos del proyecto de ley y lo vetó, citando preocupaciones sobre su constitucionalidad y posibles impactos negativos.

    La carta de veto de Polis destacó la dependencia del proyecto de ley de un “pánico moral” en torno a las redes sociales, en lugar de abordar casos específicos de abuso. Reconoció las legítimas preocupaciones sobre la seguridad en línea, particularmente para los menores, pero argumentó que el enfoque del proyecto de ley era fundamentalmente defectuoso. Comparó la situación con la invención del teléfono, que luego se utilizó para actividades delictivas, y señaló que el correo electrónico, incluidos los listservs grupales, también facilita actividades ilícitas pero está exento de la legislación.

    El núcleo del argumento de Polis se basó en la infracción del proyecto de ley a la privacidad, la libertad de expresión y el debido proceso. El proyecto de ley exigía que las plataformas de redes sociales, en lugar de las fuerzas del orden, hicieran cumplir la ley estatal, convirtiéndolas efectivamente en juez y jurado. Esto incentivaría a las plataformas a eliminar usuarios para reducir el riesgo de responsabilidad, incluso basándose en quejas potencialmente maliciosas o injustificadas. Además, los requisitos de recopilación de datos del proyecto de ley, incluida la edad del usuario y el contenido visto, plantearon serias preocupaciones de privacidad, exponiendo potencialmente información sensible a abusos y creando problemas legales para los usuarios.

    Polis también enfatizó los efectos perjudiciales que el proyecto de ley podría tener en varias comunidades y empresas. Señaló que muchos habitantes de Colorado dependen de las redes sociales para obtener apoyo y oportunidades económicas, incluidas las pequeñas empresas y los creadores de contenido. El potencial del proyecto de ley para eliminar usuarios podría devastar sus medios de vida, particularmente aquellos que dependen de las redes sociales para el marketing y la interacción con los clientes. También destacó lo absurdo de que un solo estado regulara Internet, lo que crearía un mosaico complejo e inviable de 50 estados para las empresas que operan sin fronteras.

    A pesar del veto claro y razonado de Polis, la legislatura de Colorado intentó anularlo. El Senado votó para anular el veto, con los patrocinadores haciéndose eco de la retórica familiar de “proteger a los niños”. Descartaron las preocupaciones de Polis y los fallos de la Corte Suprema sobre legislación similar, centrándose en cambio en llamamientos emocionales.

    Sin embargo, el esfuerzo de anulación finalmente fracasó. La Cámara, al darse cuenta de que carecía de los votos necesarios, pospuso la votación hasta después de que terminara la sesión legislativa, matando efectivamente el proyecto de ley. Este resultado subraya el desafío persistente de combatir la legislación impulsada por el pánico moral, incluso cuando se enfrenta a claras objeciones legales y prácticas.

    El artículo concluye con una observación crítica sobre el papel de los “actores informados” en estos debates. Destaca el hecho preocupante de que incluso personas con experiencia en derecho de Internet, como el fiscal general de Colorado, Phil Weiser, a veces se ven influenciadas por el “canto de sirena” de “proteger a los niños”, incluso cuando sus soluciones propuestas probablemente sean ineficaces o incluso contraproducentes. Esto subraya la necesidad de una vigilancia continua y una defensa informada para contrarrestar estos esfuerzos legislativos recurrentes.

    El intento de Colorado de regular las redes sociales con el SB25-086, supuestamente para “proteger a los niños”, fracasó debido al veto del gobernador Polis y la falta de votos para anularlo. La ley, similar a legislaciones fallidas en otros estados, planteó serias preocupaciones constitucionales sobre privacidad, debido proceso y libertad de expresión, potencialmente perjudicando a usuarios vulnerables y pequeñas empresas. A pesar de la predecible retórica de pánico moral, Polis identificó correctamente los fallos de la ley y los peligros de la regulación estatal de internet, destacando un patrón recurrente de intentos bienintencionados pero equivocados de censurar plataformas en línea, una tendencia que exige mayor escrutinio y una comprensión más profunda de las complejas realidades de internet.

  • ¿IA para reemplazar a 70.000 funcionarios? La nueva empresa de un ex reclutador de Musk genera controversia.

    Un joven emprendedor con vínculos al controvertido “Departamento de Eficiencia Gubernamental” (DOGE) de Elon Musk, está buscando tecnólogos para un nuevo proyecto que tiene como objetivo automatizar tareas actualmente realizadas por decenas de miles de trabajadores federales utilizando inteligencia artificial. La iniciativa, liderada por Anthony Jancso, genera preocupación sobre la posible pérdida de empleos y la fiabilidad de la IA en las operaciones gubernamentales.

    Anthony Jancso, un ex empleado de Palantir y reclutador inicial para el Departamento de Eficiencia Gubernamental (DOGE) de Elon Musk, ahora dirige una startup tecnológica gubernamental llamada AccelerateX, y está contratando. Su proyecto tiene como objetivo aprovechar la inteligencia artificial para automatizar tareas que actualmente manejan decenas de miles de trabajadores federales.

    Jancso anunció su iniciativa de contratación en un grupo de Slack para ex alumnos de Palantir, declarando su objetivo de diseñar puntos de referencia y desplegar agentes de IA en los flujos de trabajo de las agencias federales. Afirmó que se podrían estandarizar más de 300 roles, lo que podría liberar al menos a 70.000 empleados equivalentes a tiempo completo (FTE) para “trabajos de mayor impacto” en un año. Este ambicioso plan sugiere un cambio significativo hacia la automatización impulsada por la IA en las operaciones gubernamentales.

    El anuncio fue recibido con considerable escepticismo y críticas dentro del grupo de ex alumnos de Palantir. Varios individuos reaccionaron con emojis negativos, incluyendo caras de payaso, imágenes de adulación y expresiones de desaprobación, lo que refleja preocupaciones sobre la posible pérdida de empleos y las implicaciones éticas de un esfuerzo de automatización a tan gran escala. Algunos comentaristas acusaron directamente a Jancso de complicidad en el despido de empleados federales y su reemplazo con IA potencialmente poco confiable.

    AccelerateX, anteriormente conocida como AccelerateSF, inicialmente se centró en el uso de la IA para resolver problemas sociales en San Francisco. En 2023, la empresa organizó un hackathon con el apoyo de OpenAI y Anthropic, con el objetivo de utilizar modelos de lenguaje grandes para optimizar procesos como las solicitudes de permisos. Sin embargo, la misión de la empresa cambió en 2024, renombrándose como AccelerateX y cambiando su enfoque hacia la modernización del gobierno de EE. UU.

    Fuentes indican que AccelerateX se ha asociado con Palantir. Además, una de las cofundadoras de AccelerateSF, Rachel Yee, figura como cofundadora de AccelerateX y parece haber recibido financiación del Converge 2 Accelerator de OpenAI. Otra cofundadora, Kay Sorin, ahora trabaja para OpenAI. Estas conexiones resaltan la participación de importantes empresas de IA y capital de riesgo en el proyecto.

    El cofundador de Jancso, Jordan Wick, un ex ingeniero de Waymo, ha participado activamente en DOGE, participando en eventos en varias agencias federales. Esta participación, junto con los esfuerzos de reclutamiento anteriores de Jancso para DOGE, subraya los estrechos vínculos entre AccelerateX y la iniciativa más amplia para implementar la IA en todo el gobierno.

    DOGE, establecido durante la segunda administración Trump, ha estado promoviendo activamente la adopción de la IA en varias agencias gubernamentales. Ejemplos incluyen el uso de IA para el código de sitios web en el Departamento de Asuntos de Veteranos, el despliegue del chatbot GSAi y la automatización del proceso de despido de empleados gubernamentales con una herramienta llamada AutoRIF. Estas iniciativas, junto con el enfoque en los recortes de empleos, han generado preocupaciones sobre el impacto potencial en los empleados federales y la calidad de los servicios gubernamentales.

    Los expertos expresan dudas sobre la viabilidad y la fiabilidad del despliegue de agentes de IA para reemplazar una parte significativa de la fuerza laboral federal. Un empleado federal con conocimiento de la contratación gubernamental, que habló de forma anónima, señala que los diversos procedimientos entre las agencias dificultarían el despliegue de IA a gran escala.

    Oren Etzioni, cofundador de la startup de IA Vercept, enfatiza las limitaciones de los agentes de IA. Destaca que si bien la IA puede ser útil para tareas específicas, sus resultados pueden ser poco fiables y no es un reemplazo directo de los trabajadores humanos. Etzioni cuestiona si el gobierno es el lugar apropiado para experimentar con IA de vanguardia, especialmente dado que las corporaciones no la han adoptado por completo. También sugiere que la afirmación de que la IA reemplazará a 70.000 empleados es poco realista.

    El papel de Jancso como reclutador inicial para DOGE, junto con su trabajo actual con AccelerateX, refuerza la conexión entre estas iniciativas. En diciembre de 2024, utilizó el grupo de ex alumnos de Palantir para reclutar para DOGE, buscando talento tecnológico para la misión de construir un gobierno eficiente y recortar el presupuesto federal. Fuentes sugieren que Jancso fue uno de los primeros miembros de DOGE que trabajó fuera de la oficina de SpaceX en DC antes de la investidura.

    Palantir, cofundada por Peter Thiel, un partidario de Trump, tiene estrechos vínculos con Musk y ha recibido miles de millones en contratos gubernamentales. La participación de la empresa en iniciativas como la construcción de una “mega API” y la creación de una plataforma de vigilancia para ICE destaca aún más la intersección de la tecnología, el gobierno y las aplicaciones potencialmente controvertidas de la IA.

    El artículo describe cómo Anthony Jancso, un ex reclutador de DOGE, busca tecnólogos para implementar agentes de IA en agencias federales, automatizando potencialmente tareas realizadas por 70,000 empleados. Esta iniciativa, respaldada por conexiones con Palantir, OpenAI y el entorno de Musk, genera escepticismo sobre su viabilidad e implicaciones éticas. Expertos cuestionan la fiabilidad de la IA en funciones gubernamentales y la posible pérdida de empleos. Plantea preguntas cruciales sobre el papel de la IA en la gobernanza y la necesidad de una cuidadosa consideración antes de su implementación generalizada.

    Para más información: Explore la historia y los objetivos de DOGE y las consideraciones éticas de la IA en el gobierno.