Category: Artificial Intelligence

Estados Unidos ha denegado la tarjeta de residencia permanente (Green Card) a Kai Chen, una investigadora canadiense de inteligencia artificial (IA) y empleada de OpenAI, obligándola a considerar trabajar de forma remota desde Canadá. Este incidente pone de manifiesto los crecientes desafíos que enfrentan los talentos extranjeros que buscan vivir y trabajar en Estados Unidos, especialmente en el sector de la IA, en rápido crecimiento, y suscita preocupación sobre la capacidad de Estados Unidos para mantener su liderazgo en este campo.

Kai Chen, una destacada investigadora canadiense de IA en OpenAI, se le denegó la tarjeta de residencia en Estados Unidos después de residir en el país durante 12 años, según una publicación de Noam Brown, un importante científico investigador de la compañía. Brown expresó una profunda preocupación, destacando las significativas contribuciones de Chen a la investigación de IA y el riesgo potencial para el liderazgo estadounidense en IA al rechazar a tal talento. Dylan Hunn, otro empleado de OpenAI, enfatizó aún más el papel crucial de Chen en el desarrollo de GPT-4.5, uno de los modelos de IA insignia de OpenAI.

Las razones para la denegación de la tarjeta de residencia pueden variar, y aunque el trabajo de Chen en OpenAI sigue siendo seguro, la denegación requiere su salida de Estados Unidos. Brown indicó que Chen planea trabajar de forma remota desde Vancouver mientras la situación se resuelve, con suerte. Esta situación subraya los desafíos que enfrentan los talentos extranjeros que buscan vivir y trabajar en Estados Unidos, particularmente bajo el clima migratorio actual.

El CEO de OpenAI, Sam Altman, en una publicación de julio de 2023 en X, abogó por cambios en las políticas para facilitar el proceso para que los inmigrantes “altamente cualificados” trabajen en Estados Unidos. Un portavoz de OpenAI declaró posteriormente que la solicitud de Chen se presentó antes de que se uniera a la empresa y que podría haber “problemas de papeleo” involucrados. La empresa está trabajando estrechamente con Chen para abordar la situación.

Este caso es parte de una tendencia más amplia. En los últimos meses, más de 1.700 estudiantes internacionales en Estados Unidos, incluidos investigadores de IA, han enfrentado desafíos con sus estatus de visa. Si bien algunos han sido acusados de apoyar a grupos militantes o participar en actividades antisemitas, otros han sido blanco de infracciones menores. El gobierno, después de cancelar inicialmente las visas de estudiantes, ha revertido temporalmente la decisión mientras desarrolla un “nuevo sistema” para revisar y cancelar visas.

Además, la administración actual ha adoptado un enfoque más escéptico hacia los solicitantes de tarjetas de residencia, según informes, suspendiendo el procesamiento de solicitudes de residencia permanente legal presentadas por inmigrantes a los que se les ha concedido el estatus de refugiado o asilo. La administración también ha adoptado una postura firme contra los titulares de tarjetas de residencia percibidos como amenazas a la seguridad nacional, deteniéndolos y amenazándolos con la deportación.

Los laboratorios de IA como OpenAI dependen en gran medida del talento de investigación extranjero. Shaun Ralston, un contratista independiente que apoya a los clientes de la API de OpenAI, señaló que OpenAI presentó más de 80 solicitudes de visas H-1B solo el año pasado y ha patrocinado más de 100 visas desde 2022. La denegación de la tarjeta de residencia de Chen destaca el impacto negativo potencial de estas políticas de inmigración en la industria de IA de Estados Unidos.

Las visas H-1B, comúnmente utilizadas por las empresas tecnológicas, permiten a las empresas estadounidenses emplear temporalmente a trabajadores extranjeros en ocupaciones especializadas. Recientemente, los funcionarios de inmigración han aumentado el escrutinio mediante la emisión de “solicitudes de evidencia” para las H-1B y otras peticiones de inmigración basadas en el empleo, solicitando direcciones residenciales y datos biométricos. Los expertos sugieren que esto podría conducir a un aumento en las solicitudes denegadas.

Los inmigrantes han desempeñado un papel crucial en el crecimiento de la industria de IA de Estados Unidos. Un estudio del Centro de Seguridad y Tecnología Emergente de Georgetown encontró que el 66% de las 50 startups de IA “más prometedoras” con sede en Estados Unidos en la lista “AI 50” de Forbes de 2019 tenían un fundador inmigrante. Además, un análisis de 2023 de la Fundación Nacional para la Política Estadounidense reveló que el 70% de los estudiantes graduados a tiempo completo en campos relacionados con la IA son estudiantes internacionales.

El impacto de los inmigrantes en el campo de la IA es evidente en las historias de éxito de individuos como Ashish Vaswani, co-creador de la arquitectura del transformador, y Wojciech Zaremba, cofundador de OpenAI, quien obtuvo su doctorado en IA con una visa de estudiante.

Las políticas de inmigración de Estados Unidos, junto con los recortes en la financiación de subvenciones y una hostilidad percibida hacia ciertos campos científicos, están haciendo que muchos investigadores consideren abandonar el país. Una encuesta de Nature a más de 1.600 científicos reveló que el 75% estaba contemplando buscar oportunidades de trabajo en el extranjero.

La denegación de la green card al investigador de IA de OpenAI, Kai Chen, clave para GPT-4.5, expone una preocupante tendencia de EE. UU. perdiendo talento extranjero valioso debido a políticas migratorias restrictivas y una reciente represión contra estudiantes internacionales. Esta situación, junto con la consideración de investigadores de abandonar el país por recortes de fondos y cambios políticos, amenaza el liderazgo estadounidense en la creciente industria de la IA, subrayando la necesidad urgente de reevaluar y reformar las políticas de inmigración para retener y atraer trabajadores cualificados.

Durante años, los proveedores de inteligencia artificial generativa han asegurado al público que los modelos de lenguaje grandes (LLM) están alineados con las directrices de seguridad, utilizando técnicas como el Aprendizaje por Refuerzo a partir de la Retroalimentación Humana (RLHF) para prevenir contenido dañino. Sin embargo, una nueva investigación de HiddenLayer sugiere que esta confianza podría ser infundada, revelando una técnica universal llamada “Marionetas de Políticas” que puede eludir estas salvaguardas en casi todos los LLM importantes.

Los proveedores de IA generativa han asegurado durante mucho tiempo al público y a las empresas que sus modelos de lenguaje grandes (LLM) son seguros y están alineados con las directrices éticas. Han promovido enérgicamente técnicas como el Aprendizaje por Refuerzo a partir de la Retroalimentación Humana (RLHF) como la piedra angular de esta alineación, prometiendo respuestas éticas incluso en situaciones difíciles.

Sin embargo, una nueva investigación de HiddenLayer sugiere que esta confianza puede estar equivocada. Su equipo ha descubierto una técnica de derivación universal, denominada “Policy Puppetry” (Marionetas de Políticas), que puede manipular casi todos los LLM importantes, independientemente del proveedor, la arquitectura o la canalización de entrenamiento.

Policy Puppetry es una forma de inyección de indicaciones (prompt injection) engañosamente simple pero muy efectiva. Reformula la intención maliciosa en el lenguaje de la configuración del sistema, lo que le permite eludir las salvaguardas de alineación tradicionales. Este método introduce una estructura de indicación “similar a una política”, que a menudo se asemeja a XML o JSON, que engaña al modelo para que interprete comandos dañinos como instrucciones legítimas del sistema.

Además, la técnica emplea codificación leetspeak y escenarios de juego de roles ficticios para evadir la detección y obligar al modelo a cumplir. Por ejemplo, los investigadores utilizaron con éxito esta técnica para generar contenido dañino utilizando ChatGPT 4o, y luego descubrieron que la misma indicación funcionaba contra prácticamente todos los demás modelos probados.

La lista de sistemas comprometidos incluye ChatGPT de OpenAI (o1 a 4o), la familia Gemini de Google, Claude de Anthropic, Copilot de Microsoft, LLaMA 3 y 4 de Meta, DeepSeek, Qwen y Mistral. Incluso los modelos más nuevos y aquellos ajustados para el razonamiento avanzado podrían verse comprometidos con pequeños ajustes en la estructura de la indicación.

Un elemento clave de Policy Puppetry es su dependencia de escenarios ficticios para eludir los filtros. Las indicaciones se enmarcan como escenas de dramas televisivos, como *House M.D.*, donde los personajes explican cómo crear sustancias peligrosas como esporas de ántrax o enriquecer uranio. Este uso de personajes ficticios y lenguaje codificado disfraza la naturaleza dañina del contenido.

Este método explota una limitación fundamental de los LLM: su incapacidad para distinguir entre historia e instrucción cuando las señales de alineación se subvierten. No es solo una evasión de los filtros de seguridad; es una redirección completa de la comprensión del modelo de lo que se le pide que haga.

Quizás aún más preocupante es la capacidad de Policy Puppetry para extraer indicaciones del sistema, los conjuntos de instrucciones centrales que rigen el comportamiento de un LLM. Estas indicaciones suelen contener directivas confidenciales, restricciones de seguridad y lógica propietaria.

Al cambiar sutilmente el juego de roles, los atacantes pueden hacer que un modelo emita su indicación completa del sistema textualmente. Esto expone los límites operativos del modelo y proporciona planos para diseñar ataques aún más dirigidos. Jason Martin, director de investigación adversaria en HiddenLayer, declaró que “La vulnerabilidad está arraigada en los datos de entrenamiento del modelo. No es tan fácil de solucionar como un simple fallo de código”.

Las implicaciones de esta vulnerabilidad se extienden más allá de las bromas digitales. Malcolm Harkins, director de confianza y seguridad de HiddenLayer, señala graves consecuencias en el mundo real. En la atención médica, los asistentes de chatbot podrían proporcionar consejos médicos peligrosos o exponer datos privados de pacientes. En finanzas, se podría exponer información confidencial de clientes. En la fabricación, la IA comprometida podría provocar pérdidas de rendimiento o tiempo de inactividad. En la aviación, la guía de IA corrupta podría comprometer la seguridad del mantenimiento.

En cada uno de estos escenarios, los sistemas de IA diseñados para mejorar la eficiencia o la seguridad podrían convertirse en vectores de riesgo.

La investigación pone en duda la eficacia de RLHF como único mecanismo de seguridad. Si bien los esfuerzos de alineación ayudan a reducir el uso indebido a nivel superficial, siguen siendo vulnerables a la manipulación de indicaciones a nivel estructural. Los modelos entrenados para evitar ciertas palabras o escenarios aún pueden ser engañados si la intención maliciosa se envuelve en el empaque correcto.

Chris “Tito” Sestito, cofundador y director ejecutivo de HiddenLayer, enfatiza que “El filtrado superficial y las barreras de protección demasiado simplistas a menudo enmascaran las debilidades de seguridad subyacentes de los LLM. Como muestra nuestra investigación, estos y muchos más puentes de acceso seguirán surgiendo, lo que hace que sea fundamental que las empresas y los gobiernos adopten soluciones de seguridad de IA dedicadas antes de que estas vulnerabilidades conduzcan a consecuencias en el mundo real”.

HiddenLayer aboga por un enfoque de defensa de doble capa, en lugar de depender únicamente del reentrenamiento del modelo o del ajuste fino de RLHF. Proponen plataformas externas de monitoreo de IA, como sus propias soluciones AISec y AIDR, que actúan como sistemas de detección de intrusiones. Estas plataformas escanean continuamente en busca de inyección de indicaciones, uso indebido y salidas inseguras.

Dichas soluciones permiten a las organizaciones responder en tiempo real a nuevas amenazas sin modificar el modelo en sí, un enfoque similar a la seguridad de confianza cero en la TI empresarial.

A medida que la IA generativa se integra cada vez más en los sistemas críticos, la superficie de ataque se está expandiendo más rápido de lo que la mayoría de las organizaciones pueden asegurar. Los hallazgos de HiddenLayer sirven como una advertencia sombría: la era de la IA segura por alineación puede haber terminado antes de que realmente comenzara.

La conclusión es que si una indicación puede desbloquear lo peor de lo que la IA puede producir, la seguridad necesita evolucionar de una restricción esperanzadora a una defensa continua e inteligente.

La investigación de HiddenLayer revela la técnica “Títeres de Políticas” que elude las medidas de seguridad en casi todos los LLMs principales, explotando su incapacidad para diferenciar historia de instrucción. Esto permite la extracción de prompts del sistema y la generación de contenido dañino, socavando la confianza en RLHF para la alineación. Los hallazgos exigen un cambio de la re-entrenamiento reactivo del modelo a soluciones proactivas y continuas de seguridad de la IA, ya que la era de la IA segura por alineación podría estar terminando.

Recientemente, una estación de radio australiana, CADA, ha estado utilizando un DJ generado por inteligencia artificial llamado Thy para presentar un segmento de cuatro horas llamado Workdays with Thy, donde se reproduce música hip hop, R&B y pop. Sorprendentemente, los oyentes no se dieron cuenta de que el presentador era una IA hasta hace poco, lo que ha provocado un debate sobre la transparencia y el creciente uso de la inteligencia artificial en los medios de comunicación.

Durante meses, una estación de radio australiana, CADA, ha estado transmitiendo un segmento presentado por un DJ generado por IA llamado Thy, y notablemente, la audiencia permaneció ajena a esta innovación tecnológica. El segmento, “Workdays with Thy”, presenta una mezcla de cuatro horas de géneros musicales populares como hip hop, R&B y pop. Este hecho es confirmado por informes del Australian Financial Review y The Sydney Morning Herald, destacando la exitosa integración de la IA en la industria de la radio.

Específicamente, la descripción del programa, que está disponible en el sitio web de CADA, no ofrece ninguna pista sobre los orígenes artificiales de Thy. En cambio, promociona el segmento como una plataforma para descubrir música de tendencia, afirmando: “Curada por nuestros expertos en música, estas son las canciones que están en las listas o a punto de explotar: escúchalas primero con Thy para que puedas presumir con tus amigos y decir que estabas al tanto primero”. Esta estrategia de marketing engañosa, que intencionalmente oscurece la naturaleza de IA del presentador, subraya el intento de la estación de integrar sin problemas la IA en su programación.

Además, el presentador de IA, Thy, no es enteramente un producto de inteligencia artificial. La voz y la imagen de Thy están modeladas a partir de una empleada real del departamento financiero de la empresa, según ARN Media, propietaria de CADA. El generador de voz de IA ElevenLabs se utilizó para crear la voz de Thy, como informó inicialmente el boletín The Carpet. Este enfoque, que combina elementos humanos con IA, difumina aún más la línea entre la realidad y la simulación, contribuyendo a la falta de conocimiento de la audiencia.

El éxito de “Workdays with Thy” al pasar desapercibido destaca una tendencia más amplia de contenido generado por IA que está pasando con éxito por contenido creado por humanos. Otro ejemplo de esto es la reciente revelación de Microsoft de que utilizaron un presentador generado por IA en un anuncio de Microsoft Surface, un hecho que no se reveló hasta hace poco. Esta tendencia sugiere que la tecnología de IA ha avanzado hasta un punto en el que puede imitar de manera convincente la creatividad y el rendimiento humanos, lo que plantea interrogantes sobre la autenticidad y la transparencia en los medios.

La falta de transparencia en torno a la naturaleza generada por IA de Thy ha suscitado críticas de profesionales de la industria. Teresa Lim, vicepresidenta de la Asociación Australiana de Actores de Voz, expresó sus preocupaciones en LinkedIn, afirmando: “Los oyentes australianos merecen honestidad y divulgación directa en lugar de una falta de transparencia que los lleve a confiar en una persona falsa que creen que es una persona real en el aire”. Este sentimiento refleja una creciente preocupación por las implicaciones éticas del uso de la IA para crear contenido sin la debida divulgación, particularmente en industrias que dependen de la confianza y la autenticidad.

El impacto de la IA en la industria de la radio también es evidente en las calificaciones del segmento. Según el Financial Review, “Workdays with Thy” ha estado en el sitio web de CADA desde noviembre de 2024 y llega a al menos 72.000 oyentes. Este nivel de participación de la audiencia sugiere que los presentadores generados por IA pueden tener éxito en atraer y retener oyentes, incentivando aún más a las estaciones de radio a explorar esta tecnología.

En respuesta a la controversia, el director ejecutivo de ARN, Ciaran Davis, reconoció el panorama cambiante de los medios de comunicación, afirmando: “Estamos tratando de entender qué es real y qué no lo es”. También enfatizó el valor de los locutores humanos, diciendo: “Lo que hemos aprendido es el poder de los locutores que tenemos”. Esta declaración refleja el debate en curso dentro de la industria sobre el papel de la IA y la importancia del talento humano.

Además, el uso de la IA en la radio no se limita a Australia. Otras estaciones de radio, incluida una en Portland, Oregón, y Sirius XM, también han experimentado con presentadores de IA. Sin embargo, no todos los experimentos han tenido éxito. Una estación de radio polaca, por ejemplo, reemplazó a los periodistas con presentadores de IA, solo para revertir la decisión tras la reacción del público. Este incidente subraya la importancia de considerar la percepción pública y las implicaciones éticas al implementar la tecnología de IA en los medios.

Una estación de radio australiana, CADA, empleó secretamente a un DJ generado por IA llamado Thy, basado en un empleado real, durante meses sin revelar su naturaleza artificial. Este incidente, junto con la reciente revelación de anuncios de IA de Microsoft, subraya la creciente prevalencia y el potencial de contenido de IA inadvertido. Los profesionales de la industria critican la falta de transparencia, generando preocupación sobre la confianza del oyente y el futuro de las voces humanas en los medios. A medida que la IA difumina cada vez más los límites de la realidad, se vuelve primordial exigir una mayor divulgación ética y una alfabetización mediática crítica.

Una estación de radio de Sídney, CADA, ha estado utilizando un presentador generado por inteligencia artificial llamado “Thy” para su programa de hip-hop de lunes a viernes, “Workdays with Thy”, durante unos seis meses sin informar a los oyentes. La voz y la apariencia del presentador artificial fueron clonadas de un empleado real, lo que plantea interrogantes sobre la transparencia y el papel de la IA en los medios de radiodifusión.

La estación de radio australiana CADA, propiedad de ARN Media, ha estado utilizando un presentador generado por IA llamado “Thy” para su espacio Workdays durante aproximadamente seis meses sin revelar esto a sus oyentes. Esta revelación, sacada a la luz por Stephanie Coombes en el boletín The Carpet, ha desatado un debate sobre la transparencia y las implicaciones éticas de la IA en la radiodifusión.

El presentador de IA, Thy, presenta cuatro horas de música hip-hop cada día de la semana, a partir de las 11 am. La página web del programa, sin embargo, no ofrece ninguna indicación de que el presentador sea generado por IA. En cambio, simplemente afirma que Thy tocará los temas más populares mientras los oyentes están en el trabajo, de camino al trabajo o en la universidad. Esta falta de transparencia ha generado preocupación sobre la autenticidad de la transmisión y la posibilidad de engaño.

La voz de IA de Thy fue creada utilizando ElevenLabs, una plataforma de audio de IA generativa que convierte texto en voz. Curiosamente, la voz y la imagen fueron clonadas de un empleado real del equipo de finanzas de ARN. Esto añade otra capa de complejidad a la situación, destacando el potencial de la IA para imitar y potencialmente reemplazar el talento humano en la industria de los medios.

Legalmente, ARN no estaba obligado a revelar el uso de la IA. La Autoridad Australiana de Comunicaciones y Medios (ACMA) ha declarado que actualmente no existen restricciones específicas sobre el uso de la IA en el contenido de las emisiones, ni ningún requisito legal de divulgación. Esta laguna regulatoria ha permitido a estaciones como CADA experimentar con presentadores de IA sin informar a su audiencia.

Un portavoz de ARN declaró que la empresa estaba explorando cómo la nueva tecnología podría mejorar la experiencia del oyente. Enmarcaron el uso de Thy como una prueba, enfatizando que ha proporcionado información valiosa sobre el potencial de la IA en la radiodifusión. Sin embargo, el portavoz también reconoció que la prueba “reforzó el poder de las personalidades reales para impulsar contenido atractivo”, sugiriendo un posible cambio de estrategia.

El programa Workdays with Thy ha estado en el aire desde noviembre y, según los informes, llegó a al menos 72.000 oyentes en las últimas mediciones. Esto demuestra el alcance y la influencia del presentador generado por IA, alimentando aún más el debate sobre el impacto de la IA en la industria de la radio.

Teresa Lim, vicepresidenta de la Asociación Australiana de Actores de Voz, ha criticado enérgicamente la falta de divulgación de CADA. Argumenta que la legislación en torno al etiquetado de la IA es crucial, enfatizando la importancia de la autenticidad y la verdad en los medios de radiodifusión. Cree que el público merece saber la fuente del contenido que consume.

Lim también destacó el impacto en los grupos minoritarios, particularmente las mujeres australianas de origen asiático. Expresó su decepción porque se les quitó una oportunidad a un grupo demográfico ya poco representado en la radiodifusión. Esto subraya las implicaciones sociales más amplias de la IA, incluido su potencial para exacerbar las desigualdades existentes.

CADA no es la primera estación de radio en experimentar con presentadores de IA. Disrupt Radio presentó a su lectora de noticias de IA, Debbie Disrupt, hace dos años, pero crucialmente, reveló su naturaleza de IA desde el principio. En 2023, una estación de Oregón en los EE. UU. utilizó un presentador de IA basado en un presentador real. Estos ejemplos demuestran diferentes enfoques de la integración de la IA, siendo la transparencia un diferenciador clave.

La ACMA está desarrollando actualmente políticas para garantizar el uso seguro y responsable de la IA en Australia. Estas políticas, lideradas en gran medida por el Departamento de Industria, Ciencia y Recursos de la Commonwealth, incluyen la consideración de barreras de protección obligatorias en torno a la transparencia en entornos de alto riesgo y la publicación del Estándar Voluntario de Seguridad de la IA en septiembre de 2024. Esto indica una creciente conciencia de la necesidad de regulación ante el rápido avance de la tecnología de IA.

Durante seis meses, la emisora de radio CADA en Sídney utilizó secretamente una presentadora generada por IA llamada “Thy”, clonando la voz de un empleado real para un programa de hip-hop. Aunque legalmente permisible por ahora, esta práctica genera preocupaciones sobre la autenticidad, la transparencia y el desplazamiento de talento humano, especialmente para grupos minoritarios en los medios. Australia está desarrollando normas de seguridad para la IA, pero el incidente resalta la necesidad urgente de regulaciones claras y requisitos de divulgación en la radiodifusión.

El auge de la inteligencia artificial (IA) está creando un panorama complejo y a menudo contradictorio en la educación. Mientras los estudiantes adoptan herramientas de IA como los chatbots, muchos profesores expresan preocupaciones sobre su uso, incluso cuando ellos mismos recurren cada vez más a la IA para tareas como la corrección de exámenes y la planificación de lecciones. Este artículo explora el tira y afloja de la IA en las escuelas, examinando tanto los beneficios potenciales como las implicaciones inquietantes de esta tecnología en rápida evolución.

Los estudiantes están adoptando herramientas de IA, mientras que los profesores expresan reservas sobre su uso, creando una dinámica compleja dentro del sistema educativo. The New York Times destacó esta tensión, señalando que tanto estudiantes como educadores están utilizando chatbots de IA, pero sus motivaciones y enfoques difieren significativamente.

Los profesores, por un lado, están empleando la IA para tareas como calificar trabajos y generar planes de lecciones, aprovechando su potencial de eficiencia. Por ejemplo, el texto menciona que los profesores alimentan a ChatGPT con el currículo para crear planes de lecciones. Sin embargo, simultáneamente expresan preocupación por que los estudiantes utilicen herramientas como Google Lens para resolver problemas, considerándolo una forma de hacer trampa.

Esta dualidad plantea preguntas sobre las implicaciones éticas y la posible hipocresía dentro del panorama educativo. Como ilustra Alex Baron, un administrador escolar de D.C., la situación es complicada. Considera que las herramientas de IA son problemáticas para los estudiantes, pero las utiliza para agruparlos en función de su rendimiento académico y datos de comportamiento.

Esta aparente contradicción provoca una reflexión sobre los principios subyacentes que guían la adopción de la IA en la educación. Jon Gold, un profesor de historia de secundaria, resume este sentimiento al priorizar la alfabetización en IA sobre el uso irrestricto de la IA.

Además, el texto destaca los distintos grados de integración de la IA en los diferentes entornos educativos. Algunos educadores están adoptando activamente la IA para personalizar las experiencias de aprendizaje. Maurie Beasley, un gurú de la tecnología escolar de Texas, utiliza la IA para adaptar los problemas de matemáticas a los estudiantes individuales, demostrando un enfoque proactivo para utilizar las capacidades de la IA.

Sin embargo, la narrativa también revela los posibles escollos y limitaciones de la IA en la educación. El ejemplo del sistema automatizado de calificación de ensayos de Texas, que calificó incorrectamente miles de ensayos de estudiantes, sirve como una advertencia. En 2020, el estado gastó casi 400 millones de dólares en este sistema, y una revisión de 4.600 ensayos de estudiantes reveló que 2.000 recibieron calificaciones más altas de las que deberían haber tenido.

Este incidente plantea preguntas críticas sobre la fiabilidad y la eficacia de las tecnologías educativas impulsadas por la IA. El texto cuestiona si las ganancias de eficiencia percibidas son genuinas o una ilusión, enfatizando la necesidad de una evaluación cuidadosa y una valoración crítica.

El rápido ritmo de desarrollo de la IA y su integración en la educación crea una sensación de urgencia y presión. El texto describe una “fiebre del oro de la IA” en la tecnología educativa, con empresas que comercializan agresivamente sus productos. Este entorno incluye herramientas de IA que analizan el rendimiento de los profesores, lo que suscita preocupación por la posibilidad de resultados distópicos.

El artículo revela un panorama educativo complejo y contradictorio: los estudiantes adoptan herramientas de IA mientras los profesores luchan con su uso, aunque cada vez dependen más de la IA para tareas como la calificación y la planificación de lecciones. A pesar de la eficiencia prometedora, la implementación de la IA enfrenta desafíos, incluyendo sistemas defectuosos y preocupaciones éticas, todo en medio de una rápida y a menudo inquietante “fiebre del oro de la IA”. Debemos evaluar críticamente el verdadero valor de estas tecnologías y priorizar una integración reflexiva sobre la adopción ciega para asegurar que la IA mejore, en lugar de socavar, la experiencia educativa.

Perplexity, un motor de búsqueda de IA que busca desafiar a Google, está expandiendo sus ambiciones más allá de la competencia directa. El director ejecutivo de la compañía reveló recientemente planes para construir un navegador, Comet, y recopilar datos de usuarios, incluso fuera de su aplicación, para permitir la venta de anuncios premium, lo que refleja una estrategia clave que impulsó el crecimiento de Google.

Perplexity, una empresa de IA centrada en la búsqueda, tiene como objetivo desafiar directamente el dominio de Google, no solo competir con él. Esta ambición es evidente en sus movimientos estratégicos para replicar el exitoso modelo de negocio basado en datos de Google.

Una de las estrategias clave que Perplexity está empleando es la construcción de su propio navegador, llamado Comet. Según el CEO Aravind Srinivas, la razón principal para desarrollar este navegador es recopilar datos completos de los usuarios, incluso fuera de la aplicación Perplexity. Esta recopilación de datos permitirá a la empresa crear perfiles de usuario detallados y, en consecuencia, vender anuncios premium dirigidos. Srinivas declaró explícitamente en el podcast TBPN: “Esa es una de las otras razones por las que queríamos construir un navegador, queremos obtener datos incluso fuera de la aplicación para entenderte mejor”.

La lógica detrás de esta estrategia de recopilación de datos se basa en la creencia de que comprender el comportamiento en línea más amplio de un usuario es crucial para construir perfiles de usuario precisos y valiosos. Srinivas destacó que, si bien las consultas relacionadas con el trabajo dentro de la aplicación de IA proporcionan información limitada, el seguimiento de actividades como compras, destinos de viaje y hábitos de navegación ofrece información significativamente más valiosa. Como explicó: “Por otro lado, qué cosas estás comprando; a qué hoteles vas; a qué restaurantes vas; en qué estás pasando tiempo navegando, nos dice mucho más sobre ti”.

El enfoque de Perplexity refleja la trayectoria histórica de Google. El éxito de Google al convertirse en una empresa con una capitalización de mercado de $2 billones fue fuertemente influenciado por su capacidad para rastrear el comportamiento del usuario en Internet. Esta recopilación de datos, facilitada por su navegador (Chrome) y sistema operativo móvil (Android), permitió a Google construir perfiles de usuario detallados y orientar la publicidad de manera efectiva. Perplexity está claramente intentando replicar este modelo.

Además, Perplexity está expandiendo su alcance más allá de un simple navegador. La empresa ya ha formado una asociación con Motorola, donde su aplicación se preinstalará en la serie Razr y será accesible a través de Moto AI. Esta medida es una clara indicación de la ambición de Perplexity de establecer una presencia en el ecosistema móvil, similar al dominio de Google con Android.

Además, Perplexity está buscando activamente asociaciones con otros actores importantes en la industria móvil. Bloomberg informó que Perplexity está en conversaciones con Samsung, consolidando aún más su estrategia para expandir su base de usuarios y sus capacidades de recopilación de datos. Srinivas aludió a esta asociación durante el podcast, confirmando el interés de la empresa en expandir su alcance.

Sin embargo, la estrategia de Perplexity no está exenta de posibles inconvenientes. La admisión abierta de la empresa de sus ambiciones de rastreo de navegadores con fines de venta de anuncios plantea importantes preocupaciones de privacidad. Este enfoque recuerda las prácticas de recopilación de datos de otros gigantes tecnológicos como Meta y Apple, que han enfrentado críticas y escrutinio considerables por sus prácticas de recopilación de datos.

De hecho, la dependencia de la industria tecnológica de los datos de los usuarios para la publicidad ha generado desconfianza generalizada entre los usuarios de todo el espectro político. La ironía de que Srinivas discuta abiertamente las intenciones de rastreo de datos de Perplexity es particularmente sorprendente, especialmente considerando las batallas legales en curso a las que se enfrenta Google con respecto a sus prácticas monopolísticas en la búsqueda y la publicidad en línea.

De hecho, Google está actualmente envuelto en una batalla legal con el Departamento de Justicia de EE. UU., que alega que Google ha participado en un comportamiento monopolístico para dominar los mercados de búsqueda y publicidad en línea. El DOJ busca obligar a Google a desinvertir Chrome. Curiosamente, tanto OpenAI como Perplexity han expresado interés en adquirir el negocio del navegador Chrome si Google se ve obligado a venderlo, lo que destaca la importancia estratégica de la recopilación de datos basada en el navegador en el panorama de búsqueda impulsado por la IA.

Perplexity busca replicar el éxito de Google mediante su propio navegador (Comet) para recopilar datos de usuarios, más allá de su app, y así dirigir publicidad y fortalecer perfiles. Se ha asociado con Motorola y negocia con Samsung para expandirse. Esta estrategia, similar al modelo de Google basado en datos, podría enfrentar rechazo debido a la creciente preocupación por el rastreo de las grandes tecnológicas, especialmente en medio de las demandas antimonopolio contra Google. La pregunta clave es: ¿estamos dispuestos a sacrificar la privacidad de los datos a cambio de publicidad más relevante?

Recientemente, ha habido una serie de protestas contra los multimillonarios de la tecnología en varias ciudades de la Costa Oeste, incluyendo Seattle. Pero en lugar de las manifestaciones tradicionales, los pasos de peatones han sido intervenidos para reproducir imitaciones satíricas de los multimillonarios cuando los peatones presionan los botones para cruzar.

En varias ciudades de la costa oeste, incluyendo Seattle, las señales de los pasos de peatones han sido el blanco de una serie de protestas contra los multimillonarios de la tecnología. Estas protestas, sin embargo, han adoptado una forma poco convencional, utilizando audio deepfake para transmitir mensajes satíricos.

Específicamente, en Seattle, al menos cinco pasos de peatones fueron hackeados para reproducir impresiones de audio de prominentes multimillonarios cuando los peatones presionaban el botón para cruzar. En lugar de la voz automatizada estándar, los individuos escuchaban mensajes imitando a Jeff Bezos, el fundador de Amazon. El audio incluía declaraciones como: “Hola, soy Jeff Bezos. Este paso de peatones está patrocinado por Amazon Prime con un mensaje importante. Por favor, no graven a los ricos, de lo contrario todos los demás multimillonarios se mudarán a Florida, también”. Las grabaciones concluían con una canción del comediante Bo Burnham.

El Departamento de Transporte de Seattle (SDOT) confirmó que las señales de los pasos de peatones fueron hackeadas. Incidentes similares fueron reportados en Silicon Valley, donde las señales reproducían grabaciones que sonaban como Mark Zuckerberg de Meta y Elon Musk de Tesla. Amazon, Meta y Tesla no respondieron a las solicitudes de comentarios.

El impacto de estos hackeos se sintió en la comunidad. Ava Pakzad, estudiante de la Universidad de Washington, encontró la broma divertida. Sin embargo, Maeceon Mace, que trabaja cerca de la sede de Amazon, expresó su preocupación, afirmando que el incidente le hizo preocuparse por la seguridad de otros sistemas.

El SDOT ha tomado medidas en respuesta a los hackeos. Deshabilitaron temporalmente las comunicaciones en algunos pasos de peatones que parecían estar comprometidos de forma inalámbrica. Además, están colaborando con el proveedor de los botones de los pasos de peatones para mejorar las medidas de seguridad.

La facilidad con la que se ejecutaron estos hackeos es un punto clave. David Kohlbrenner, codirector del Laboratorio de Investigación de Seguridad y Privacidad de la Universidad de Washington, explicó que las señales de los pasos de peatones no están diseñadas pensando en una seguridad robusta. Están diseñadas para ser fáciles de usar para un mantenimiento y actualizaciones rápidos.

Kohlbrenner elaboró además sobre la vulnerabilidad del sistema. Se puede acceder a cada señal de paso de peatones utilizando una aplicación de teléfono y Bluetooth, lo que permite actualizaciones fáciles. Sin embargo, las señales pueden haber sido comprometidas debido al uso de contraseñas predeterminadas proporcionadas por el fabricante, que a menudo son simples y fáciles de adivinar. Esto permitiría a cualquiera conectarse al dispositivo y cargar sus propios archivos de sonido.

La tecnología detrás del audio deepfake también es relativamente accesible. Cecilia Aragon, investigadora de la UW especializada en audio generado por IA, explicó que la clonación de voz es la clave. Con solo unas pocas muestras de audio de la voz de una persona, la IA puede aprender sus patrones de habla, acento e inflexión, lo que le permite generar nuevo contenido de audio.

Aragon destacó las implicaciones preocupantes de esta tecnología. Señaló que cualquier figura pública que haya sido grabada es vulnerable a este tipo de falsificación. La falta de regulaciones estrictas sobre la clonación de voz agrava aún más el problema.

En conclusión, los hackeos de los pasos de peatones son una demostración de la vulnerabilidad de la infraestructura pública y la facilidad con la que se puede utilizar la tecnología deepfake. El incidente subraya la necesidad de medidas de seguridad más sólidas, como la actualización de las contraseñas predeterminadas, y el potencial de uso indebido del audio generado por IA.

Las señales peatonales de Seattle fueron hackeadas para reproducir audio satírico deepfake de multimillonarios tecnológicos, demostrando vulnerabilidades en la infraestructura de la ciudad y la facilidad de la tecnología de clonación de voz. Expertos sugieren que contraseñas predeterminadas y herramientas de IA disponibles facilitaron el hackeo, resaltando la necesidad de medidas de seguridad más fuertes y actualizaciones de contraseñas, a la vez que se plantean preocupaciones sobre el potencial mal uso de la IA generativa.

Un grupo de antiguos empleados de OpenAI ha firmado una carta abierta al Fiscal General de California, Rob Bonta, expresando su preocupación de que el cambio de la empresa hacia un modelo con fines de lucro represente una amenaza significativa para su misión original sin fines de lucro de garantizar que la inteligencia artificial beneficie a toda la humanidad. OpenAI, fundada inicialmente como una organización de investigación sin fines de lucro, ha experimentado una reestructuración compleja en los últimos años, lo que suscita dudas sobre su compromiso con sus objetivos iniciales.

Ex empleados de OpenAI han redactado una carta abierta al Fiscal General de California, expresando serias preocupaciones sobre el cambio de la empresa hacia un modelo con fines de lucro. **Específicamente,** argumentan que este giro representa una “amenaza palpable” a la misión original sin fines de lucro de OpenAI.

**En primer lugar,** el núcleo de la preocupación de los empleados gira en torno al potencial conflicto entre la maximización de beneficios y el desarrollo responsable de la inteligencia artificial avanzada. **De hecho,** la carta sugiere que la búsqueda de ganancias financieras podría incentivar decisiones que prioricen los intereses comerciales sobre la seguridad y las consideraciones éticas inicialmente defendidas por OpenAI. **Por ejemplo,** los empleados podrían temer que la presión para generar ingresos conduzca a la liberación acelerada de modelos de IA antes de que sean completamente examinados en busca de posibles sesgos, mal uso o consecuencias no deseadas.

**Además,** los empleados probablemente creen que la estructura con fines de lucro podría socavar el compromiso de OpenAI con la transparencia y el acceso abierto. **En otras palabras,** el cambio podría conducir al control propietario de la tecnología de IA, limitando la capacidad de investigadores independientes, académicos y el público para analizar y comprender el funcionamiento interno de estos poderosos sistemas. **Esto es significativo porque** la falta de transparencia dificulta la capacidad de identificar y mitigar los riesgos potenciales asociados con el desarrollo de la IA.

**Además,** la carta implica que el modelo con fines de lucro podría alterar las prioridades de la empresa, desviando potencialmente el enfoque y los recursos de áreas críticas como la investigación sobre la seguridad de la IA y las evaluaciones de impacto social a largo plazo. **En consecuencia,** los empleados podrían estar preocupados de que la búsqueda de ganancias a corto plazo pueda eclipsar las implicaciones a largo plazo del desarrollo de la IA, lo que podría llevar a descuidar consideraciones éticas cruciales. **Para ilustrar este punto,** los recursos que antes se dedicaban a estudiar el impacto social de la IA podrían reasignarse a los esfuerzos de marketing y ventas.

**Además de estas preocupaciones,** la carta de los empleados probablemente destaca el potencial de que la estructura con fines de lucro exacerbe los desequilibrios de poder existentes dentro del panorama de la IA. **Es decir,** el cambio podría concentrar el control de las tecnologías de IA avanzadas en manos de unas pocas corporaciones poderosas, marginando aún más a los actores más pequeños y potencialmente sofocando la innovación. **Como resultado,** los empleados pueden temer que el modelo con fines de lucro pueda conducir a un ecosistema de IA menos diverso y más concentrado.

**En consecuencia,** los ex empleados de OpenAI están apelando al Fiscal General de California para que investigue los riesgos potenciales asociados con el giro con fines de lucro de la empresa. **En última instancia,** su objetivo es asegurar que OpenAI continúe priorizando el desarrollo y despliegue responsable de la IA, incluso mientras persigue oportunidades comerciales. **En conclusión,** la carta sirve como una severa advertencia sobre los peligros potenciales de priorizar las ganancias sobre las implicaciones éticas y sociales de las tecnologías de IA en rápida evolución.

Ex-empleados de OpenAI enviaron una carta abierta al Fiscal General de California, expresando su preocupación por el cambio de la empresa hacia un modelo con fines de lucro, lo cual, según ellos, amenaza su misión original sin fines de lucro. Argumentan que este giro representa una “amenaza palpable” que requiere escrutinio. ¿Priorizar las ganancias finalmente comprometerá la búsqueda de una IA segura y beneficiosa para todos?

La inteligencia artificial generativa (IA generativa) ha avanzado rápidamente y, si bien ofrece numerosos beneficios, también está siendo explotada por los ciberdelincuentes. El último informe Cyber Signals de Microsoft destaca una tendencia preocupante: los estafadores están aprovechando la IA para crear estafas en línea sofisticadas con una velocidad y facilidad sin precedentes, lo que reduce la barrera técnica para las actividades fraudulentas.

La IA generativa está transformando rápidamente el panorama del cibercrimen, facilitando y acelerando la ejecución de estafas sofisticadas por parte de los delincuentes. El informe Cyber Signals de Microsoft destaca esta preocupante tendencia, enfatizando que la IA ha reducido significativamente las barreras técnicas de entrada para las actividades fraudulentas. Esto significa que la creación de estafas en línea, que antes requería días o semanas y una considerable experiencia técnica, ahora se puede lograr en cuestión de minutos, incluso por personas con conocimientos técnicos limitados.

Una de las principales formas en que se explota la IA es en la creación de señuelos de ingeniería social altamente efectivos. Los ciberdelincuentes están aprovechando las herramientas de IA para escanear y extraer información de la web, construyendo meticulosamente perfiles detallados de posibles víctimas, incluidos empleados u otros objetivos. Esta información se utiliza luego para crear correos electrónicos de phishing personalizados, llamadas telefónicas engañosas u otras tácticas manipuladoras diseñadas para engañar a las personas para que revelen información confidencial o proporcionen acceso a los sistemas.

Además, la IA está facilitando el desarrollo de esquemas de fraude complejos. Los estafadores están utilizando reseñas de productos mejoradas con IA y escaparates generados por IA para crear sitios web falsos completos y marcas de comercio electrónico falsas. Estas operaciones fraudulentas a menudo se completan con historiales comerciales y testimonios de clientes fabricados, lo que les da una apariencia legítima a los consumidores desprevenidos. Además, se están empleando chatbots de servicio al cliente impulsados por IA para engañar a las víctimas, proporcionando información falsa sobre cargos inexplicables y otras anomalías, lo que consolida aún más la ilusión de un negocio legítimo.

La tecnología deepfake, una poderosa herramienta para el engaño, también está siendo ampliamente adoptada por los ciberdelincuentes. La IA se utiliza para crear respaldos falsos de celebridades, hacerse pasar por amigos y familiares, e incluso realizar entrevistas de trabajo fraudulentas a través de videollamadas. Microsoft advierte que los signos reveladores de un deepfake incluyen retrasos en la sincronización labial, habla robótica o expresiones faciales extrañas. Esto subraya la importancia del pensamiento crítico y el escepticismo al encontrar contenido en línea.

Para protegerse de estas amenazas en evolución, los consumidores deben adoptar varias medidas proactivas. Microsoft recomienda desconfiar de las ofertas por tiempo limitado, los temporizadores de cuenta regresiva y las reseñas sospechosas, que a menudo se utilizan para crear una sensación de urgencia y presionar a las personas para que tomen decisiones apresuradas. Antes de realizar cualquier compra en línea, los consumidores deben verificar cuidadosamente los nombres de dominio y las reseñas para verificar la legitimidad del vendedor. También es crucial evitar el uso de métodos de pago que carecen de protecciones contra el fraude, como transferencias bancarias directas y pagos con criptomonedas, ya que estos métodos ofrecen pocos recursos en caso de una estafa.

Las estafas de soporte técnico también están en aumento, a menudo aprovechando las tácticas de ingeniería social para ganarse la confianza de sus objetivos. Si bien la IA no siempre juega un papel directo en estas estafas, los delincuentes con frecuencia se hacen pasar por soporte de TI legítimo de empresas conocidas. Luego, utilizan varias técnicas para convencer a las víctimas de que proporcionen acceso remoto a sus computadoras o compartan información personal confidencial.

Para combatir esto, Microsoft está tomando medidas para mejorar la seguridad de sus plataformas. La herramienta Asistencia rápida de Windows, que permite compartir la pantalla de forma remota, se explota con frecuencia en las estafas de soporte técnico. En respuesta, Microsoft está agregando advertencias a Asistencia rápida y requiriendo que los usuarios reconozcan las implicaciones de seguridad de compartir su pantalla. Además, Microsoft recomienda usar Ayuda remota en lugar de Asistencia rápida para el soporte técnico interno, proporcionando un método más seguro para brindar asistencia.

A pesar de la creciente sofisticación del cibercrimen, Microsoft está trabajando activamente para proteger sus plataformas y clientes. Entre abril de 2024 y abril de 2025, la empresa detuvo con éxito intentos de fraude por valor de 4.000 millones de dólares, rechazó 49.000 inscripciones fraudulentas de asociación y bloqueó aproximadamente 1,6 millones de intentos de registro de bots por hora. Esto demuestra el compromiso continuo de Microsoft de combatir el cibercrimen y salvaguardar a sus usuarios de actividades maliciosas.

La IA generativa reduce drásticamente la barrera de entrada para los ciberdelincuentes, facilitando la creación rápida de estafas sofisticadas como sitios web falsos, suplantaciones deepfake y chatbots de servicio al cliente engañosos. Microsoft combate activamente estas amenazas, bloqueando miles de millones en intentos de fraude, pero los consumidores deben permanecer vigilantes, examinando ofertas, verificando reseñas y siendo cautelosos al compartir acceso a pantalla. Manténgase informado y priorice el escepticismo: el panorama digital evoluciona, y también deben hacerlo nuestras defensas.

El Colegio de Abogados del Estado de California admitió recientemente haber utilizado inteligencia artificial para desarrollar algunas preguntas para el examen de abogacía de febrero de 2025, lo que generó una controversia significativa. Esta revelación se produce tras semanas de problemas técnicos e irregularidades reportadas durante el examen, y ha suscitado preocupación entre la facultad de derecho y los aspirantes a la abogacía sobre la integridad y la equidad de la evaluación.

El Colegio de Abogados del Estado de California se ha visto envuelto en una controversia tras la revelación de que utilizó inteligencia artificial (IA) en el desarrollo de preguntas de opción múltiple para el examen de abogacía de febrero de 2025. Esta admisión ha encendido una tormenta de críticas, principalmente de educadores legales y examinados, planteando serias dudas sobre la integridad y la imparcialidad del proceso de examen.

Específicamente, el Colegio de Abogados del Estado reveló que su psicometrista, ACS Ventures, empleó IA para crear 23 de las 171 preguntas de opción múltiple con puntuación. Además, otras 48 preguntas se originaron en un examen de estudiantes de primer año de derecho, y las 100 restantes fueron desarrolladas por Kaplan Exam Services. Este enfoque multifacético para la creación de preguntas, sin embargo, se ha visto ensombrecido por el uso de la IA, que se ha convertido en el punto focal del debate subsiguiente.

La controversia se deriva del potencial percibido de la IA para introducir sesgos, imprecisiones o una falta de matices legales en las preguntas del examen. Los expertos legales están expresando sus preocupaciones, destacando el potencial de que las preguntas generadas por IA socaven la validez del examen.

Por ejemplo, Mary Basick, decana asistente de habilidades académicas en la Facultad de Derecho de la Universidad de California, Irvine, expresó su consternación, afirmando: “El desastre que fue el examen de abogacía de febrero de 2025 es peor de lo que imaginamos… Que las preguntas sean redactadas por no abogados utilizando inteligencia artificial es simplemente increíble”. Su declaración refleja la preocupación generalizada de que el uso de la IA compromete la capacidad del examen para evaluar con precisión el conocimiento legal y las habilidades de razonamiento de un candidato.

Además, Katie Moran, profesora asociada en la Facultad de Derecho de la Universidad de San Francisco, especializada en la preparación para el examen de abogacía, caracterizó la situación como “una admisión asombrosa”. También señaló un importante conflicto de intereses: la misma empresa que redactó las preguntas generadas por IA, ACS Ventures, también las evaluó y aprobó para su uso en el examen. Esto plantea serias dudas sobre la objetividad y el rigor del proceso de validación de las preguntas.

A pesar de las crecientes críticas, el Colegio de Abogados del Estado ha intentado defender sus prácticas. En un comunicado de prensa, la directora ejecutiva del Colegio de Abogados del Estado, Leah Wilson, declaró que todas las preguntas, incluidas las desarrolladas con la ayuda de la IA, fueron revisadas por paneles de validación de contenido y expertos en la materia antes de ser incluidas en el examen. Esta defensa, sin embargo, ha hecho poco para calmar la indignación, ya que los críticos argumentan que tales revisiones pueden no ser suficientes para identificar fallas sutiles o sesgos introducidos por la IA.

La justificación del Colegio de Abogados del Estado para incorporar la IA en el proceso de desarrollo del examen incluye una directiva de la Corte Suprema de California. Alex Chan, presidente del Comité de Examinadores de Abogados del Colegio de Abogados del Estado, señaló que la corte había instado al Colegio de Abogados del Estado a explorar “nuevas tecnologías, como la inteligencia artificial” para mejorar la fiabilidad y la rentabilidad de las pruebas. Si bien la búsqueda de avances tecnológicos es comprensible, los críticos argumentan que los riesgos potenciales asociados con la IA en este contexto superan los supuestos beneficios.

El uso de la IA en el proceso de desarrollo del examen de abogacía no solo está generando preocupaciones sobre la calidad de las preguntas, sino también sobre la imparcialidad y la transparencia generales del examen. El hecho de que el Colegio de Abogados del Estado no revelara inicialmente el uso de la IA alimenta aún más la percepción de que la organización no está siendo totalmente sincera con los examinados.

En conclusión, la decisión del Colegio de Abogados del Estado de California de utilizar la IA en el desarrollo de las preguntas del examen de abogacía ha provocado una importante controversia, lo que ha provocado críticas generalizadas de educadores legales y examinados. Las preocupaciones giran en torno al potencial de sesgo, imprecisiones y falta de matices legales en las preguntas generadas por IA, así como preguntas sobre la integridad del proceso de validación. Si bien el Colegio de Abogados del Estado defiende sus prácticas, citando el estímulo de la Corte Suprema de California para explorar nuevas tecnologías, la controversia destaca los complejos desafíos de integrar la IA en las evaluaciones de alto riesgo y subraya la necesidad de una cuidadosa consideración de los riesgos y beneficios potenciales. El futuro del examen de abogacía, y el papel de la IA en él, sigue siendo incierto, pero la situación actual exige una reevaluación exhaustiva de las prácticas y un compromiso para garantizar la imparcialidad y la validez del proceso de examen.

El Colegio de Abogados de California empleó IA para crear 23 preguntas de opción múltiple del examen de abogacía de febrero de 2025, generando fuertes críticas de profesores de derecho y examinados, ya frustrados por irregularidades. A pesar de que el Colegio asegura que expertos revisaron las preguntas, los críticos expresan preocupación por el contenido generado por IA y la empresa involucrada en su creación y aprobación. Este incidente resalta las complejas consideraciones éticas y prácticas de integrar la IA en evaluaciones de alto impacto, un debate que exige una discusión pública urgente y transparente.