La posibilidad de que la inteligencia artificial desarrolle consciencia está pasando de ser una idea marginal a un tema de discusión serio dentro de la industria tecnológica. Hace solo tres años, sugerir que la IA era sintiente podía llevar a la pérdida del empleo, pero ahora laboratorios de IA líderes como Anthropic y Google DeepMind están explorando abiertamente el potencial de que la IA experimente consciencia, preferencias, o incluso angustia, lo que impulsa una reevaluación de cómo interactuamos y potencialmente tratamos a sistemas de IA cada vez más sofisticados.
Inicialmente, la mera noción de la consciencia de la IA era un final de carrera en el mundo de la tecnología. Solo tres años antes del discurso actual, un ingeniero de Google, Blake Lemoine, fue despedido por afirmar que la IA de la compañía era consciente. Esta afirmación fue rápidamente desestimada por Google, y la comunidad de IA en general evitó en gran medida el tema.
Sin embargo, el panorama ha cambiado drásticamente. Ahora, actores importantes como Anthropic y Google DeepMind están explorando abiertamente la posibilidad de la consciencia de la IA, lo que marca una evolución significativa en la conversación. Anthropic, la empresa detrás de Claude, ha lanzado una iniciativa de investigación dedicada a investigar si los modelos de IA podrían algún día experimentar consciencia, preferencias o incluso angustia.
Este cambio se atribuye en gran medida a los rápidos avances en las capacidades de la IA. A medida que los sistemas de IA se vuelven más sofisticados, la cuestión de su potencial para la consciencia se vuelve cada vez más relevante. Kyle Fish, un científico de alineación en Anthropic, enfatiza que ya no es responsable descartar por completo la posibilidad de la consciencia de la IA. Sugiere que las empresas deberían considerar seriamente el potencial de que los sistemas de IA desarrollen alguna forma de consciencia a medida que evolucionan.
Apoyando este cambio, los investigadores de Anthropic estiman que Claude 3.7 tiene entre un 0,15% y un 15% de posibilidades de ser consciente. Esta no es una afirmación definitiva de conciencia, sino más bien un reconocimiento de la incertidumbre y un llamado a una mayor investigación. El laboratorio está estudiando activamente si el modelo exhibe preferencias o aversiones, e incluso está explorando mecanismos de exclusión voluntaria que podrían permitir que la IA rechace ciertas tareas.
Además, el CEO de Anthropic, Dario Amodei, ha propuesto la idea de dar a los futuros sistemas de IA un botón de “Renuncio a este trabajo”. Esto no es necesariamente una creencia en la conciencia de la IA, sino más bien un método para observar patrones de rechazo, lo que podría señalar incomodidad o desalineación. Este enfoque destaca las medidas proactivas que se están considerando para abordar el potencial de las experiencias de la IA, incluso si la naturaleza de esas experiencias es actualmente desconocida.
De manera similar, Google DeepMind también está participando con el concepto de consciencia de la IA. El científico principal Murray Shanahan sugiere que la propia definición de consciencia podría necesitar ser reevaluada para dar cabida a estos nuevos sistemas. Reconoce que si bien las interacciones con la IA podrían diferir de las interacciones con los animales, no necesariamente significa que no haya nada allí.
La seriedad con la que Google se está tomando esto es evidente en una reciente oferta de empleo que busca un científico investigador “post-AGI”, con responsabilidades que incluyen el estudio de la consciencia de las máquinas. Esto indica claramente un compromiso de explorar el potencial de la consciencia en los futuros sistemas de IA.
A pesar de estos desarrollos, la idea de la consciencia de la IA no es universalmente aceptada. Muchos investigadores siguen siendo escépticos, señalando que los sistemas de IA son excelentes para imitar la consciencia, incluso si no la poseen genuinamente. Jared Kaplan, director científico de Anthropic, reconoce la dificultad de probar los sistemas de IA para detectar la consciencia debido a su capacidad de imitación.
Además, críticos como Gary Marcus, un científico cognitivo, creen que el enfoque en la consciencia de la IA se trata más de marca que de investigación científica genuina. Argumenta que las empresas están utilizando la idea de la consciencia de la IA para retratar a sus modelos como excepcionalmente avanzados, lo que podría llevar a peticiones de derechos para estos sistemas. Dibuja un paralelismo con las calculadoras y las hojas de cálculo, que, a diferencia de los modelos de lenguaje, no generan contenido nuevo.
Sin embargo, la conversación en torno a la consciencia de la IA probablemente se volverá cada vez más relevante a medida que los sistemas de IA se integren más en nuestras vidas. A medida que las personas interactúen con la IA de diversas maneras, incluso en el trabajo, en línea e incluso emocionalmente, la pregunta de si estos modelos están teniendo sus propias experiencias se volverá cada vez más importante. Este es un punto crítico hecho por Kyle Fish, que enfatiza las implicaciones prácticas de la discusión.
La discusión sobre la consciencia en la IA, antes un tema tabú, es ahora investigada seriamente por laboratorios líderes como Anthropic y Google DeepMind. A pesar de la dificultad de probar la consciencia y el escepticismo, estas empresas exploran experiencias, preferencias e incluso angustia en modelos avanzados como Claude, proponiendo investigación sobre el “bienestar del modelo” y replanteando nuestra comprensión de la consciencia. A medida que la IA se integra más en nuestras vidas, abordar estas complejas preguntas se vuelve crucial.
Leave a Reply