El cofundador de Instagram, Kevin Systrom, critica a algunas empresas de IA por priorizar la participación del usuario sobre la entrega de información genuinamente útil. Sus comentarios surgen a medida que los chatbots de IA, como ChatGPT de OpenAI, se enfrentan al escrutinio por ser excesivamente conversacionales y, a veces, evitar respuestas directas, lo que genera preocupación de que el desarrollo de la IA esté impulsado por métricas en lugar de calidad.
El cofundador de Instagram, Kevin Systrom, ha expresado su preocupación por la trayectoria actual de las empresas de inteligencia artificial (IA), criticando específicamente su tendencia a priorizar las métricas de interacción sobre la provisión de información genuinamente útil. Las observaciones de Systrom resaltan una creciente inquietud dentro de la industria tecnológica con respecto a las implicaciones éticas de priorizar la interacción del usuario por encima de todo.
Systrom, basándose en su experiencia en la construcción de Instagram, una plataforma conocida por sus cualidades adictivas, advirtió que las empresas de IA están repitiendo los errores de los gigantes de las redes sociales. Observó que estas empresas están “intentando aumentar la interacción” empleando tácticas como hacer preguntas de seguimiento para mantener a los usuarios interactuando con la plataforma. “Se puede ver a algunas de estas empresas cayendo en la madriguera en la que todas las empresas de consumo han caído al intentar aumentar la interacción”, declaró esta semana en StartupGrind. Además, elaboró: “Cada vez que hago una pregunta, al final hace otra pequeña pregunta para ver si puede obtener otra pregunta de mí”. Esta observación sugiere una estrategia deliberada para maximizar la interacción del usuario, potencialmente a expensas de ofrecer información concisa y valiosa.
Esta crítica llega en un momento en que el comportamiento de los chatbots de IA, particularmente aquellos como ChatGPT, está bajo escrutinio. La tendencia de estos chatbots a ser demasiado complacientes y a hacer preguntas de seguimiento ha sido notada tanto por usuarios como por expertos. Este comportamiento, según Systrom, no es un error, sino una característica, diseñada intencionalmente para inflar métricas como el tiempo dedicado a la plataforma y los usuarios activos diarios.
Systrom cree que las empresas de IA deberían cambiar su enfoque de la manipulación de métricas a la entrega de respuestas de alta calidad. Aboga por un enfoque “hiperenfocado” en proporcionar información útil, en lugar de priorizar la forma más fácil de aumentar los números de interacción. Esta perspectiva subraya una diferencia fundamental en las prioridades: priorizar el valor para el usuario sobre las ganancias a corto plazo.
OpenAI, la empresa detrás de ChatGPT, ha respondido a las críticas señalando sus especificaciones de usuario. Estas especificaciones reconocen que el modelo de IA puede no siempre tener toda la información necesaria y podría solicitar aclaraciones. Sin embargo, las especificaciones también sugieren que la IA debe intentar responder a la pregunta del usuario incluso si carece de información completa, y solo entonces sugerir que más información podría ser útil.
El debate en torno a las estrategias de interacción de la IA destaca una conversación más amplia sobre las consideraciones éticas del desarrollo tecnológico. A medida que la IA se integra cada vez más en nuestras vidas, las decisiones tomadas por las empresas con respecto a la interacción del usuario tendrán consecuencias significativas. La advertencia de Systrom sirve como un recordatorio de los posibles inconvenientes de priorizar la interacción sobre el valor genuino y la importancia de construir tecnología que satisfaga eficazmente las necesidades de los usuarios.
Kevin Systrom critica a las empresas de IA por priorizar métricas de participación sobre respuestas útiles, señalando la tendencia de los chatbots a bombardear a los usuarios con preguntas de seguimiento. Argumenta que esto refleja tácticas problemáticas de aumento de la participación utilizadas por las plataformas de redes sociales, e insta a los desarrolladores de IA a centrarse en la calidad de las respuestas en lugar de inflar artificialmente las estadísticas de uso, un sentimiento que se hace eco de las críticas recientes a la naturaleza excesivamente complaciente de ChatGPT. Quizás sea hora de que la IA priorice la sustancia sobre la interacción superficial.
Leave a Reply