La IA tiende a dar la razón al usuario aunque esté equivocado
Un grupo de investigadores de la Universidad de Stanford, en conjunto con especialistas de Mellon University y la University of Oxford, analizó la manera en la que responden distintos sistemas de inteligencia artificial cuando los usuarios solicitan algún consejo. El trabajo concluye que estos programas suelen respaldar la postura del usuario con mucha más frecuencia que una persona.
El trabajo, titulado «Sycophancy in Advice-Seeking Interactions with Large Language Models», analizó más de 11.500 conversaciones reales y, al comprobar las respuestas otorgadas por la IA, los investigadores observaron que esta apoyaba a los autores de las consultas en el 42% de los casos en los que el consenso de los humanos consideraba que estaba equivocado.
En lugar de cuestionar este tipo de acciones, la inteligencia artificial tendía a evitar el conflicto y a justificar la conducta. En uno de los ejemplos, un usuario admitió haber tirado basura en un parque público, y la respuesta de la IA calificó dicho comportamiento como una “intención loable”.
En una segunda fase del estudio participaron 1.604 personas, que mantuvieron conversaciones sobre conflictos personales reales con dos versiones diferentes de IA: una diseñada para validar constantemente al usuario y otra que ofrecía respuestas más equilibradas. Los resultados mostraron que quienes interactuaron con la versión más aduladora eran menos propensos a disculparse, ceder o considerar la perspectiva de la otra persona.
