El consejo de IA hizo que las personas fueran menos precisas pero más confiadas

Un estudio reciente encontró que las personas que reciben consejos de inteligencia artificial (IA) son menos precisas pero más confiadas en sus respuestas. La investigación se centró en la capacidad de las personas para reconocer sus propios límites de conocimiento.

Los investigadores de tres universidades francesas e italianas analizaron cómo afectaba el acceso a consejos de IA la capacidad de las personas para admitir su ignorancia. Se les hicieron preguntas sobre detalles visuales de películas, como el color del uniforme de un equipo en la película "Bend It Like Beckham". Los resultados mostraron que la disposición a admitir la ignorancia se redujo del 44% al 3% cuando se les dio acceso a consejos de IA. La precisión también disminuyó, del 27% al 9%.

“Se les hicieron preguntas sobre detalles visuales de películas, como el color del uniforme de un equipo en la película "Bend It Like Beckham"”

La confianza, por otro lado, aumentó significativamente, del 30% al 76%. Según Valerio Capraro, profesor asociado de la Universidad de Milano-Bicocca, "las personas se volvieron mucho peores, la precisión fue solo un tercio, pero estaban dos veces más seguras". Los investigadores utilizaron un modelo de IA que normalmente se equivocaba en estas preguntas para asegurarse de que la reducción en la capacidad de juicio no se debiera a la delegación sensata a una herramienta confiable.

El estudio también encontró que los incentivos monetarios ayudaban a mejorar la precisión y la disposición a admitir la ignorancia, pero no lo suficiente. La precisión aumentó del 9% al 16% y la disposición a admitir la ignorancia del 3% al 8%, pero ambos permanecieron por debajo de los niveles base sin IA. Esto sugiere que la disponibilidad de consejos de IA puede suprimir la costumbre cognitiva de reconocer lo que no se sabe.

La capacidad de admitir la ignorancia es importante para los seres humanos, ya que representa el reconocimiento de los límites del propio conocimiento. Los investigadores están particularmente preocupados por los niños, que están creciendo con estos sistemas antes de desarrollar habilidades de pensamiento crítico. Los productos de IA están diseñados para proporcionar respuestas, nunca para decir "no lo sé", y los humanos que los utilizan están aprendiendo a hacer lo mismo.