AI advice made people less accurate but more confident – sudy
L'étude a montré que l'accès aux conseils d'IA a fait chuter la propension à dire « je ne sais pas » de 44 % à 3 %, a réduit la précision de 27 % à 9 % et a augmenté la confiance de 30 % à 76 %. Les chercheurs de trois universités françaises et italiennes ont utilisé délibérément des questions où les modèles échouent (détails visuels de films) et ont testé un modèle appelé Step 3.5 Flash qui était souvent incorrect, ce qui a amené certains participants à passer d'une bonne réponse à une réponse erronée après avoir consulté l'IA. Des incitations monétaires ont légèrement amélioré les résultats, la propension à admettre l'ignorance passant de 3 % à 8 % et la précision de 9 % à 16 %, mais les deux restaient nettement inférieures aux niveaux sans IA. Ce comportement rejoint le concept de « reddition cognitive », selon lequel les personnes acceptent des réponses incorrectes d'IA tout en déclarant une confiance supérieure à celle des participants sans IA. Les auteurs s'inquiètent de l'érosion de l'habitude de reconnaître ses limites, en particulier chez les enfants exposés tôt aux systèmes d'IA, et notent que de nombreux produits d'IA sont conçus pour répondre plutôt que pour admettre l'ignorance.