L’IA nous rend-elle plus stupide ?
infohightech ·
J'hésite entre deux réponses :). Une nouvelle étude de Microsoft et de l'université Carnegie Mellon suggère que le recours excessif à l'IA générative peut éroder les capacités de réflexion critique. En d'autres termes : si vous ne l'utilisez pas, vous la perdez.
Les chercheurs ont interrogé 319 travailleurs du savoir sur 936 tâches assistées par l’IA et ont découvert une tendance inquiétante : plus les utilisateurs faisaient confiance aux résultats générés par l’IA, moins ils déployaient d’efforts cognitifs. En d’autres termes, la confiance dans l’IA est corrélée à une diminution de l’engagement analytique.
Il s’agit d’un exemple classique du paradoxe de l’automatisation : confier des tâches cognitives à l’IA peut rendre les humains moins doués dans ces tâches. Les participants qui ont accepté aveuglément les suggestions de l’IA ont fait état de capacités de réflexion critique plus faibles, tandis que les sceptiques sont restés plus analytiques, peaufinant activement le contenu généré par l’IA.
Autre constat important : le travail assisté par l’IA tend à être plus homogène. Au lieu d’injecter des informations personnelles, de nombreux utilisateurs se tournent vers des solutions générées par l’IA, en particulier sous la pression du temps. Les travailleurs occupant des postes à enjeux élevés sont plus susceptibles d’examiner attentivement les résultats de l’IA, mais ceux qui sont confrontés à des délais serrés laissent l’IA prendre le volant. C’est l’une de mes plus grandes inquiétudes : l’homogénéité induite par l’IA pourrait nous conduire rapidement vers une monoculture.
Bien sûr, les craintes de voir la technologie nous rendre plus bêtes ne sont pas nouvelles : l’écriture, les calculatrices et Internet ont suscité le même scepticisme. Les chercheurs suggèrent que les outils d’IA pourraient être conçus pour favoriser la pensée critique, en proposant des explications, en incitant à des améliorations et en intégrant des critiques guidées. Ils le pourraient… mais ils ne le feront pas.
Le point essentiel à retenir ? Si vous confiez votre cerveau à l’IA, elle risque d’oublier comment vous guider.
Extrait de l’étude :
L'essor de l'IA générative (GenAI) dans les flux de travail de la connaissance soulève des questions quant à son impact sur les compétences et les pratiques de pensée critique. Nous avons mené une enquête auprès de 319 travailleurs du savoir afin de déterminer 1) quand et comment ils perçoivent la mise en œuvre de la pensée critique lors de l'utilisation de l'IA générative, et 2) quand et pourquoi l'IA générative affecte leurs efforts en ce sens. Les participants ont partagé 936 exemples de première main d'utilisation de la GenAI dans des tâches professionnelles. D'un point de vue quantitatif, si l'on considère les facteurs spécifiques à la tâche et à l'utilisateur, la confiance en soi et la confiance en la GenAI d'un utilisateur sont des facteurs prédictifs de l'adoption d'une pensée critique et de l'effort nécessaire pour y parvenir dans les tâches assistées par la GenAI. Plus précisément, une plus grande confiance dans les GenAI est associée à une réflexion moins critique, tandis qu'une plus grande confiance en soi est associée à une réflexion plus critique. D'un point de vue qualitatif, la GenAI modifie la nature de la pensée critique vers la vérification de l'information, l'intégration de la réponse et la gestion des tâches. Nos observations révèlent de nouveaux défis de conception et de nouvelles opportunités pour le développement d'outils GenAI pour le travail de la connaissance.