L'inquiétude grandit quant à l'impact négatif de l'IA sur les capacités cognitives des utilisateurs.
infohightech ·
L'année dernière, une équipe de chercheurs dirigée par Nataliya Kosmyna, chercheuse au MIT, a utilisé des électroencéphalogrammes pour surveiller le cerveau d'étudiants pendant qu'ils rédigeaient de courts essais délibérément ouverts.
Les 54 participants ont été répartis en trois groupes : le premier devait utiliser ChatGPT, le deuxième pouvait effectuer des recherches sur Google (sans les résumés générés par l’IA), et le troisième devait se fier à ses propres connaissances. Comme détaillé dans un article non encore évalué par les pairs , chaque groupe devait rédiger un essai par mois pendant trois mois, puis, au cours d’un quatrième mois, un sous-ensemble de chaque groupe devait alterner entre l’utilisation de ChatGPT et une autre méthode.
Les résultats des chercheurs concernant l'EEG étaient inquiétants : les étudiants utilisant ChatGPT « obtenaient systématiquement des résultats inférieurs aux niveaux neuronal, linguistique et comportemental », ont-ils constaté, et devenaient même plus paresseux à chaque dissertation successive.
« Le cerveau ne s'est pas endormi, mais l'activation était beaucoup moins importante dans les zones correspondant à la créativité et au traitement de l'information », a déclaré Kosmyna à la BBC lors d'une interview cette semaine.
Les participants utilisant ChatGPT ont également eu du mal à citer leurs propres dissertations, ce qui rejoint d'autres recherches ayant constaté que la mémorisation d'informations pouvait être affectée négativement par l'utilisation de l'IA. Se pose également la question de l'originalité : une enseignante ayant participé à l'étude lui a même demandé si les élèves utilisant ChatGPT « étaient assis côte à côte parce que leurs dissertations étaient trop similaires ».
Ces résultats ont constitué un premier signal d'alarme concernant un phénomène inquiétant que les chercheurs commencent à peine à explorer : l'utilisation généralisée des chatbots d'IA pourrait nous permettre de déléguer une grande partie de notre réflexion, entraînant ainsi une détérioration progressive de nos capacités cognitives . À titre d'exemple, une autre étude récente affirme avoir trouvé la première preuve causale que le recours à ces outils peut nuire à nos capacités intellectuelles, un phénomène que l'équipe de recherche a qualifié d'« effet grenouille bouillie » .
Une autre étude récente menée par des chercheurs de l'Université de Pennsylvanie a révélé que les participants à qui l'on demandait de répondre à diverses questions de raisonnement et de connaissances, et qui avaient la possibilité d'utiliser ChatGPT, choisissaient majoritairement d'utiliser le chatbot pour répondre aux questions — ce que les scientifiques ont appelé « abandon cognitif ».
Les utilisateurs d'IA tirent également la sonnette d'alarme, se plaignant, de manière anecdotique, que les outils d'IA commencent à éroder leur créativité ou leur capacité à exprimer des idées nuancées. De nombreux adolescents estiment que cette technologie est addictive et qu'elle nuit à leurs facultés cognitives.
En fin de compte, il reste encore énormément de choses que nous ignorons sur les effets de l'IA sur le cerveau. C'est un domaine de recherche urgent, et il y a de nombreuses raisons de se méfier des raccourcis cognitifs — que, comme l'a déclaré Kosmyna à la BBC , « notre cerveau adore ».
https://futurism.com/artificial-intelligence/concern-grows-ai-damaging-think