Le sacrifice de nos capacités cognitives
Lorsque des chercheurs du Massachusetts Institute of Technology (MIT) ont demandé à des étudiants d’écrire des dissertations avec et sans ChatGPT, les résultats étaient préoccupants : 83 % de ceux qui ont utilisé l’IA pour rédiger leur travail ne pouvaient pas se souvenir d’une seule phrase, même s’ils l’avaient écrite quelques minutes auparavant.
L’amnésie induite par l’IA illustre bien plus qu’un simple effet secondaire de l’intelligence artificielle. ChatGPT et d’autres outils similaires basés sur l’IA sont désormais utilisés quotidiennement et largement, pour tout, des e-mails aux dissertations. Pourtant, comme le montre cette nouvelle étude, nous pourrions sacrifier nos capacités cognitives et notre créativité au profit d’une commodité à court terme.
Amnésie induite par l’IA
L’ étude du MIT a porté sur 54 participants de la région de Boston. Les étudiants ont rédigé des dissertations selon trois conditions : utiliser ChatGPT, utiliser Google pour leurs recherches ou s’appuyer entièrement sur leurs connaissances et leur raisonnement. Les chercheurs les ont examinés en termes de mémoire, d’activation neuronale et de sentiment d’appartenance.
Le déficit de mémoire n’était qu’une partie d’un schéma plus large.
En surveillant l’activité cérébrale, les chercheurs ont découvert que les utilisateurs d’IA présentaient un engagement neuronal significativement réduit. Les auteurs d’écriture cérébrale généraient près de deux fois plus de connexions dans la bande de fréquence alpha, associée à l’attention focalisée et à la créativité, que les utilisateurs de ChatGPT.
Dans la bande thêta, liée à la formation de la mémoire et à la pensée profonde, l’écart était plus grand : 62 connexions pour les écrivains utilisant uniquement le cerveau contre 29 pour ceux utilisant l’IA.
Constater que des étudiants utilisant ChatGPT ont oublié ce qu’ils avaient écrit quelques minutes auparavant, voilà qui inquiète sérieusement Steven Graham, professeur Regents and Warner à la Division du leadership et de l’innovation du Teachers College de l’Université d’État de l’Arizona, qui étudie l’impact de l’écriture sur l’apprentissage.
Les élèves sont censés utiliser l’écriture comme un outil d’apprentissage, a-t-il déclaré. « Si vous ne parvenez pas à vous souvenir des informations essentielles de vos textes, la question se pose : « Qu’avez-vous appris ? » »
La mémoire privée de sa stimulation essentielle
Les personnes qui utilisent excessivement ChatGPT pour des tâches cognitives de routine privent leur mémoire de la stimulation essentielle dont elle a besoin pour rester en forme, a déclaré Mohamed Elmasry, professeur émérite de génie informatique à l’Université de Waterloo, qui écrit sur l’utilisation de l’IA et l’intelligence humaine.
« Oui, même si le cerveau humain est un organe sans parties mobiles, il a besoin d’exercice ! » a déclaré Elmasry. Il craint que le recours à l’IA n’entraîne des effets à long terme plus inquiétants.
Les effets à long terme
Quatre mois après la première dissertation, les mêmes participants du groupe d’IA de l’étude du MIT ont été invités à rédiger une dernière dissertation en utilisant uniquement leur esprit. Cependant, même lorsqu’on leur demandait de penser de manière autonome, ces étudiants ayant pris l’habitude de travailler avec ChatGPT ont montré que leurs réseaux neuronaux étaient moins activés que ceux qui avaient pensé et écrit de manière autonome tout au long du processus.
Les chercheurs ont qualifié ce phénomène de « dette cognitive » : à l’instar de la dette financière, l’assistance de l’IA offre des avantages immédiats tout en créant potentiellement des coûts à long terme.
Écrire est un travail difficile, a déclaré Graham. « Certaines idées sont difficiles à appréhender et nécessitent un engagement à différents niveaux. Si une machine le fait à notre place, nous ne récolterons pas les bénéfices que nous pourrions tirer de notre propre engagement. »
Écrire vous oblige à prendre du recul et à identifier les informations importantes ; cela vous pousse à prendre des décisions. De plus, vous devez organiser l’information de manière cohérente, la personnaliser, la formuler avec vos propres mots et la « manier », explique Graham. L’algorithme affaiblit peut-être subtilement, voire simplement altère, les voies neuronales qui soutiennent le raisonnement indépendant, la synthèse créative et l’expression originale.
« En empruntant le chemin le plus simple et le plus rapide pour effectuer les tâches cognitives quotidiennes en utilisant des raccourcis tels que ChatGPT, nous érodons progressivement les fonctions de mémoire intelligente de notre cerveau », a déclaré Elmasry.
Trop utiliser l’IA pourrait avoir de graves conséquences mentales
La sous-utilisation cognitive pourrait avoir de graves conséquences, a-t-il déclaré. « Lorsque la mémoire humaine s’atrophie par manque de stimulation, en vieillissant, nous devenons plus vulnérables à une démence précoce et plus grave, ainsi qu’à d’autres formes de déclin cognitif. »
Il est important de noter qu’il n’existe actuellement aucune preuve directe d’un lien entre l’utilisation de l’IA et la démence. Cependant, on craint que si notre cerveau s’adapte à des défis mentaux moindres, il devienne moins résilient à long terme.
Un prêt-à-penser pour un résultat uniforme et ennuyeux
L’étude a également mis en évidence un effet subtil, mais non moins troublant, des essais assistés par l’IA : la perte d’individualité et de créativité.
Les questions posées aux étudiants étaient fondamentalement centrées sur l’humain, telles que « La véritable loyauté nécessite-t-elle un soutien inconditionnel ? » et « Les personnes plus chanceuses que les autres devraient-elles avoir une plus grande obligation morale d’aider celles qui sont moins chanceuses ? »
Ces sujets auraient dû susciter des réponses imprégnées d’expérience et de raisonnement personnels. Au lieu de cela, les essais d’IA ont fait preuve d’une homogénéisation algorithmique. Les élèves ont adopté sans le savoir des expressions, des structures de phrases et des perspectives similaires ; leurs voix individuelles ont été intégrées dans un modèle prévisible.
Ces observations ne sont « pas surprenantes », a déclaré Graham, « car ces modèles reproduisent ce qu’ils voient dans la base de données sur laquelle ils ont été entraînés. La plupart du temps, c’est une formule ; les mêmes mots peuvent être utilisés à maintes reprises. »
« Sans âme »
Les professeurs qui ont examiné les dissertations, ignorant qu’elles étaient générées par l’IA, ont décrit le travail de ChatGPT comme « faisant un usage quasi parfait du langage et de la structure, tout en manquant d’inspiration personnelle et de précisions claires ». Les enseignants ont trouvé ces essais « sans âme » car « de nombreuses phrases étaient vides de sens et les essais manquaient de nuances personnelles », ont écrit les chercheurs.
L’uniformité de l’expression soulève de sérieuses questions sur la pensée individuelle. En externalisant la recherche de nos propres mots, externalisons-nous la formation de nos propres pensées ?
L’externalisation diminue votre autonomie
Réfléchir coûte cher. Le travail cognitif consomme une énergie neuronale importante, et notre cerveau cherche naturellement à économiser les ressources lorsque des alternatives se présentent.
En conséquence, lorsque nous pouvons instantanément invoquer l’IA pour gérer nos tâches mentales, notre cerveau peut s’habituer à devenir un consommateur passif de nos propres pensées.
Depuis des siècles, notre capacité à penser de manière indépendante est considérée comme fondamentale pour la dignité humaine. Nombreux sont ceux qui soutiennent que l’autonomie exige la capacité de raisonner par soi-même.
Certains participants à l’étude ont décrit un sentiment de « culpabilité » lié à l’utilisation de l’IA, même lorsque celle-ci produisait de meilleurs résultats immédiats. Cette culpabilité pourrait être un signal important, suggérant une compréhension intuitive de la perte de quelque chose de précieux dans l’échange. Un sentiment courant concernant l’utilisation de l’IA, comme l’a exprimé un participant, est que cela « ressemble à de la triche ».
Qu’advient-il de l’autonomie lorsque le raisonnement devient un service que nous achetons aux algorithmes ? L’étude du MIT suggère que toute sollicitation pratique atténue la créativité humaine, et peut-être même le raisonnement.
Pierre-Alain Depauw
Cet article vous a plu ? MPI est une association à but non lucratif qui offre un service de réinformation gratuit et qui ne subsiste que par la générosité de ses lecteurs. Merci de votre soutien !
Commentaires