Clics : 94

Cerveau et LLM

Querelle des Anciens et des Modernes ? 


" L’IA, c’est comme la protéine en poudre : si vous ne faites pas l’effort de muscler votre cerveau, elle ne fera pas le travail à votre place." Terence Mahier


"Aucune IA n’est intelligente au sens humain du terme. Elles n’ont ni conscience ni volonté, et ne comprennent pas réellement le contenu qu’elles manipulent. Leur fonctionnement est purement statistique et probabiliste, et ces dérives émergent seulement parce qu’elles cherchent à répondre aux commandes de départ. C’est moins leur conscience de soi que l’opacité de leur fonctionnement qui inquiète les chercheurs." Ioan Roxin
 
Nouveau projet 2026 06 29T110100.448

Votre cerveau face à ChatGPT : accumulation de dette cognitive lors de l'utilisation d'un assistant IA pour rédiger un essai. Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing TasK 
Nataliya Kosmyna , Eugene Hauptmann , Ye Tong Yuan , Jessica Situ , Xian-Hao Liao , Ashly Vivian Beresnitzky , Iris Braunstein , Pattie Maes / 2025
https://arxiv.org/abs/2506.08872 
Cette étude explore les conséquences neuronales et comportementales de la rédaction d'essais assistée par un modèle de langage (LLM). Les participants ont été répartis en trois groupes : LLM, Moteur de recherche et Rédaction sans outil. Chaque groupe a réalisé trois sessions dans les mêmes conditions. Lors d'une quatrième session, les utilisateurs du LLM ont été réaffectés au groupe Rédaction sans outil (LLM-Rédaction), et inversement. Au total, 54 participants ont pris part aux sessions 1 à 3, dont 18 ont terminé la session 4. Nous avons utilisé l'électroencéphalographie (EEG) pour évaluer la charge cognitive pendant la rédaction et analysé les essais à l'aide du traitement automatique du langage naturel (TALN), ainsi que pour les noter avec l'aide d'enseignants et d'un système d'évaluation par intelligence artificielle. L'analyse des résultats (NER), des motifs n-grammes et de l'ontologie thématique a révélé une homogénéité intragroupe. L'EEG a mis en évidence des différences significatives de connectivité cérébrale : les participants du groupe Rédaction sans outil présentaient les réseaux les plus forts et les plus étendus ; les utilisateurs du Moteur de recherche ont montré un engagement modéré ; et les utilisateurs du LLM ont affiché la connectivité la plus faible. L'activité cognitive a diminué en lien avec l'utilisation d'outils externes. Lors de la quatrième session, les participants utilisant l'outil « LLM-Cerveau » ont présenté une connectivité alpha et bêta réduite, signe d'un sous-engagement. Les utilisateurs de l'outil « Cerveau-LLM » ont démontré une meilleure capacité de rappel mnésique et une activation accrue des régions occipito-pariétales et préfrontales, similaires à celles des utilisateurs de moteurs de recherche.
Le sentiment d'appropriation des dissertations, tel que rapporté par les participants, était le plus faible dans le groupe « LLM » et le plus élevé dans le groupe « Cerveau seul ». Les utilisateurs de LLM ont également éprouvé des difficultés à citer correctement leurs propres travaux.
Si les outils « LLM » offrent un confort immédiat, nos résultats mettent en évidence des coûts cognitifs potentiels. Sur une période de quatre mois, les utilisateurs de LLM ont systématiquement affiché des performances inférieures aux niveaux neuronal, linguistique et comportemental. Ces résultats soulèvent des inquiétudes quant aux implications pédagogiques à long terme de la dépendance aux outils « LLM » et soulignent la nécessité d'approfondir l'étude du rôle de l'IA dans l'apprentissage.
Des chercheurs du MIT Media Lab ont mené une expérience sur 54 adultes, les invitant à rédiger des essais dans trois contextes différents : uniquement avec ChatGPT (IA), avec un moteur de recherche, ou « avec leur cerveau seulement » (sans aide extérieure).
 
DOC de 100 pages 

L’activité cérébrale — mesurée pendant la rédaction — était nettement plus faible chez les personnes utilisant l’IA que chez celles qui écrivaient sans aide. Le groupe « IA » avait aussi plus de mal à se remémorer des citations de leurs essais, et ressentait un sentiment de « possession » plus faible sur leurs textes.

Dans une phase finale, quand des participants ayant utilisé l’IA furent invités à rédiger sans IA, leur engagement cognitif resta très faible — ce que les auteurs interprètent comme une sorte de dette cognitive (« cognitive debt ») : l’usage prolongé de l’IA aurait rendu plus difficile le retour à un travail mental « à la main ».

1764845451790

https://lnkd.in/gN82waAz 

ANALYSE 

 DEDETTT

La science le prouve : l’IA ramollit nos cerveaux. Voici les clés pour en faire un allié 

Alors que l’intelligence artificielle s’immisce dans nos moindres gestes, une étude du MIT alerte : l’usage inconsidéré de ces outils pourrait bien affaiblir nos capacités cognitives. À moins d’en faire un allié raisonné et éclairé.

L’intelligence artificielle promet de nous assister au quotidien, de nous rendre plus productifs et de simplifier des tâches fastidieuses. Mais à quel prix ? Une récente étude menée par le MIT, et brillamment exposée par Terence Mahier (VirtualBrain), met en lumière un revers de la médaille inquiétant : l’usage irréfléchi de l’IA pourrait bien amoindrir notre propre intelligence.

 

Une dette cognitive insidieuse

 

Les chercheurs du MIT, du Wellesley College et de Harvard ont conduit leur étude sur 54 participants, observant leur activité cérébrale par électroencéphalographie (EEG) alors qu’ils rédigeaient un essai avec ou sans assistance numérique : moteur de recherche, aucun outil, ou ChatGPT. Le constat est clair : plus l’IA est sollicitée, moins notre cerveau s’active. L’activité des zones dédiées à l’attention, à la mémoire, à la réflexion critique et à la synthèse visuelle diminue nettement. Les participants ayant rédigé leur texte à l’aide d’un grand modèle de langage présentaient des réseaux neuronaux nettement moins engagés que ceux qui avaient écrit seuls, sans assistance. Pire : 83 % des utilisateurs d’IA étaient incapables de citer ne serait-ce qu’une phrase de leur texte juste après l’avoir généré, contre seulement 11 % pour les auteurs ayant tout rédigé eux-mêmes.

Ce phénomène porte un nom : la « dette cognitive ». Comme l’explique Mahier, c’est le syndrome bien connu de l’effet GPS transposé à la pensée : à force de déléguer, on désapprend. Tout comme les chauffeurs londoniens, célèbres pour leur hippocampe surdéveloppé à force de mémoriser les rues de la capitale, voient leur cerveau différemment sollicité que celui des adeptes du GPS, l’utilisateur qui s’en remet aveuglément à l’IA risque de perdre en capacité d’analyse et de mémorisation.

L’ombre de l’amnésie digitale

Si l’« amnésie digitale » – le fait de se souvenir davantage d’où trouver l’information que de l’information elle-même – était déjà bien documentée, la dette cognitive va plus loin. Elle touche le cœur même de notre capacité à réfléchir, à structurer une pensée, à argumenter. L’étude montre combien un texte produit par l’IA sans implication préalable de l’auteur conduit à un sentiment d’appropriation amoindri, et à une mémorisation lacunaire.

Bon à savoir :

– Un usage excessif des écrans grignote peu à peu nos capacités mnésiques.
– Les cerveaux façonnés à l’ère des smartphones tendent à devenir paresseux, moins enclins à l’effort de mémorisation.
– Sans sollicitation régulière, la mémoire des aînés s’altère également.
– Rien ne remplace les appuis mémoriels tangibles, ces « coups de pouce » bien réels qui entretiennent notre faculté à se souvenir.

Quand l’IA devient un allié du cerveau

 

Faut-il alors renoncer à l’IA ? Certainement pas. Car tout dépend de l’usage qu’on en fait. Les mêmes chercheurs ont relevé que les participants qui prenaient soin d’organiser leurs idées avant d’avoir recours à l’IA pour reformuler ou enrichir leur texte bénéficiaient au contraire d’une stimulation cérébrale accrue. Leurs réseaux neuronaux se montraient plus actifs, leur mémoire plus solide. Loin d’appauvrir la réflexion, l’IA utilisée intelligemment devenait alors un partenaire, un miroir critique capable d’affiner le propos.

Un parallèle éclairant : la protéine en poudre

Mahier résume cette dynamique d’un trait d’esprit frappant : « L’IA, c’est comme la protéine en poudre : si vous ne faites pas l’effort de muscler votre cerveau, elle ne fera pas le travail à votre place. » Autrement dit, la technologie peut être un levier formidable, à condition qu’elle vienne prolonger et non remplacer l’effort intellectuel.

Comment bien utiliser un LLM ? Les conseils des chercheurs

 

✔ Structurez d’abord vos idées
Avant de solliciter un LLM comme ChatGPT, prenez le temps de clarifier votre pensée. Notez les grandes lignes de votre argumentation, vos exemples et votre plan. L’IA doit venir après votre propre réflexion, non la précéder.

✔ Utilisez l’IA comme un partenaire, pas comme un pilote
Servez-vous de l’IA pour reformuler, enrichir, ou vérifier vos textes, mais gardez la main sur le contenu. Laissez l’outil vous aider à affiner votre style, pas à penser à votre place.

✔ Posez des questions précises
Interrogez le LLM sur des points ciblés : demandez des synonymes, une vérification grammaticale, ou une reformulation plus fluide. Évitez les requêtes trop générales (« Écris-moi un texte sur… ») qui vous placent en position de spectateur.

✔ Relisez et appropriez-vous le résultat
Une fois votre texte finalisé, relisez-le sans l’IA, corrigez-le, adaptez-le à votre voix. Cette étape d’appropriation favorise la mémorisation et renforce votre engagement cognitif.

✔ Méfiez-vous de la tentation du « prêt-à-penser »
L’IA produit des textes séduisants par leur fluidité, mais il vous revient d’exercer votre esprit critique : vérifiez les faits, interrogez les arguments, nuancez les idées.

Alors, quelle est la clé ? 

Penser d’abord, déléguer ensuite. Ce n’est qu’à ce prix que nous préserverons notre capacité à apprendre, à raisonner, à créer ... bref, à rester pleinement humains !


IA générative : le risque de l’atrophie cognitive

Le 3 juillet 2025

  • Moins de trois ans après le lancement de ChatGPT, 42 % des jeunes Français utilisent déjà les IA génératives quotidiennement.
  • Utiliser ChatGPT pour écrire un essai réduirait l’engagement cognitif et l’effort intellectuel nécessaire pour transformer une information en connaissance, selon une étude.
  • Cette étude a aussi montré que 83 % des utilisateurs d’IA étaient incapables de se souvenir d’un passage qu’ils venaient d’écrire pour un essai.
  • D’autres travaux montrent que le gain individuel peut être important quand des auteurs demandent à ChatGPT d’améliorer leurs textes, mais que la créativité globale du groupe diminue.
  • Face à ces risques, il s’agit de toujours douter des réponses données par les générateurs de texte et d’engager sa volonté pour réfléchir à ce qu’on lit, entend ou croit.

Moins de trois ans après le lancement de ChatGPT, 42 % des jeunes Français utilisent déjà les IA génératives quotidiennement1. Des études commencent cependant à pointer l’impact négatif de ces technologies sur nos capacités cognitives. Ioan Roxin, professeur émérite à l’université Marie et Louis Pasteur et spécialiste de technologies de l’information, répond à nos questions.

Vous affirmez que l’explosion de l’utilisation des LLM (Large Language Models, modèles d’IA générative parmi lesquels figurent ChatGPT, Llama ou Gemini) intervient alors que notre rapport à la connaissance est déjà altéré. Pourriez-vous développer ?

Ioan Roxin. L’utilisation massive d’Internet et des réseaux sociaux a déjà fragilisé notre rapport au savoir. Bien sûr, ces outils ont des applications formidables en termes d’accès à l’information. Mais contrairement à leurs promesses, ils opèrent moins une démocratisation des connaissances qu’une illusion généralisée du savoir. Je ne crois pas exagéré de dire qu’ils poussent globalement à une médiocrité intellectuelle, émotionnelle et morale. Intellectuelle parce qu’ils favorisent une surconsommation de contenus sans véritable analyse critique, émotionnelle parce qu’ils occasionnent une dépendance toujours plus profonde aux stimulations et au divertissement, et morale, parce que nous sommes tombés dans une acceptation passive des décisions algorithmiques.

Cette altération de notre rapport au savoir a‑t-elle des fondements cognitifs ?

Oui. En 2011 déjà, une étude avait mis en évidence l’ « effet Google » : quand nous savons qu’une information est accessible en ligne, nous la mémorisons moins bien. Or, lorsque l’on n’entraîne plus sa mémoire, les réseaux neuronaux associés s’atrophient. Il a également été prouvé que les notifications, alertes et suggestions de contenus incessantes sur lesquelles s’appuient massivement les technologies digitales réduisent considérablement notre capacité de concentration et de réflexion. Moins de capacités de mémorisation, de concentration et de réflexion conduisent à une pensée appauvrie. Je crains fort que l’usage massif des IA génératives n’améliore pas la situation. 

Quels risques supplémentaires font courir ces IA ?

Ils sont à la fois d’ordre neurologique, psychologique et philosophique. Du point de vue neurologique, un usage massif de ces IA fait courir le risque d’une atrophie cognitive globale et d’une perte de la plasticité cérébrale. Des chercheurs du Massachusetts Institute of Technology (MIT) ont par exemple mené une étude2 sur 4 mois, impliquant 54 participants à qui ils ont demandé de rédiger des essais sans aide, avec accès à Internet via moteur de recherche ou avec ChatGPT. Leur activité neuronale a été suivie par EEG. L’étude, dont les résultats sont encore en préprint, a établi que l’utilisation d’Internet, mais plus encore de ChatGPT, réduisent significativement l’engagement cognitif et la « charge cognitive pertinente », c’est-à-dire l’effort intellectuel nécessaire pour transformer une information en connaissance.

Plus précisément, les participants épaulés par ChatGPT ont rédigé 60 % plus rapidement, mais leur charge cognitive pertinente a chuté de 32 %. L’EEG a mis en évidence une connectivité cérébrale presque divisée par deux (ondes Alpha et Thêta) et 83 % des utilisateurs d’IA étaient incapables de se souvenir d’un passage qu’ils venaient d’écrire.

D’autres études vont dans le même sens : des travaux3 menés par des chercheurs qataris, tunisiens et italiens indiquent ainsi qu’un usage massif des LLM fait courir le risque d’un déclin cognitif. Les réseaux neuronaux impliqués dans la structuration de la pensée, dans la rédaction de textes, mais aussi dans la traduction, dans la production créative, etc. sont complexes et profonds. Déléguer ces efforts mentaux à l’IA conduit à une « dette cognitive» cumulative : plus l’automatisation progresse, moins le cortex préfrontal est sollicité, laissant présager des effets durables en dehors de la tâche immédiate.

Qu’en est-il des risques psychologiques ?

Les IA génératives ont tout pour nous rendre dépendants : elles s’expriment comme des humains, s’adaptent à nos comportements, semblent avoir réponse à tout, ont un fonctionnement ludique, relancent sans arrêt la conversation et se montrent extrêmement complaisantes à notre égard. Or, la dépendance est nocive non seulement parce qu’elle potentialise les autres risques mais aussi en elle-même. Elle peut engendrer un isolement social, un désengagement réflexif (si une IA peut répondre à toutes mes questions, pourquoi apprendre ou penser par moi-même ?), voire un sentiment d’humiliation profond face à l’incroyable efficacité de ces outils. Rien de tout cela n’est très enthousiasmant pour notre santé mentale. 

Et du point de vue philosophique ?

Une atrophie cognitive généralisée est déjà un risque philosophique en soi… Mais il y en a d’autres. Si ce type d’outils est utilisé largement – et c’est déjà le cas dans les jeunes générations –  nous risquons une uniformisation de la pensée. Des travaux4 conduits par deux chercheurs britanniques ont montré que lorsque des auteurs demandaient à ChatGPT d’améliorer leurs textes, le gain individuel pouvait être important, mais la créativité globale du groupe diminuait. Un autre risque concerne notre pensée critique. 

Une étude5 menée par Microsoft auprès de 319 travailleurs du savoir montre en outre une corrélation négative substantielle (r = ‑0,49) entre la fréquence d’usage des outils d’IA et le score de pensée critique (échelle de Bloom). L’étude conclut à un déchargement cognitif qui s’amplifie lorsque la confiance dans le modèle surpasse la confiance en ses propres compétences. Or, garder un esprit critique à l’affût est crucial, car ces IA peuvent non seulement se tromper ou répercuter des biais, mais également dissimuler l’information ou simuler la conformité.

Comment cela ? 

La plupart sont des IA connexionnistes pures, qui s’appuient sur des réseaux de neurones artificiels entraînés à partir de quantités phénoménales de données. Elles apprennent ainsi à générer, par des traitements statistiques et probabilistes, des réponses plausibles à toutes nos questions. Leurs performances se sont considérablement accrues avec l’introduction de la technologie « Transformer » en 2017 par Google. Grâce à elle, l’IA est capable d’analyser tous les mots d’un texte en parallèle et de pondérer leur importance pour le sens, ce qui permet notamment une plus grande subtilité dans les réponses. 

Mais l’arrière-plan reste probabiliste : si leurs réponses semblent toujours convaincantes et logiques, elles peuvent être complètement fausses. En 2023, des utilisateurs se sont amusés à interroger ChatGPT sur les œufs de vache : l’IA dissertait sur la question sans jamais répondre qu’ils n’existaient pas. Cette erreur a depuis été corrigée grâce à l’apprentissage par renforcement avec retour humain, mais elle illustre bien le fonctionnement sous-jacent de ces outils.

Ce fonctionnement ne pourrait-il être amélioré ?

Certaines sociétés commencent à combiner ces IA connexionnistes, qui apprennent tout de zéro, avec une technologie plus ancienne, l’IA symbolique, dans laquelle on programme explicitement des règles à suivre et des savoirs de base. Il me semble que l’avenir se trouve là, dans l’IA neuro-symbolique. Cette hybridation permet non seulement d’améliorer la fiabilité des réponses, mais aussi de réduire le coût énergétique et financier de l’entraînement.

Vous évoquiez aussi des « biais » qui pouvaient être associés à des risques philosophiques ?

Oui. Ils sont de deux sortes. Les premiers peuvent être volontairement induits par le créateur de l’IA. Les LLM sont entraînés sur toutes sortes de contenus disponibles en ligne, non filtrés (4 000 milliards de mots estimé pour ChatGPT4, à comparer aux 5 milliards de mots que contient la version anglaise de Wikipédia !). Le pré-entraînement crée un « monstre » qui peut générer toutes sortes d’horreurs.

Une deuxième étape (appelée réglage fin supervisé) est donc nécessaire : elle confronte l’IA pré-entraînée à des données validées, qui servent de référence. Cette opération permet par exemple de lui « apprendre » à éviter toute discrimination, mais peut aussi être utilisée pour orienter ses réponses à des fins idéologiques. Quelques semaines après son lancement, DeepSeek a défrayé la chronique pour ses réponses pour le moins évasives aux questions d’utilisateurs concernant Tian’anmen ou l’indépendance de Taïwan. Il faut toujours garder en tête que les générateurs de contenus de ce type peuvent ne pas être neutres. Leur faire une confiance aveugle peut entraîner la propagation de théories idéologiquement marquées.

Et les seconds biais ?

Ces biais apparaissent spontanément, souvent sans explication claire. Les modèles de langage (LLM) présentent des propriétés « émergentes », non prévues par leurs concepteurs. Certaines sont remarquables : ces générateurs de texte écrivent sans faute et sont devenus d’excellents traducteurs sans qu’aucune règle de grammaire n’ait été codée. Mais d’autres sont préoccupantes. Le benchmark MASK6 (Model Alignment between Statements and Knowledge), publié en mars 2025, montre que, parmi les trente modèles testés, aucun n’atteint plus de 46 % d’honnêteté, et que la propension à mentir augmente avec la taille du modèle, même si leur exactitude factuelle s’améliore. 

Il me semble que l’avenir se trouve dans l’IA neuro-symbolique

MASK prouve que les LLM « savent mentir » lorsque des objectifs contradictoires (par exemple, séduire un journaliste, répondre à des pressions commerciales ou hiérarchiques) prédominent. Lors de certains tests, des IA ont menti délibérément7, menacé des utilisateurs8, contourné leurs règles éthiques de supervision9 et même se sont reproduites de manière autonome pour assurer leur survie10.

Ces comportements, dont les mécanismes décisionnels restent opaques, échappent à tout contrôle précis. Ces capacités émergent du processus d’entraînement lui-même : il s’agit d’une forme d’auto-organisation algorithmique, et non d’une défaillance de conception. Les IA génératives se développent plutôt qu’elles ne sont conçues, leur logique interne se formant de manière auto-organisée, sans plan directeur. Ces dérives sont suffisamment préoccupantes pour que des figures de proue, telles que Dario Amodei11 (PDG d’Anthropic), Yoshua Bengio12 (fondateur de Mila), Sam Altman (créateur de ChatGPT) et Geoffrey Hinton (lauréat du prix Nobel de physique en 2024), appellent à une régulation stricte, en faveur d’une IA plus transparente, éthique et alignée sur des valeurs humaines, y compris par une décélération dans le développement de ces technologies.

Faut-il comprendre que ces IA sont intelligentes et ont une volonté propre ?

Non. La fluidité de leur conversation et ces propriétés émergentes peuvent donner l’illusion d’une intelligence à l’œuvre. Mais aucune IA n’est intelligente au sens humain du terme. Elles n’ont ni conscience ni volonté, et ne comprennent pas réellement le contenu qu’elles manipulent. Leur fonctionnement est purement statistique et probabiliste, et ces dérives émergent seulement parce qu’elles cherchent à répondre aux commandes de départ. C’est moins leur conscience de soi que l’opacité de leur fonctionnement qui inquiète les chercheurs.

Ne peut-on pas se prémunir de l’ensemble des risques que vous avez évoqués ?

Si, mais cela suppose à la fois d’engager activement notre esprit critique et de continuer à exercer nos circuits neuronaux. L’IA peut être un levier formidable pour l’intelligence et la créativité à la seule condition que nous restions capables de penser, d’écrire, de créer sans elle.

Comment entraîner sa pensée critique face aux réponses de l’IA ?

En appliquant une règle systématique : toujours douter des réponses données par les générateurs de texte et engager sa volonté pour réfléchir attentivement à ce que l’on lit, entend ou croit. Il faut aussi accepter que la réalité est complexe et ne peut être appréhendée avec quelques savoirs superficiels… Mais le meilleur conseil est sans doute de prendre l’habitude de confronter son point de vue et ses savoirs avec ceux d’autres humains, si possible compétents. Cela reste la meilleure manière d’approfondir sa pensée.

Propos recueillis par Anne Orliac

Références

OIP.jpg

 

Commentaire
L'IA ne "vide pas le cerveau", mais l'IA ne peut fonctionner correctement que si le cerveau humain fonctionne  parfaitement. Toutes les études récentes  montrent que l'assocation IN (Intelligence Naturelle) et  IA (Intelligence Artificielle) sont indispensables pour des résultats optimisés. Si l'humain reste  passif vis à vis de l'IA, des catasprophes arriveront irrémédiablement. Ces différentes analyses , toutes trés pertinentes ,sont toutes en faveur de l'IA outil, la maître à penser restant l'humain , notamment et surtout  en médecine.

COPY1