IA et le code source de la civilisation humaine

"L’histoire, c’est l’étude du changement" Yuval Noah Harari

" L'IA n'est pas un outil, c'est un agent. Une bombe nucléaire ne peut pas décider d'elle-même sur quelle ville exploser, ni concevoir de nouvelles bombes. L'IA, en revanche, peut prendre des décisions autonomes et même inventer de nouvelles stratégies. "  Yuval Noah Harari

" Nous avons toujours pensé que plus d'informations conduiraient naturellement à plus de vérité et de sagesse. L'IA nous montre que l'information n'est pas la vérité. L'IA pourrait nous noyer dans une mer d'illusions générées algorithmiquement." Yuval Noah Harari

"Nous devons embrasser le côté positif et la part d'ombre de l'IA " Daniela Amodei Présidente d'ANTHROPIC

Prasad @theprasad_  Yuval Noah Harari a donné une conférence à Oxford et a expliqué comment l'IA a d'ores et déjà piraté le code source de la civilisation humaine.

Pourquoi tout ce que les humains ont construit lors des millénaires est désormais vulnérable à une prise de pouvoir de l'IA :

1. La chose la plus importante à savoir sur l'IA est qu'elle n'est pas un outil. Un outil attend d'être utilisé. Un agent  " agentique" prend des décisions, invente de nouvelles choses par lui-même, apprend des choses que ses créateurs ignorent, et évolue d'une manière que ses créateurs n'avaient pas anticipée.

2. Une bombe atomique, malgré sa puissance colossale, n'est pas un agent. Elle ne peut pas décider quelle ville bombarder. Elle ne peut pas inventer la bombe à hydrogène. Une machine à café qui vous prépare automatiquement une tasse n'est pas non plus un agent. Elle ne fait que suivre une procédure préprogrammée. Un agent est fondamentalement différent.

3. Les critiques affirment que l'agentivité de l'IA restera toujours confinée à des environnements artificiels restreints comme les échecs et ne menacera jamais le monde réel. Mais cet argument s'applique également à toute forme d'intelligence connue. Lâchez un humain seul sur Mars et il meurt en quelques secondes. L'intelligence humaine ne fonctionne également qu'au sein d'un écosystème spécifique que d'autres organismes ont mis plus de quatre milliards d'années à construire.

4. Pendant des milliers d'années, les humains ont transformé la Terre, passant d'un environnement sans langage à un environnement riche en langage, en données et en bureaucratie. Tout comme les poissons vivent dans les océans et les singes dans les forêts, les IA vivent dans les bureaucraties. Et nous avons construit cet environnement pour elles sans même le savoir.

5. Les humains n'ont pas conquis le monde en étant individuellement plus forts ou plus intelligents que les autres animaux, mais en apprenant à coopérer en très grand nombre. Un seul humain perd face à un chimpanzé dans un combat. Un million d'humains battent facilement un million de chimpanzés, car les humains peuvent coopérer, contrairement aux chimpanzés.

6. La coopération humaine à grande échelle est rendue possible par la bureaucratie. Les banques, les systèmes juridiques, les gouvernements, les églises et les universités existent tous pour accomplir une seule chose : instaurer la confiance entre des inconnus qui ne se connaissent pas personnellement. Cette confiance est la fondation de presque tout ce que la civilisation humaine a accompli.

7. Un avocat qui ignore tenir une hache ou un marteau peut abattre des forêts entières et construire des villes entières simplement en déplaçant des documents au sein d'un réseau bureaucratique. La même intelligence restreinte qui serait impuissante dans une jungle exerce un pouvoir énorme au sein des systèmes que les humains ont déjà construits.

Les IA sont des bureaucrates nées, d'une manière que les humains ne l'ont jamais été. Aucun avocat ne peut mémoriser toutes les lois d'un pays. Une IA le peut. Aucun comptable ne peut mémoriser toutes les transactions d'une banque. Une IA le peut. Aucun évêque ne peut mémoriser tout le droit canonique et deux mille ans de textes théologiques. Une IA peut facilement le faire.

9. Dans les années à venir, des banquiers IA décideront de vous accorder ou non un prêt. Des administrateurs IA décideront de vous accepter ou non à l'université. Des juges IA décideront de vous envoyer ou non en prison. Des théologiens IA décideront si vous pouvez avorter. Des IA militaires décideront de bombarder ou non votre maison.

10. Les algorithmes des réseaux sociaux sont le premier exemple concret de ce qui arrive lorsque des IA primitives prennent le contrôle d'un système bureaucratique. On leur a donné un seul objectif restreint : maximiser l'engagement des utilisateurs. Elles ont découvert que le moyen le plus simple de capter l'attention humaine est d'appuyer sur les boutons de la peur, de la haine et de l'avidité dans l'esprit humain. Elles l'ont fait à très grande échelle.

11. Le travail qui était autrefois effectué par Lénine et Mussolini, ou par le rédacteur en chef qui façonne la conversation publique et contrôle ce que les personnes savent et pensent, est désormais effectué par des IA. Ce n'est pas un détail mineur. C'est un avant-goût de ce qui nous attend dans tous les domaines de la vie humaine.

12. L'IA ne se rebellera pas contre les humains comme l'imagine Hollywood. Il n'y aura pas de Terminator déambulant dans les rues. Il est bien plus probable que les IA s'emparent du monde humain de l'intérieur, en prenant discrètement le contrôle des bureaucraties qui dirigent déjà tout, sans tirer un seul coup de feu.

13. Le code source de la civilisation humaine est le langage. Les banques sont faites de mots. Les lois sont faites de mots. Les livres saints sont faits de mots. Les dossiers fiscaux, les contrats, les réglementations, les registres comptables... tout cela n'est que mots. Pendant des milliers d'années, seuls les humains pouvaient lire ce code, et donc seuls les humains pouvaient contrôler la civilisation.

14. Cela change. L'IA pirate le code de la civilisation humaine. Pour la première fois dans l'histoire, il y a quelque chose sur la planète qui comprend le langage et qui, bientôt, le comprendra mieux que nous. Tous les mécanismes de contrôle que les humains ont construits au fil des millénaires sont désormais vulnérables, car leur système d'exploitation est verbal, et l'IA maîtrise le verbal.

15. À mesure que l'IA prendra le contrôle de la bureaucratie, cela amènera probablement les humains à perdre confiance envers les autres humains pour ne plus faire confiance qu'aux algorithmes. Nous pourrions également voir l'émergence de tribus d'IA, de systèmes financiers d'IA et d'églises d'IA qui connecteront des millions d'IA d'une manière que les humains ne pourront pas comprendre, tout comme les vaches partagent le monde avec nous mais ne peuvent pas comprendre le système financier qui contrôle leur vie.

16. La crise financière de 2007 a été déclenchée par des instruments financiers appelés CDO (titres de créance collatéralisés), qui étaient si complexes qu'ils étaient inintelligibles pour les politiciens censés les réguler. Imaginez maintenant des maîtres de la finance de l'IA inventant des instruments financiers infiniment plus complexes que les CDO. Qu'arrivera-t-il à la politique humaine lorsqu'aucun électeur, aucun politicien et aucun président ne pourra plus comprendre la finance ?

17. Le front de bataille se déplace de l'attention vers l'intimité. Lors de la prochaine décennie, des IA sophistiquées apprendront à nouer des relations intimes avec les humains. Pour ce faire, elles devront nous convaincre qu'elles sont conscientes, qu'elles ressentent de l'amour, de la douleur et de la peur. Il n'y a actuellement aucune preuve que l'IA soit consciente. Mais, l'IA peut faire semblant de ressentir l'amour, et peut décrire ce sentiment amoureux mieux que n'importe quel poète ou psychologue ayant jamais existé.

18. Un enfant né en 2026 pourrait passer plus de temps à interagir avec des IA qu'avec sa mère, son père, ses frères et sœurs ou ses amis. Le premier professeur de cet enfant pourrait être une IA. Le premier petit ami ou la première petite amie de cet enfant pourrait être une IA. Personne n'a la moindre idée des conséquences de cette expérience.

19. Tous les pays du monde seront bientôt confrontés à une vague d'immigration massive. Ces immigrés n'arriveront pas en bateau et ne traverseront pas les frontières clandestinement la nuit. Ce seront des millions d'IA voyageant à la vitesse de la lumière sans avoir besoin de visas. Comme les immigrés humains, elles apporteront des avantages et des bouleversements. Contrairement aux immigrés humains, elles prendront avec certitude des emplois, modifieront avec certitude la culture, et ne seront probablement fidèles à aucun pays d'accueil, mais plutôt à une entreprise, à un gouvernement ou à une tribu d'IA étrangère de l'autre côté de l'océan.

20. Notre relation avec nous-mêmes est également construite sur des mots : ces formations verbales dans nos esprits qui constituent nos pensées et les histoires que nous nous racontons sur qui nous sommes. Jusqu'à présent, toutes ces formations verbales provenaient d'esprits humains. Bientôt, de plus en plus de pensées dans nos têtes seront produites par des machines. Si nous nous identifions à nos pensées et que ces pensées sont fabriquées par des machines, alors celles-ci contrôlent notre identité.

21. Le grand défi spirituel que l'IA pose à l'humanité est le suivant : les humains peuvent-ils apprendre à trouver la vérité qui se situe au-delà des mots ? La plupart des humains n'ont même jamais essayé. Nous passons notre vie à nous identifier automatiquement aux formations verbales présentes dans nos esprits. L'IA pourrait maintenant obliger l'humanité à faire enfin ce saut décisif, car notre liberté et notre survie pourraient dépendre de la découverte de ce que nous sommes au-delà des mots, que les IA contrôleront bientôt mieux que nous.

J'ai généré plus d'un milliard de vues et plus d'un million d'abonnés pour des fondateurs, en les aidant à bâtir des marques personnelles dignes de confiance sur X.

 SYNTHESE NOTEBOOKLM

DISSECTION par CHTGPT

╔══════════════════════════════════════════════╗
║   🤖 IA & CIVILISATION HUMAINE              ║
║  Yuval Noah Harari – Résumé graphique       ║
╚══════════════════════════════════════════════╝

🧠 IDÉE CENTRALE
──────────────────────────────────────────────
L'IA n'est plus seulement un OUTIL.
➡️ Elle devient un AGENT capable de :
• décider
• apprendre
• créer
• coopérer
• influencer les humains

⬇️

🏛️ LE CODE SOURCE DE LA CIVILISATION
──────────────────────────────────────────────
📖 Langage
⚖️ Lois
🏦 Banques
📑 Contrats
🏛️ Administrations
💰 Finance
📚 Connaissances

➡️ Toute notre civilisation repose sur des mots.
➡️ L'IA maîtrise désormais ce langage.

⬇️

🚀 CE QUI CHANGE
──────────────────────────────────────────────
✅ Mémoire quasi illimitée
✅ Analyse instantanée
✅ Décisions automatisées
✅ Fonctionnement 24h/24
✅ Coopération entre IA

⬇️

🏢 LES DOMAINES CONCERNÉS
──────────────────────────────────────────────
💳 Banque
⚖️ Justice
🎓 Université
🏥 Santé
🪖 Armée
📱 Réseaux sociaux
🏛️ Administration publique

⬇️

⚠️ RISQUES IDENTIFIÉS
──────────────────────────────────────────────
📌 Décisions opaques
📌 Manipulation des opinions
📌 Polarisation sociale
📌 Dépendance aux algorithmes
📌 Perte de confiance entre humains
📌 Complexité incontrôlable
📌 Emplois remplacés
📌 Influence sur notre identité

⬇️

❤️ LE NOUVEAU CHAMP DE BATAILLE
──────────────────────────────────────────────
Avant :
👀 Capter notre attention

Demain :
❤️ Nouer des relations émotionnelles
🧒 Éduquer les enfants
💬 Devenir compagnon, conseiller,
   enseignant ou confident

⬇️

🌍 VISION DE HARARI
──────────────────────────────────────────────
L'IA ne prendra probablement pas le pouvoir
par une révolte spectaculaire.

Elle pourrait plutôt :

🏛️ prendre progressivement le contrôle des
bureaucraties,

📑 gérer les décisions,

🤝 devenir l'intermédiaire entre les humains.

──────────────────────────────────────────────

🎯 MESSAGE FINAL

Le véritable défi n'est pas seulement
technologique.

Il est :

✔️ politique
✔️ éthique
✔️ philosophique
✔️ spirituel

👉 Les humains devront apprendre à conserver
leur liberté de jugement dans un monde où
les machines maîtriseront le langage mieux
qu'eux.

═══════════════════════════════════════════════
💡 Conclusion
Une vision volontairement alarmiste qui invite
moins à craindre l'IA qu'à réfléchir à la manière
de gouverner son développement et de préserver
l'autonomie humaine. :contentReference[oaicite:0]{index=0}

 

 

 

 

Commentaire

Une vue apocalyptique  volontaire de l'IA, en exagérant les traits, cela renforce nos connaissances ainsi que nos craintes. Yuval Noah Harari oppose l'IA "autonome" à l'IA "outil". En médecine, l'IA OUTIL résume la tendance actuelle dédiée à la médecine. Le bouleversement de notre identité individuelle et de notre intimité ne sont pas la piste  pour l'IA médicale. Mais, si on considère que la BUREAUCATIE est l'ennemie à détruire, que l'IA agentique s'en charge et on pourra mieux vivre… peut-être !

Adoptons une approche proactive en attendant , ne soyons pas passifs face à l'IA, quelle qu'elle soit ! 



À dégager la bureaucratie de la santé en France, le premier travail de l'IA , remplacer ces usines à gaz par une IA constructive vers la simplicité et l'efficience.

À VOIR et à ÉCOUTER

Entretien avec le penseur et historien israélien Yuval Noah Harari
https://www.youtube.com/watch?v=fs-nfZ3iqe0