L'IA, le jardinier, le cuisinier, et le médecin

Pamphlet sur l'IA ! 

Michel Dauzat, à qui j'avais demandé d'écrire un pamphlet sur l'IA, s'est exécuté , le voilà. 

A lire avec gourmandise

Merci Michel, tu es en grande forme. 

" Le monde finira par regretter les idées qui détournent l’humanité de sa véritable nature. Reconnaître les valeurs authentiques est essentiel. "Noam Chomsky

"L'absurde est la notion essentielle et la première vérité". Albert Camus

Le cuisinier tient en très haute estime le jardinier, dont il apprécie les produits qui lui permettent de faire la meilleure cuisine et d'offrir à ses convives les meilleurs plats.

Le jardinier, quant à lui, considère les egesta (ci-après dénommés "la M…") avec une bienveillance intéressée, sachant que "c'est sur le fumier que poussent les plus belles fleurs"*… et les plus beaux légumes aussi, du reste ! Entre eux, les jardiniers peuvent discuter à l'infini des valeurs et vertus respectives de la M… de différentes espèces animales, le cheval tenant manifestement, à cet égard, le haut du pavé. Le cuisinier, de son côté, sait bien à quoi tiennent les couleurs, les formes, et les saveurs des légumes qu'il accommode avec art, mais c'est le prix de la qualité ! En bref, la M… est alors essentielle à la qualité.

Ce n'est pas le médecin qui viendrait le contredire tant il est, à juste titre, convaincu qu'une alimentation riche en fruits et légumes de bonne qualité est importante pour la santé. En d'autres termes, notre santé dépend de la M… CQFD !

Déjà confronté, depuis plusieurs années, aux informations, avis, et conseils pour le moins fantaisistes glanés sur "la toile" par ses patients, le médecin se trouve maintenant face à l'intelligence artificielle, ci-après dénommée l'IA. Bien que faisant l'objet de réflexions et de recherches depuis des décennies, l'IA a récemment surgi dans notre univers quotidien et rapidement envahi la pratique médicale sans que nous y soyons vraiment préparés.

S'il est un domaine dans lequel l'IA peut prétendre à une large supériorité sur l'intelligence humaine individuelle (ci-après dénommée IHI), c'est la capacité à prendre en compte et analyser très rapidement un très grand nombre de données et informations pour en faire la synthèse. Elle peut alors mettre en œuvre des "raisonnements" déductifs guidés par la pure logique. Elle peut elle-même progresser en pertinence et efficacité d'une part en augmentant les sources (ou ingesta) dont elle s'alimente, d'autre part en confrontant ses conclusions aux résultats obtenus par leur mise en œuvre.

Lorsqu'il s'agit de répondre, dans un domaine déterminé, à des questions fermées dont la réponse peut être confrontée à un résultat, l'IA progresse ainsi et devient remarquablement performante, par exemple dans l'interprétation d'une image radiologique dès lors que la conclusion peut être confrontée au résultat de l'anatomie pathologique. A ce titre, l'IA se "nourrit" alors aussi bien de ses échecs que de ses succès pour accroître sa fiabilité.

Le problème est tout autre lorsqu'il s'agit de répondre à des questions ouvertes et de considérer "l'état de l'art" pour établir un diagnostic et/ou proposer le meilleur traitement car les données dont peut se nourrir l'IA sont de qualité très diverse et souvent à risque de péremption.

Les connaissances scientifiques médicales sont principalement disponibles sous forme de publications, elles-mêmes de niveau et qualité variable. Il serait dès lors raisonnable de ne nourrir l'IA que des articles des "meilleures" revues scientifiques, mais l'histoire a montré qu'elles ne sont ni infaillibles dans leur sélection ni totalement dénuées de conflits d'intérêts. De plus, la littérature médicale est submergée de revues de qualité médiocre et surtout de revues prédatrices qui n'offrent aucune garantie de qualité ni même de véracité. Nous assistons même à un déferlement de publications entièrement fabriquées par l'IA. En clair, cela signifie que, faute d'un filtrage extraordinairement rigoureux, l'IA pourrait se nourrir de M…, y compris de la sienne ! Comment peut-on imaginer que cette forme d'autophagie ou de cannibalisme coprophage produise autre chose que de la M…, artificielle, certes, mais plus vraie que nature.

Avant l'émergence de l'IA, la communauté scientifique médicale avait recours à l'intelligence humaine collective (ci-après dénommée IHC) pour pallier l'incapacité de l'IHI à prendre en compte et synthétiser la gigantesque masse d'informations disponible.

Les sociétés savantes, les réunions de consensus, les comités d'experts… s'appuyant sur les revues de littérature et les méta-analyses, faisaient le tri des informations, retenaient les plus crédibles (i.e. du plus haut niveau de preuve) et en faisaient périodiquement la synthèse pour en tirer des conclusions opérationnelles. Ce processus essentiel reposait notamment sur la remise en question des données antérieures à la lumière des nouveaux résultats… et de l'expérience clinique. Les documents et rapports ainsi produits mettaient en exergue les connaissances acquises et en soulignaient les limites en mentionnant, certes, ce que l'on sait mais sans éluder ce que l'on ne sait pas !

Qu'en est-il de la façon dont l'IA sélectionne et filtre ses ingesta ? Est-elle capable de pondérer les informations en fonction de leur origine, de les remettre en question, de les hiérarchiser et les stratifier ?

Nous, sommes-nous capables de lui inculquer des principes, de lui apprendre à reconnaître la M… et de la traiter comme telle alors qu'elle se substitue à l'IHC et que l'IHI ne peut rivaliser avec elle ? N'est-elle pas déjà en train de nous échapper ? Sommes-nous au moins capables de préserver notre IHI ? Il suffit d'observer nos capacités en calcul mental depuis que nous utilisons des "calculettes" pour savoir ce qui nous attend.

Certes, nous pouvons devenir experts dans l'usage de l'IA, et celle-ci peut devenir notre orthèse cérébrale comme le téléphone portable est devenu notre principale interface avec ce que nous croyons être la réalité.

Il est possible que, bien qu'alimentée par de la M…, l'intelligence artificielle produise de belles fleurs. Cependant, ce seront des fleurs artificielles et, si nous n'y prenons garde, elle fera de nous des légumes. Avis aux cuisiniers !

"Si Job avait planté des fleurs sur son fumier, il aurait eu les fleurs les plus belles du monde !" écrivait Edmond Rostand.