"Le danger de l’IA n’est pas qu’elle devienne consciente et nous déteste, mais qu’elle devienne compétente et nous ignore." Eliezer Yudkowsky,

"L’IA est un outil pour augmenter nos capacités, pas pour nous remplacer. " Yann LeCun

"L’apprentissage automatique confère à l’IA des capacités de perception étonnantes. Mais seule une combinaison de capacités de raisonnement et de données, associée à une analyse minutieuse du comportement éthique et de l’implication de l’IA, réalisée dans un environnement multidisciplinaire, multipartite et multiculturel peut faire progresser de manière significative cette technologie puissante et la rendre bénéfique. à l’humanité."Francesca Rossi

Manaouil C., Chamot S., Petit P. "Le médecin confronté à l'IA : Éthique et responsabilité" – Médecine & Droit, volume 2024, issue 186, pages 50-66

https://www.sciencedirect.com/science/article/abs/pii/S1246739124000071

SYNTHÈSE NOTEBOOKLM

Cet article analyse la montée rapide de l’intelligence artificielle dans le secteur médical et les bouleversements qu'elle entraîne pour le diagnostic et le suivi des patients. Bien que ces outils offrent des progrès technologiques majeurs, ils soulèvent des préoccupations éthiques fondamentales concernant la protection des données personnelles et la surveillance des algorithmes. Les auteurs soulignent l'importance du concept de « garantie humaine », qui impose que les professionnels de santé conservent le contrôle final sur les décisions automatisées. La réflexion porte également sur la complexité juridique de l'encadrement de l'IA au niveau français et européen pour préserver la responsabilité médicale. En somme, la source explore si l'IA agira comme un simple soutien technique ou si elle finira par transformer radicalement l'autonomie du médecin.

unnamed 2026 01 22T192801.782

Médecine & Droit • Volume 2024 BY CLAUDE

L'IA en médecine

Éthique et responsabilité face à l'intelligence artificielle dans la pratique médicale

Applications

Diagnostic, médecine préventive, thérapie, examens complémentaires

Garantie humaine

Principe européen : la machine ne peut agir seule

Applications de l'IA en santé

🔍 Aide audiagnosticc

Nouvelles pratiques d'aide au diagnostic médical grâce aux algorithmes d'apprentissage automatique

🛡️ Médecinepréventivee

Anticipation et prévention des pathologies par l'analyse prédictive des données de santé

👤 Suiviindividualiséé

Personnalisation du parcours de soins et suivi adapté à chaque patient

💊 Choix Thérapeutique

Appui à la décision pour sélectionner la thérapie la plus adaptée au profil du patient

📊 Interprétation dexamenss

Assistance à l'analyse des résultats d'examens complémentaires et imagerie médicale

🔐 Filet desécuritéé

L'IA comme support au médecin, sans le remplacer ni agir de manière autonome

Questions éthiques Majeures

⚖️ Supervision des algorithmes

Comment garantir la transparence et le contrôle des algorithmes d'IA dans les décisions médicales

🌍 Égalité daccèss

Assurer un accès équitable à l'innovation technologique pour tous les patients et établissements de santé

🔒 Protection desdonnéess

Utilisation et sécurisation des données personnelles de santé conformément au RGPD

👨‍⚖️ Responsabilitéjuridiquee

Déterminer les responsabilités en cas d'erreur : médecin, IA, fabricant ou établissement de santé ?

Points clés du cadre juridique

RGPD & données de santé

L'article 4, paragraphe 15, du règlement général sur la protection des données définit strictement les "données concernant la santé" comme données personnelles relatives à la santé physique ou mentale.

Principe de Garantie Humaine

La France et l'Europe ont établi que la machine ne peut agir seule. L'interprétation des résultats diagnostiques et thérapeutiques nécessite une validation humaine.

Responsabilité du professionnel

Le cadre légal consacre la responsabilité du professionnel de santé, même lorsque l'IA est utilisée comme outil d'aide à la décision.

Plan Innovation Santé 2030

Présenté le 29 juin 2021, ce plan vise à faire de la France la première industrie de santé innovante en Europe.

Une complexité juridique à maîtriser

L'intelligence artificielle transforme la médecine à une vitesse impressionnante. Loin d'être une solution miracle, elle soulève des questions éthiques fondamentales sur l'autonomie des systèmes, la responsabilité médicale et l'utilisation des données. Le défi : encadrer juridiquement cette révolution technologique sans en négliger les risques, tant au niveau individuel que collectif.

Source : Manaouil C., Chamot S., Petit P. "Le médecin confronté à l'IA: Éthique et responsabilité" – Médecine & Droit, Volume 2024, Issue 186, Pages 50-66

Droit, numérique et santé seront-ils un trio gagnant, pour l’Europe ? pour la France ? Pour les médecins et/ou pour les patients ? L’IA est un domaine où l’échelon européen est particulièrement pertinent et où la France a l’ambition d’être un moteur pour l’Europe.

Complement / Notebook

En quoi la médecine antique grecque éclaire-t-elle l'usage de l'IA ?

D'après les sources fournies, qui portent sur l'intervention de Thierry Ménissier intitulée « Responsabilité du médecin face aux progrès de l’IA », la médecine antique grecque est mobilisée comme une « conjecture volontairement décalée » pour penser la situation contemporaine du médecin face aux algorithmes.

Voici en quoi cette analogie historique éclaire l'usage de l'intelligence artificielle :

1. Une analogie face à l'incertitude structurelle L'auteur établit un parallèle entre la situation du médecin moderne et celle de la médecine grecque antique dite « des temples », qui s'appuyait sur des pratiques oraculaires et divinatoires. L'argument central repose sur les limites de l'intelligence naturelle face à la puissance de calcul :

• Les performances des systèmes algorithmiques (visualisation, extrapolation, prédiction) dépassent les capacités de l'intelligence humaine, plaçant le praticien dans une situation d'« incertitude structurelle » quant à la manière d'exercer sa responsabilité

• L'humanité a déjà connu une telle asymétrie de savoir dans le cadre des pratiques divinatoires antiques, où l'homme devait composer avec une parole ou un savoir qui le dépassait

2. Le danger de la sacralisation de l'IA La référence à la médecine antique sert également d'avertissement critique. L'auteur souligne avec force que les prédictions fournies par les algorithmes ne doivent jamais revêtir la force d'un « augure divine

Traiter l'IA comme un oracle infaillible reviendrait à « sacrifier la rationalité fondatrice de la modernité ». L'éclairage antique permet donc de mettre en garde contre une forme de croyance aveugle ou de soumission à la machine qui imiterait le rapport au divin.

3. Une piste pour « civiliser » la société algorithmique L'intérêt majeur de ce détour par l'Antiquité réside dans la recherche d'un modèle de gouvernance de la technique. La médecine des temples est présentée comme une « institution sociale fondamentale » qui impliquait une « forme mentale » spécifique pour gérer l'incertitude et l'invisible. En étudiant comment les Grecs ont institutionnalisé ces pratiques (référence faite aux travaux de Jean-Pierre Vernant sur Divination et rationalité), l'auteur suggère qu'il est possible de trouver une voie pour « civiliser la société algorithmique ». Cela implique probablement de construire un cadre rituel, éthique ou social qui permette d'intégrer la puissance prédictive de l'IA sans que le médecin n'abdique sa propre raison et son expertise.

En résumé, la médecine antique éclaire l'usage de l'IA non pas comme un modèle technique à suivre, mais comme un précédent anthropologique permettant de penser la relation de l'homme à une source de savoir qui le dépasse, afin de ne pas subir passivement une « maltraitance algorithmique

https://shs.hal.science/halshs-04710230/document
Thierry Ménissier, professeur des universités, Philosophie politique, Institut de philosophie de Grenoble, université Grenoble Alpes & Chaire éthique&IA, MIAI

Cette adresse e-mail est protégée contre les robots spammeurs. Vous devez activer le JavaScript pour la visualiser.