L'IA fantôme dans le secteur de la santé : ce que les professionnels et les
établissements doivent en comprendre
https://www.linkedin.com/pulse/lia-fant%C3%B4me-dans-le-secteur-de-la-sant%C3%A9-ce-que-les-et-pascal-staccini-xuxae/
L'intelligence artificielle est entrée dans les hôpitaux avant les règles censées l'encadrer.
Une partie des professionnels s'en sert en dehors des circuits validés, pour gagner du temps ou combler un outil manquant.
C'est ce qu'on nomme l'IA fantôme — on dit aussi shadow IA ou shadow AI. Le phénomène est réel, il est mesuré, et il traverse tous les métiers de l'établissement, du soin à l'administration.
Le parti pris de cet article est de rapporter plutôt que de juger.
Et une précision s'impose d'emblée, car elle structure tout le reste. Celui qui recourt à un outil non validé le fait parce qu'il le juge utile : il gagne du temps, obtient une réponse, avance dans sa tâche. Mais, cette utilité est supposée, elle n'est pas démontrée.
L'outil n'étant ni validé ni sécurisé, on ne peut garantir ni la fiabilité du résultat, ni que le gain de temps ne sera pas annulé par une erreur.
Il serait donc inexact d'écrire que le shadow IA est utile : il est perçu comme utile, ce qui n'est pas la même chose. Interdire ce que les professionnels tiennent pour utile est vain, puisqu'ils contourneront. Présumer que cet usage rend service, sans l'avoir vérifié, ne l'est pas moins.
De quoi parle-t-on ?
L'IA fantôme, c'est l'usage d'outils d'IA sans validation ni encadrement : sans identité contrôlée, sans accès sécurisé aux données, sans traçabilité.
Elle se distingue du « shadow IT » classique, qui recouvrait surtout des logiciels adoptés sans autorisation. L'IA fantôme, elle, produit du texte, résume, propose des hypothèses. Elle intervient au contact de la décision.
Un point structure tout le reste : la nature de la donnée mobilisée. Il y a la donnée personnelle — la donnée « patient », qui relève du secret médical et du RGPD. Et il y a la donnée institutionnelle : résultats comptables, données RH, contrats, code.
Or les mesures d'entreprise montrent que la seconde famille pèse lourd, souvent plus que la première : chez Harmonic Security, 57 % des données sensibles envoyées à l'IA relèvent du registre métier et juridique, contre 15 % de données RH et 3 % de données clients. L'exemple de Samsung — trois fuites de code source et de comptes rendus internes en trois semaines, en avril 2023 — illustre ce versant à l'état pur. À l'hôpital, comptes d'exploitation, appels d'offres et dossiers RH empruntent les mêmes chemins que la donnée patient.
Pourquoi ce phénomène existe-t-il ?
Le contournement est rarement malveillant. D'après l'enquête Wolters Kluwer Health (518 professionnels, décembre 2025), près de la moitié de ceux qui utilisent un outil non validé le font pour aller plus vite ; un sur trois, faute d'outil validé satisfaisant. Ces motivations partagent un trait : elles reposent sur un bénéfice attendu, non prouvé.
Ce décalage entre l'adoption et le contrôle, je l'ai déjà vécu. J'étais jeune praticien hospitalier quand Internet est arrivé dans les établissements, et je le vivais comme un progrès évident. C'est la nuit que l'autre visage de l'outil s'est révélé : durant les gardes, les journaux de connexion montraient des accès à des sites qui n'avaient rien à faire sur un poste hospitalier. Il a fallu, après coup, déployer le filtrage des URL — des contrôles construits en réaction. Une génération plus tard, le shadow IA rejoue la même scène : l'outil arrive avant la règle, l'usage se niche dans les heures creuses et les appareils personnels, l'établissement le découvre dans ses traces plutôt que dans ses déclarations. Ce qui a changé, c'est l'enjeu : hier, un problème de discipline interne ; aujourd'hui, la donnée sort et expose à la fois le patient, le professionnel et l'institution.
Qui est concerné ? Qui utilise le plus, et le moins bien ?
Deux choses souvent confondues : l'intensité de l'usage et sa qualité. Utiliser beaucoup ne signifie pas utiliser bien.
Le premier gradient est générationnel. Étudiants et jeunes praticiens sont les adopteurs les plus précoces. Mais, l'adoption précoce a un revers : les plus jeunes maîtrisent l'outil sans toujours maîtriser la donnée. Ils recoupent moins, connaissent mal les règles de confidentialité. Ils utilisent le plus, pas toujours le mieux. À l'autre bout, les médecins seniors adoptent plus prudemment, mais portent la responsabilité du standard de soin.
Entre les deux, chaque métier se situe selon son rapport à la donnée : exposition marginale pour les agents logistiques ; point d'entrée réel pour les infirmiers, grands producteurs d'écrits ; donnée technique pour les ingénieurs et la DSI ; donnée institutionnelle pour les directions finances, RH et achats. Et un facteur traverse tous ces profils : la formation reste rare, y compris chez les plus assidus. C'est le paradoxe de la question — les profils qui utilisent le plus l'IA ne sont pas ceux qui ont été le mieux préparés à en gérer les risques.
Quel impact, et pour qui ?
Pour le praticien, le risque est d'abord professionnel : s'appuyer sur une sortie non validée engage sa responsabilité. Pour l'établissement, il est financier et réglementaire. En 2025, une violation de données coûtait en moyenne 7,42 millions de dollars dans la santé — secteur le plus cher au monde pour la quatorzième année consécutive. De plus, le shadow IA alourdit la facture d'environ 670 000 dollars par incident (IBM). Pour le patient, il est le plus concret : dans une enquête 2026, 93 % exprimaient au moins une inquiétude sur l'IA en santé, et un sur deux disait faire moins confiance au système de soin — mais plus de 80 % changeraient d'avis si la responsabilité était clairement établie.
Un scénario résume le risque clinique : un médecin demande à une IA généraliste le traitement d'une infection urinaire compliquée. L'outil propose une fluoroquinolone, sans interroger une éventuelle grossesse. L'avis paraît juste, mais devient dangereux dans le contexte réel. Sécurité des soins, usage non vérifié, responsabilité : un seul échange, trois impacts.
Investissement ou fonctionnement ?
C'est la vraie question de marge de manœuvre. D'un côté, on contourne surtout par manque d'outil, et doter les équipes d'une IA clinique conforme suppose un budget. De l'autre, IBM montre que 97 % des organisations touchées par un incident d'IA n'avaient pas de contrôle d'accès adapté et 63 % pas de politique — or une politique, un inventaire, l'authentification unique relèvent de la discipline, pas de la dépense. Samsung, qui ne manquait pas de moyens, a fui faute d'hygiène.
Les deux lectures ne s'excluent pas, mais la première marge de manœuvre est gratuite. Six mesures à coût nul peuvent être envisagées, dans l'ordre :
- Cartographier les usages réels d'IA — DSI / RSSI
- Publier la liste de ce qui ne doit jamais être saisi : donnée patient, finances, RH, contrats, code — DPO et Direction générale
- Activer l'authentification unique sur les outils validés — DSI
- Fermer l'accès aux comptes personnels depuis les postes de travail — DSI
- Désigner un référent IA et un circuit d'exception — Direction générale
- Sensibiliser en quelques minutes lors des réunions de service — cadres de proximité
L'investissement vient ensuite, pour offrir l'alternative que la seule discipline ne crée pas.
Peut-on l'empêcher, et comment le prévenir ?
L'éradiquer ? Non : l'usage ressemble à une activité ordinaire, les canaux sont trop nombreux, les interdictions frontales se contournent. Le réduire et l'encadrer ? Oui. La cible réaliste n'est pas le zéro usage, mais l'usage gouverné. Aucun dispositif ne couvre le téléphone personnel dans le train de 6 h 40 — les heures de garde, déjà, étaient l'angle mort du premier Internet hospitalier. C'est là que la politique limpide et la culture partagée prennent le relais de la technique.
On s'appuie sur un cadre reconnu (NIST AI RMF, ISO/IEC 42001) et, en France, sur l'AI Act européen — dont le calendrier, remanié à l'été 2026 par le « Digital Omnibus », reporte les obligations « haut risque » à 2027-2028 pour l'IA des dispositifs médicaux. Puis vient une montée en maturité, dont l'ordre me paraît non négociable : découvrir, écrire une politique lisible, déployer les contrôles, former. Reste la question souvent éludée : qui porte cette gouvernance ? À l'hôpital, la réponse est collective — DSI et RSSI, DPO, direction médicale et CME, direction générale.
La santé est-elle un cas à part ?
Sur le mécanisme, non : la finance, le droit et l'industrie connaissent le même phénomène. Sur l'enjeu, oui : l'erreur s'y paie parfois sur une personne, de façon irréversible, et la responsabilité médicale ajoute un standard de soin sans équivalent. D'où une piste : emprunter aux secteurs plus avancés. La finance encadre depuis 2011 ses modèles avec la « gestion du risque modèle » de la Réserve fédérale — inventaire, validation indépendante, et le principe de ne jamais se fier aveuglément à la sortie d'un modèle. L'aviation, elle, a bâti sa sécurité sur une culture du signalement sans blâme. Deux approches transposables à l'hôpital, sans dépense majeure.
Au fond, le shadow IA renvoie chaque établissement à sa culture du numérique. J'ai vu l'hôpital apprivoiser Internet après coup ; il apprivoisera l'IA de la même manière, à ceci près que la donnée, cette fois, est au cœur de l'échange. Les outils changeront, les fournisseurs aussi. Ce qui restera, c'est la manière dont une organisation traite ses données au quotidien : ce qu'elle autorise, ce qu'elle explique, ce qu'elle vérifie. C'est sur ce terrain, plus que sur celui des budgets, que se jouera la maîtrise du phénomène.
Sources principales : Wolters Kluwer Health (2025), IBM Cost of a Data Breach Report (2025), Harmonic Security (2025), CHAI (2026), NIST AI RMF, AI Act européen.
Les données d'usage par métier reposent en partie sur une analyse raisonnée. Cet article a une visée informative et ne constitue pas un avis juridique.
Ce texte analyse le phénomène de l'IA fantôme (ou shadow AI) en milieu hospitalier, une pratique où les professionnels utilisent des outils d'intelligence artificielle non officiels pour pallier des manques techniques ou gagner du temps. L'auteur structure son propos en soulignant que cette utilité perçue ne garantit en rien la sécurité des soins ni la protection des données sensibles, qu'elles soient médicales ou institutionnelles. Face aux risques financiers et éthiques majeurs, l'article préconise une transition d'un usage clandestin vers un usage gouverné, privilégiant la formation et la transparence plutôt que l'interdiction stricte. En s'inspirant des protocoles de sécurité de l'aviation ou de la finance, l'objectif final est d'instaurer une véritable culture de la donnée pour encadrer la responsabilité médicale à l'ère numérique.
CHATGPT
Commentaire
Un exemple 
Bravo pour cet article qui arrive comme une réponse instantanée, un excellent mode d'emploi de l'IA dans les hôpitaux. Actuellement avec l'IA, chacune et chacun fait ce qu'il veut, ce qui est dangereux et potentiellement dangereux aussi pour les patients. Dans les pays anglo-saxons et en Asie, l'encadrement de l'IA dans les hôpitaux est plus efficace.
Vos recommandations sont 100 % pertinentes vis-à-vis de l'IA.
Mais, depuis que nous avons guillotiné un roi de France, les Français se croient tout permis. Le DROIT DE TRANSGRESSION en médecine est une réalité dans les hôpitaux, les cliniques et dans les cabinets médicaux.
Remarque préliminaire
"Quel sens donner à l’expression « faire de l’éthique » aujourd’hui en médecine, entre l’importance de respecter des règles qui ont été établies pour de bonnes raisons, et la pertinence, voire la nécessité de les transgresser au nom d’un même idéal, celui du soin ?
L’éthique médicale contemporaine s’est en majeure partie construite sur des principes, des codes et des lois. Ils encadrent et définissent ce qu’est une bonne pratique médicale. Faire de l’éthique consisterait ainsi à élaborer ces règles et y conformer les actes à celles-ci en vue du soin.
L’émergence des situations complexes contemporaines, qui sont des situations hors normes, constitue cependant un défi pour des règles établies qui ne semblent plus suffisantes pour satisfaire aux exigences morales du soin. Dans ces situations, faire de l’éthique pourrait aussi - et paradoxalement – consister à choisir de transgresser ces règles dans l’intérêt de la personne malade"
Quelques exemples de la transgression médicale quotidienne
- Prescrire de l'aspirine en prévention primaire est une transgression.
- Faire un écho-Doppler transcrânien en même temps qu'un écho Doppler des vaisseaux du cou, alors que cet examen n'est pas indiqué , c'est de la transgression.
- Suivre en scanner un anévrisme de l'aorte abdominale sous-rénale tous les 6 mois, avec un DAP de 40 mm, est une transgression (vu récemment)
- Ne pas mesurer l'index de pression à la cheville chez un artéritique est une transgression.
- - Utiliser en clinique des scores qui n'ont jamais eu de validation externe et se les approprier.
Ne pas dire au patient que j'utilise en consultation une IA est une faute grave , une transgression illégitime.
Les exemples sont très nombreux et journaliers dans la vraie vie, la transgression c'est au moins 20% de nos décisions, si ce n'est pas plus.
En médecine, la transgression est assez souvent compassionnelle mais elle doit être toujours éthique, elle doit être expliquée.
Vis-à-vis de l'usage de l'IA en médecine, une organisation éthique stricte est un passage obligé, de plus les médecins doivent suivre les règles et ne pas faire n'importe qupi avec l'IA.
En faisant des recherches sur ce sujet, j'ai découvert un mémoire de master II d'éthique en santé publique, Université de Normandie, "Quelle légitimité de la transgression pour une décision médicale éthique" par Mylène GOURIOT, sous la Direction du Pr Grégoire Moutel 2019/202 : https://dumas.ccsd.cnrs.fr/dumas-03521352/document in extenso. Un travail magnifique dont je reprendrai quelques idées et je vous conseille de le lire.
"Pour Anne-Marie BARANOWSKI, dans ce travail , la transgression « signifie en premier lieu outrepasser des interdits clairement spécifiés ou codifiés - obligations sociales, lois, valeurs éthiques - en second lieu enfreindre une norme faisant l’objet d’un consensus, mais se dispensant, le cas échéant, de définition »."
"D’une façon plus précise, ce thème n’existe pas à notre connaissance, dans le domaine de la formation des professionnels de santé. Comme le constate Olivier BABEAU concernant les manuels de gestion, les manuels de sciences humaines dédiés à la formation des étudiants en médecine n’en font pas mention. « Les traces de la dimension transgressive y sont
excessivement difficiles à déceler. C’est même une tâche vaine. »"
"S’interroger sur la transgression, c’est donc s’interroger sur les normes qui étreignent le domaine de la médecine et la pratique du soin, mais c’est surtout ouvrir une nouvelle perspective sur les limites sans cesse mouvantes qui les déterminent, un peu comme si nous décidions de regarder ces sujets d’un autre point de vue, de l’autre côté en réagençant une autre grille d’analyse"
Les normes de la DÉCISION MÉDICALE
Le « droit souple » présente l’intérêt de sa contradiction. Alors que le droit est généralement défini par son caractère obligatoire et contraignant, les normes souples donnent au contraire la prééminence à un droit simplement proposé, recommandé, conseillé. La prise en compte récente de l’existence et de l’émergence d’un tel droit conduit donc désormais à distinguer, parmi l’ensemble des règles de droit, celles qui sont impératives et correspondent au « droit dur » classique, de celles qui sont simplement indicatives et moins traditionnelles. Codes privés, chartes de bonne conduite, lignes directrices, recommandations, avis, communiqués… Le droit souple gagne du terrain, dans toutes ses branches et dans tous les ordres juridiques, externe comme interne. Ses auteurs, privés ou publics, se présentent donc aujourd’hui comme de nouvelles sources de droit. À la condition, toujours discutée, de se détacher des critères classiques d’obligatoriété et de sanction de la règle de droit, l’effectivité étonnante des règles de droit souple, pourtant dépourvues de tels caractères, incite à la réflexion.
Le DROIT SOUPLE c'est celui qui régit la médecine. Le principe de transgression fait partie intégrante de la DECISION MEDICALE, ce droit ,doit respecter le code de déontologie, le serment d'Hippocrate , il est intégré à notre exercice. Nous vivons aujourd'hui dans une société normative, avec une bureaucratisation qui étouffe souvent toute décision. La médecine est certes régie par des lois et décrets , mais la médecine, c'est un patient ,une ou un praticien lors de la consultation initiale. Les recommandations scientifiques, souvent lorsqu'elles sont publiées sont balayées par de nouvelles études non intégrées à la publication de la recommandation. Tout va très vite, on l'a vue avec la Covid-19 où les décisions empiriques transgressives ont été multiples.
Un exemple, prévenir une thrombose veineuse par un anticoagulant curatif en cas de Covid-19, n'est-ce pas une transgression ? Il ne faut pas culpabiliser si dans cerains cas on sort de la norme,et que l' on ne respecte pas les recommandations. Les souhaits, les préférences du patient sont aussi des motifs de transgression.
"La transgression est communément jugée comme telle par une évaluation de l’acte médical, de la réalisation de celui-ci. Cet acte est défini comme l'ensemble des activités humaines, techniques et scientifiques exercées par une personne qui réunit les conditions d'exercice de la médecine et ayant pour but la prévention, la guérison ou le soulagement des maladies et des infirmités qui atteignent les êtres humains. La référence à l’acte médical ainsi défini parait peu pertinente pour apprécier pleinement la légitimité éthique de la transgression. En effet, la finalité de l’acte pose un caractère restrictif qui nous mènerait d’une part à considérer la légitimité de l’acte uniquement a posteriori et qui plus est d’un point de vue « technique ». Or cette action est en réalité élaborée en amont, dans l’exercice d’un choix arbitré par le soignant. « Ce choix résulte de la rencontre entre la manifestation d’un besoin
et une offre de soin, entendue au sens large. "
La transgression ne doit pas devenir la règle, il faut toujours pouvoir la justifier , par exemple en se référant à une ou des études publiées récemment mais non intégrées aux recommandations et consensus du moment. La transgression, nous l'avons déjà souligné, doit être éthique, voire compensationnelle. Elle doit être annoncée et expliquée aux patients et donc il faut aussi solliciter son avis.
Normes de la décision médicale
"Paul RICOEUR apporte un éclairage précieux sur la prise de décision médicale, c’est-à-dire sur la formation du jugement dans le domaine médical, qu’il met en parallèle avec la décision judiciaire. Ainsi « ce qui est commun aux deux régimes de jugement, c’est de placer un cas particulier sous une règle et ce cas particulier est, dans les deux cas, une personne. »"
"Finalement, protéger activement la liberté de la décision médicale comme valeur supérieure aux normes de la standardisation, c’est admettre le réel parce qu’il faut reconnaître que le simple rapport aux normes ne permet pas de qualifier le sens éthique d’une décision. « C’est toujours un sujet singulier – le professionnel – qui doit agir, conscient d’un sens, d’un imaginaire à l’œuvre, d’une représentation sociale portant partiellement l’action tout en assumant le sens risqué qu’il déploie dans son propreagir ». La valeur éthique d’une décision ne peut être déterminée par la seule capacité
d’orientation dans le labyrinthe normatif"
Alors en médecine, TRANSGRESSER ou ne pas TRANSGRESSER , dans la VRAIE VIE ?
OUI, mais une TRANSGRESSION motivée par un contexte médical particulier, par des RECOMMANDATIONS non actualisées, par des PUBLICATIONS pas encore intégrées.
TRANSGRESSION justifiée sur le plan ÉTHIQUE, "l'éthique se positionne alors en parallèle des normes, une norme des normes" (Mylène Gouriot).
Quant à la DIGRESSION en médecine, à éviter comme la RÉGRESSION médicale.
L'utilisation de l'IA médicale doit être encadrée, les règles doivent être claires,bref comme cité par l'auteur, il faut un usage "gouverné"
À LIRE
PRINCIPE DE TRANSGRESSION
https://medvasc.info/archives-blog/principe-de-transgression
DOSSIER AI 2027
https://medvasc.info/archives-blog/ia-perte-de-contr%C3%B4le2027