"L'IA générative est la clé pour résoudre certains des plus grands problèmes mondiaux, tels que le changement climatique, la pauvreté et les maladies. Elle a le potentiel de rendre le monde meilleur pour tous." Sam Altman

"Ce que nous devons tous faire, c'est nous assurer que nous utilisons l'IA d'une manière qui profite à l'humanité, et non au détriment de l'humanité." Tim Cook

JACC Journals › JACC: Advances › Archives › Vol. 4 nᵒ 3, février 2025

Adopter l'intelligence artificielle générative dans la recherche clinique et au-delà : opportunités, défis et solutions

Henry P. Foote , Chuan Hong , Mohd Anwar , Maria Borentain , Kevin Bugin , Nancy Dreyer , Josh Fessel et Christopher J. Lindsell, Nitender Goyal, Morgan Hanger, Adrian F. Hernandez, Christoph P. HornikJennifer G. Jackman, Alistair C. Lindsay, Michael E. Matheny, Kerem Ozer, Jan Seidel, Norman Stockbridge, Peter J. Embi
https://www.jacc.org/doi/10.1016/j.jacadv.2025.101593
Article en accès libre.

Afin d'explorer les menaces et les opportunités, et de tracer la voie à suivre pour gérer en toute sécurité les rapides changements que l'intelligence artificielle (IA) générative apportera à la recherche clinique, le Duke Clinical Research Institute a réuni un groupe de réflexion multidisciplinaire en janvier 2024.

D'éminents experts issus du monde universitaire, de l'industrie, d'organismes à but non lucratif et d'agences gouvernementales ont souligné les opportunités potentielles de l'IA générative pour automatiser la documentation, le renforcement de l'engagement des participants et de la communauté, et l'amélioration de la précision et de l'efficacité des essais.

Les défis incluent les obstacles techniques, les dilemmes éthiques et les incertitudes réglementaires. La réussite devrait nécessiter la mise en place de protocoles rigoureux de gestion et de sécurité des données. renforcer l'intégrité et de la confiance entre les parties prenantes, et le partage d'informations sur la sécurité et l'efficacité des applications d'IA. Les conclusions de cette réunion laissent entrevoir un avenir où, grâce à la collaboration et à la transparence, l'IA générative contribuera à raccourcir le processus translationnel et à accroître l'inclusivité et l'équité de la recherche clinique.

PoLes points forts de l'intelligence artificielle générative sont significatifs.

• L’intelligence artificielle générative va bouleverser les paradigmes de recherche clinique existants.

• Le potentiel de transformation de l'intelligence artificielle présente des défis, et la collaboration est essentielle pour les progrès futurs.

• Des lignes directrices réglementaires, un suivi continu, une évaluation, une transparence, un partage des connaissances et une inclusion devraient être établis.

Dans le domaine en pleine évolution de l'intelligence artificielle (IA), l'IA générative s'est imposée comme une innovation disruptive. Sa capacité unique à générer de nouvelles données, du contenu visuel aux structures moléculaires complexes, témoigne d'une avancée majeure à la fois dans le potentiel créatif de l'IA, et dans sa capacité à relever des défis complexes jusque-là considérés comme inaccessibles.

Des progrès révolutionnaires ont été réalisés grâce à l'IA dans des domaines cruciaux tels que la découverte de médicaments, le diagnostic des patients et la personnalisation des stratégies thérapeutiques, ouvrant la voie à une nouvelle ère de médecine personnalisée.

L'intégration réussie de l'IA générative dans la recherche clinique marquera une avancée majeure, redéfinissant les processus traditionnels.

Le paysage actuel de l'IA générative en recherche clinique se caractérise par une expansion rapide des efforts visant à éliminer les redondances administratives et procédurales. Les avancées sont de plus en plus reconnues par des organismes tels que la Food and Drug Administration et les National Institutes of Health, qui élaborent des lignes directrices sur l'utilisation de l'IA générative dans diverses pratiques de recherche clinique.

Si l'innovation a le potentiel de réduire considérablement le temps et le coût global du développement thérapeutique, les avancées ne sont pas sans risques, et elles doivent s'accompagner d'une atténuation rigoureuse des préjudices individuels et sociétaux potentiels, notamment les résultats trompeurs, la propagation de biais et la violation de la vie privée

DaDans ce contexte, un groupe de réflexion du Duke Clinical Research Institute a été convoqué pour explorer les vastes implications de l'IA générative en recherche clinique.Sur la base des observations qui en ont résulté, des thèmes clés et des mesures concrètes pour l'adoption de l'IA générative en recherche clinique sont présentés, s'efforçant d'exploiter ses avantages tout en améliorant les défis associés.

Méthodes

L'atelier de réflexion de deux jours, organisé en janvier 2024, a réuni des experts des secteurs universitaire, gouvernemental et industriel afin d'identifier les lacunes critiques et d'élaborer des solutions innovantes pour enrichir la recherche clinique grâce à l'IA générative. Les participants ont participé à huit heures de discussions modérées et à quatre heures de discussions informelles sur des sujets tels que l'automatisation des processus de recherche clinique à l'aide d'outils d'IA, l'interaction directe des participants et des communautés avec l'IA, et l'exploitation de l'IA pour les mesures et l'analyse ( Figure 1 ). Chaque session modérée a débuté par des remarques préparées par trois à ^cinq experts, suivies de discussions approfondies pour un échange complet d'idées et d'expériences. L'atelier a été enregistré et résumé dans un compte rendu de réunion. Le présent manuscrit a été conceptualisé, rédigé et révisé sur la base des connaissances acquises lors de l'atelier, et des versions préliminaires ont été diffusées parmi les participants pour permettre une discussion et une synthèse continue.

**Figure 1 Résumé de la séance et des sujets de l'atelier**

Les sessions s'articulaient autour de plusieurs points de discussion : efficacité, engagement, nouveaux critères d'évaluation et impacts globaux. Notre objectif était de parvenir à un consensus parmi les divers participants sur la portée de l'intelligence artificielle générative, les enjeux pratiques et éthiques, la validation requise et le cadre réglementaire de chaque session. IA = intelligence artificielle

Résultats et discussion

Les conversations ont mis en évidence les points suivants :

1) les capacités et l’impact potentiel de l’IA générative
2) les défis et les considérations éthiques liés à l’adoption de l’IA générative
3) les progrès réalisés en matière de lignes directrices et de garanties
4) la nécessité de garantir la confiance et la transparence
5) les éléments exploitables pour l’adoption de l’IA générative dans la recherche clinique

**Illustration centrale Capacités, impact et voies stratégiques de l'intelligence artificielle générative dans la recherche clinique**

L'intelligence artificielle générative facilitera les changements progressifs et transformateurs. La collaboration et le partage des connaissances seront essentiels pour relever les défis et prendre en compte les considérations éthiques inhérentes à son déploiement. IA = intelligence artificielle.

EXTRAITS.....

Capacités et impact potentiel de l'IA générative en recherche clinique.

Actuellement, les essais cliniques souffrent d’une charge administrative importante, de problèmes de recrutement et de rétention des participants, d’une saisie de données fastidieuse et d’une représentation inadéquate limitant la généralisabilité des essais, entre autres défis. Pour relever ces défis, de nombreuses améliorations progressives des processus, ainsi que des changements plus transformateurs pour redéfinir le paysage de la recherche clinique, ont été identifiés lors de l’atelier.

Impacts potentiels de l'IA générative sur les processus de recherche clinique

Alors que l'IA non générative peut intégrer des données cliniques complexes pour prédire les résultats des patients ou leur potentiel à bénéficier d'une thérapie spécifique, l'IA générative étend cette capacité en utilisant les données cliniques pour créer du nouveau contenu, notamment du texte et des images.

L'IA générative peut être exploitée pour créer des ensembles de données synthétiques pour des simulations qui améliorent encore les performances de prédiction. L'IA générative peut faciliter la recherche en produisant rapidement des versions initiales de protocoles d'essai et en générant des documents de consentement éclairé.^{Ces avancées constituent des améliorations progressives en créant des gains d'efficacité administrative, ce qui se}^traduira par un développement plus rapide des essais, des opérations plus rationalisées et une réduction des coûts qui, ensemble, pourraient raccourcir considérablement le calendrier global de développement des médicaments.

Au-delà de ces améliorations progressives, l'IA générative offre une opportunité de changement transformateur. Les technologies basées sur l'IA peuvent être utilisées pour repenser la conception des essais cliniques en simulant des trajectoires cliniques potentielles et en optimisant les protocoles. L'IA générative peut révolutionner le processus de consentement et perturber les méthodes actuelles de collecte et d'analyse des données en engageant et en communiquant directement avec les individus et les communautés. Un engagement bidirectionnel fréquent avec les participants à la recherche tout au long du processus d'essai clinique peut également créer des opportunités pour établir de nouveaux critères d'évaluation. Celles-ci peuvent être incluses à partir de données aussi variées que celles issues de l'imagerie, des objets connectés et des interactions des participants avec une application. De telles stratégies pourraient permettre une identification plus précoce de l'apparition ou de la progression de la maladie, facilitant ainsi des études et un développement thérapeutique plus rapides. De plus, l'IA a le potentiel d'offrir de nouvelles voies pour la collecte et la synthèse des données tout en préservant l'intégrité de la recherche et les normes de reproductibilité. Cela pourrait se faire en garantissant la qualité, la confidentialité, la découvrabilité et la sécurité des données. Ces efforts pourraient être associés à la capacité de l’IA générative à identifier et à corriger les biais dans les données et les pratiques de recherche afin d’améliorer l’exactitude et la profondeur des résultats de recherche tout en renforçant l’équité et l’intégrité éthique.

Dans l’ensemble, l’IA générative a le potentiel de propulser la recherche clinique dans une nouvelle ère d’efficacité, de précision et de découverte.

Les défis et considérations éthiques liés à l'IA générative sont importants pour son adoption réussie.

L'IA générative est rapidement adoptée. ChatGPT, très répandu, comptait plus de 180 millions d'utilisateurs actifs au moment de la création du groupe de réflexion, et un tiers des adultes américains âgés de 18 à 64 ans l'utilisent désormais chaque semaine. L'IA générative est couramment utilisée pour des applications telles que la génération de documents. À mesure que ces technologies gagnent en maturité, son utilisation devrait augmenter considérablement, devenant plus répandue en milieu clinique et plus familière aux participants à la recherche. Le rythme d'adoption souligne l'urgence d'une intégration organisée, éclairée et stratégique des outils basés sur l'IA dans la recherche clinique. Avant que les technologies ne soient pleinement intégrées, il convient d'évaluer systématiquement l'ensemble des avantages et des inconvénients de l'IA générative dans le domaine de la recherche clinique. Sans partage des expériences, positives comme négatives, le domaine court le risque de créer des pratiques aléatoires sans les améliorer véritablement. La rapidité de mise en œuvre doit être soigneusement équilibrée avec les exigences de rigueur, de sécurité et de prudence.

Pour exploiter pleinement le potentiel de l’IA générative grâce à une adoption sûre et efficace, il faut tenir compte des risques uniques de l’IA générative : génération de résultats trompeurs ou erronés (hallucinations), partage inapproprié d’informations de santé protégées, engagement coercitif, perpétuation de biais, limitations d’interprétabilité, généralisation large inexacte à partir de données de formation limitées et dépendance excessive de l’homme aux modèles. Les risques doivent être suffisamment atténués pour que les bases de l’utilisation de l’IA générative dans la recherche clinique soient fiables conformément aux considérations éthiques, techniques et réglementaires.

Le vaste potentiel de l'IA générative pour interagir avec les participants à la recherche doit être mis en balance avec l'impératif de préserver l'autonomie des participants et de maximiser la généralisabilité des résultats. Les chatbots qui permettent une communication personnalisée augmentent l'engagement, mais le risque est que la communication devienne coercitive ou manipulatrice. Cela pourrait réduire le caractère volontaire du consentement et introduire des biais dans les réponses des participants.

La capacité de l'IA générative à recréer ses données d'entraînement, révélant potentiellement des informations individuelles sur les patients, crée des risques de confidentialité. De plus, des limites acceptables concernant les données utilisables doivent être déterminées. L'IA générative peut s'entraîner sur de grandes quantités d'entrées, y compris l'intégralité de l'empreinte numérique des participants, comme les habitudes sur les réseaux sociaux, ce qui pourrait aider à prédire l'état de santé mentale ou le risque cardiovasculaire. Cependant, la mesure dans laquelle ces données peuvent être utilisées pour la prédiction de maladies ou les résultats des essais doit faire l'objet d'un accord entre toutes les parties prenantes.

Au-delà des préoccupations liées à l'utilisation acceptable des données, une attention particulière portée aux données d'entraînement est essentielle pour éviter la perpétuation des biais. Par exemple, le modèle génératif pré-entraîné de transformateur, couramment utilisé, propage des stéréotypes raciaux et de genre dans les cas d'utilisation clinique, ce qui a notamment entraîné une surestimation de la prévalence du VIH chez les patients noirs et la priorisation d'un diagnostic de trouble panique chez les femmes, mais pas chez les hommes, présentant un essoufflement. L'exactitude diagnostique est compromise, même lorsque les modèles révèlent leurs biais. S'ils ne sont pas corrigés, ces biais auraient des conséquences délétères sur l'ensemble du spectre de la recherche clinique, notamment sur la manière dont l'IA générative interagit avec les participants, dont elle est utilisée pour interroger les données existantes et dont elle est utilisée pour générer de nouvelles données. Plus grave encore, les biais dans le processus de recherche clinique engendreraient systématiquement des inégalités dans les soins de santé pour les générations à venir et devraient être évités à tout prix.

D'un point de vue technique, l'IA générative devrait atteindre une précision et une pertinence acceptables au fil du temps. Cependant, elle présente des limites, comme la production de résultats incorrects ou trompeurs (hallucinations), et ses performances peuvent se dégrader, en particulier si elle est entraînée sur des données biaisées ou obsolètes. Les performances dynamiques de l'IA générative nécessiteront une surveillance continue tout au long de son cycle d'utilisation. Une surveillance rigoureuse nécessitera une supervision humaine et pourrait exiger le développement d'outils d'IA supplémentaires pour faciliter l'évaluation des performances des modèles. De plus, de nouvelles mesures d'évaluation et d'analyse comparative des modèles sont nécessaires, notamment compte tenu de la nature non déterministe des résultats de l'IA générative. La transparence dans le développement des modèles et les données utilisées pour l'entraînement est cruciale. Des systèmes sécurisés de partage de données sont essentiels pour comprendre les limites des modèles et garantir la diversité de leur contenu patients lors de leur développement. De plus, si les données synthétiques créées par l'IA générative peuvent aider à simuler les changements attendus dans les données démographiques, elles doivent être utilisées avec prudence afin d'éviter toute fuite involontaire d'informations personnelles de santé.
.................................................

Conclusions

L'La transformation de la recherche clinique sera assurée par l'IA générative.vant qu'elle ne s'enracine, il est essentiel d'établir des lignes directrices et des garde-fous réglementaires, ainsi qu'une culture de suivi continu, d'évaluation, de transparence, de partage des connaissances et d'inclusion. Ces efforts seront essentiels pour garantir que l'IA générative fasse progresser la recherche clinique de manière responsable et équitable.

RESUME GENERATIF

Ce document explore les opportunités et les défis de l'intégration de l'intelligence artificielle générative dans la recherche clinique.

Opportunités et défis de l'IA générative

* L'IA générative offre des opportunités significatives pour transformer la recherche clinique tout en posant des défis éthiques et techniques.

* L'IA générative peut automatiser la documentation, améliorer l'engagement des participants et augmenter l'efficacité des essais cliniques.

* Les défis incluent des obstacles techniques, des dilemmes éthiques et des incertitudes réglementaires.

* La collaboration et la transparence sont essentielles pour naviguer dans ces défis et maximiser les avantages de l'IA.

Impact potentiel de l'IA générative

L'IA générative pourrait révolutionner la conception des essais cliniques et améliorer la précision des résultats.

* Elle peut générer des ensembles de données synthétiques pour des simulations, améliorant ainsi les performances prédictives.

* L'IA peut faciliter la création de documents de consentement éclairé personnalisés et engager directement les participants.

* Des changements transformateurs dans la conception des essais cliniques sont possibles grâce à des scénarios simulés et des protocoles optimisés.

Considérations éthiques et techniques

L'adoption rapide de l'IA générative soulève des préoccupations éthiques et techniques qui doivent être abordées.

* Les risques incluent la génération de résultats trompeurs, la perte de confidentialité et la propagation de biais.

* La nécessité d'une surveillance continue et d'une évaluation rigoureuse des performances des modèles est cruciale.

* Des lignes directrices réglementaires doivent être établies pour garantir une utilisation éthique et sécurisée de l'IA.

Progrès dans les Lignes directrices et les Safeguard

Des efforts sont en cours pour établir des lignes directrices et des garde-fous pour l'utilisation de l'IA dans la recherche clinique.

* Un ordre exécutif de 2023 a souligné l'importance de l'encadrement dans le développement de l'IA.

* La FDA a encouragé la collaboration entre les parties prenantes pour soutenir l'innovation et l'évaluation continue des performances de l'IA.

* Des lignes directrices internationales ont été développées pour améliorer la transparence et l'évaluation des méthodes.

Renforcement de la confiance et de la transparence

La confiance est essentielle pour intégrer l'IA dans la recherche clinique, nécessitant des pratiques transparentes et responsables.

* Un cadre en trois couches pour l'audit et l'évaluation des modèles est proposé pour maintenir la confiance des parties prenantes.

* La gestion des données doit garantir la qualité, la sécurité et la confidentialité tout en respectant les droits des participants.

* L'établissement de normes éthiques et de garde-fous est crucial pour protéger la dignité humaine et les droits.

Actions recommandées pour l'intégration de l'IA

Une stratégie intentionnelle est nécessaire pour optimiser l'intégration de l'IA dans la recherche clinique.

* La cartographie des processus de recherche clinique peut identifier les goulets d'étranglement et les opportunités d'amélioration.

* L'engagement dynamique des participants via des chatbots peut améliorer l'engagement dans les communautés mal desservies.

La création de plateformes en accès libre pour partager des ensembles de données et des algorithmes d'IA peut favoriser la collaboration et l'innovation.

Conflits d'intérêts des auteurs

Le texte présente les conflits d'intérêts des auteurs impliqués dans la recherche.

Dr Matheny a siégé à un conseil consultatif pour The Emmes Corporation, LLC et a reçu des honoraires de consultation de PCORI.

Dr Ozer détient des actions chez Novo Nordisk et est employé par cette entreprise.

Dr Lindsell a reçu des subventions de plusieurs institutions, y compris les NIH et le CDC, et a des options d'actions avec Bioscape Digital.

CJL est rédacteur en chef du Journal of Clinical and Translational Science.

Les autres auteurs (CH, JJ, KB, MA, NS, PJE) n'ont déclaré aucun conflit d'intérêts.

Le premier brouillon du manuscrit a été rédigé indépendamment des sponsors, avec des commentaires d'industriels sur les versions ultérieures.

Références et publications

Le texte cite plusieurs références pertinentes sur l'intelligence artificielle et son utilisation dans la recherche médicale.

* Les références incluent des articles sur l'IA générative, la conception moléculaire, et l'impact de l'IA sur les essais cliniques.

* Des études sur l'utilisation de l'IA pour améliorer l'engagement des participants et l'éthique dans la recherche sont également mentionnées.

* Les publications abordent des sujets tels que les défis éthiques, la réglementation de l'IA, et l'importance de l'audit des modèles de langage.

Applications de l'IA dans la recherche clinique

Le texte discute des applications de l'intelligence artificielle dans le domaine de la recherche clinique.

* L'IA est utilisée pour améliorer le recrutement dans les essais cliniques et pour l'évaluation des critères d'éligibilité.

* Des systèmes d'IA ont été développés pour automatiser le processus de correspondance des patients aux essais cliniques.

* L'IA contribue à la détection précoce de maladies et à l'amélioration de la qualité des soins.

Défis et considérations éthiques

Le texte souligne les défis et les considérations éthiques liés à l'utilisation de l'IA en médecine.

* Les préoccupations incluent les biais raciaux et de genre dans les décisions médicales prises par des modèles d'IA.

* L'importance de la transparence et de la responsabilité dans le développement de l'IA est mise en avant.

* Des recommandations sont faites pour garantir que l'IA soit utilisée de manière éthique et équitable dans la recherche et la pratique clinique.

SYNTHÈSE par NotebooKLM
L'article de Foote et al. (2025), issu d'un groupe de réflexion multidisciplinaire du Duke Clinical Research Institute, examine les implications de l'intelligence artificielle générative dans le domaine de la recherche clinique. Il explore les opportunités offertes par cette technologie, telles que l'automatisation de la documentation et l'amélioration de l'efficacité des essais, tout en discutant des défis majeurs, notamment les risques éthiques, les biais potentiels, et les incertitudes réglementaires. Le document souligne la nécessité d'établir des lignes directrices réglementaires claires, de renforcer la transparence et la confiance des parties prenantes, et de promouvoir une collaboration continue. Ces mesures permettront de garantir une adoption sûre et équitable de l'IA générative afin de transformer les paradigmes de la recherche clinique.

Commentaire
Comme cité dans la synthèse, ce document souligne la nécessité d'établir des lignes directrices réglementaires claires, de renforcer la transparence et la confiance des parties prenantes, et de promouvoir une collaboration continue. Ces mesures permettront de garantir une adoption fiable et équitable de l'IA générative afin de transformer les paradigmes de la recherche clinique. Ce qui est noté c'est la base de la coopération entre la médecine et l'IA. L'IA outils qui va devenir indispensable à la médecine.