Les préoccupations majeures des législateurs concernant l'IA en santé: découvrez les enjeux clés

Lors de l’audience du Mercredi, un témoin, le Dr. Christopher Longhurst de UC San Diego Health, a rappelé l’utilisation d’un nouvel algorithme pour détecter le COVID-19 au début de la pandémie.

L’algorithme a indiqué des signes de pneumonie précoce chez une femme avec des symptômes cardiaques, ce qui a entraîné un test pour le COVID-19. Le résultat s’est avéré positif, mais la patiente a pu être diagnostiquée tôt et est rentrée chez elle en toute sécurité.

D’autres témoins ont décrit comment l’IA est utilisée pour améliorer la prise de décision clinique, personnaliser les traitements et réduire la charge administrative, mais les membres du Congrès, nombreux étant eux-mêmes des cliniciens, ont exprimé des doutes persistants.

Larry Bucshon, MD (R-Ind.), ancien chirurgien cardiothoracique, a déclaré que ses enfants adultes ne peuvent pas se déplacer sans utiliser Google Maps.

Craignant que les professionnels de la santé ne deviennent trop dépendants de l’IA, il a demandé si les écoles de médecine doivent éduquer les étudiants sur les avantages et les inconvénients de l’IA en santé.

Le Dr. Benjamin Nguyen, directeur de produit chez Transcarent, a reconnu son propre besoin de Google Maps mais a insisté sur l’importance pour les institutions académiques de se concentrer sur l’art et la science de la médecine.

Le Dr. Longhurst a quant à lui souligné que l’IA peut améliorer l’apprentissage en permettant aux étudiants de se concentrer sur les concepts les plus importants. Rep. Diana Harshbarger, PharmD (R-Tenn.), a posé des questions sur l’intersection entre l’IA et la responsabilité médicale.

Le Dr. Longhurst a noté que la responsabilité pour le traitement d’un patient incombe finalement au médecin qui le traite et que l’IA est simplement un outil de plus, comme les outils de prise de décision clinique utilisés depuis des années.

Interrogé si les médecins pourraient être poursuivis s’ils n’utilisent pas l’IA, le Dr. Longhurst a fait écho aux propos d’un autre témoin, le Dr. David Newman-Toker de la Johns Hopkins University School of Medicine, en disant que si l’IA démontre être efficace pour réduire la mortalité et augmenter la survie, elle deviendra alors une pratique exemplaire pour chaque cas.

Rep. Kim Schrier, MD (D-Wash.), a demandé comment empêcher les médecins de « devenir un simple pion dans un système où l’IA prend les décisions de gestion des patients » et impacte leur expertise. Le Dr. Longhurst a déclaré être optimiste quant au potentiel de l’IA pour diminuer l’épuisement professionnel, en citant des résultats prometteurs de projets pilotes utilisant des assistants IA.

Rep. Robin Kelly (D-Ill.) a évoqué les problèmes de biais dans les algorithmes IA ayant conduit à des refus de remboursement de soins médicalement nécessaires. Le Dr. Newman-Toker a expliqué que ces problèmes sont liés à la lutte entre les assureurs pour augmenter les profits et les fournisseurs pour être rémunérés correctement.

Les données vitales destinées aux patients constituent un espace non réglementé et potentiellement dangereux. La création de jeux de données de qualité pourrait y remédier.

Le Dr. Newman-Toker a insisté sur la nécessité de former les IA à partir de sources de données appropriées et de les tester correctement.

Rep. Ann McLane Kuster (D-N.H.) a partagé les préoccupations du Dr. Newman-Toker quant aux biais dans les IA et a demandé quelles solutions étaient nécessaires.

Le Dr. Newman-Toker a expliqué qu’il était essentiel d’avoir des jeux de données de qualité supérieure, mais pour cela, il faut savoir surtout ce qui se passe après la mise en place d’un diagnostic médical et il peut également être nécessaire de coordonner les architectures de données pour obtenir une formation d’IA étendue.