Gestion des risques de l’IA en santé : les biais cliniques de GPT-4

Vingt-huit groupes de soins de santé, dont CVS Health, Duke Health, Houston Methodist et Mass General Brigham, ont signé le plan du Président Joe Biden pour gérer les risques de l’intelligence artificielle (IA) dans le domaine de la santé, a annoncé la Maison Blanche.

Dans le même temps, le Département de la santé et des services sociaux (HHS) a publié sa règle finale sur les programmes de certification mis à jour et les exigences pour les entreprises qui développent des outils alimentés par l’IA.

Le New England Journal of Medicine a lancé son tout nouveau journal mensuel évalué par les pairs, NEJM AI, axé sur la recherche clinique et l’application de l’IA.

Plus d’un an après que ChatGPT ait changé la conversation autour de l’IA générative, la technologie a trouvé des applications dans la recherche clinique, notamment l’amélioration de la gestion des données, la surveillance des participants aux essais cliniques et l’analyse des résultats des études.

Par exemple, des adultes atteints de diabète de type 2 qui commençaient ou ajustaient un traitement à l’insuline ont vu des améliorations significatives dans le temps nécessaire pour atteindre une posologie optimale et l’observance globale en utilisant une application basée sur l’IA conversationnelle vocale, selon un essai clinique portant sur 32 adultes publié dans JAMA Network Open.

De plus, les coloscopies assistées par IA ont considérablement amélioré la détection de néoplasie colorectale et réduit les taux d’omission de polypes adénomateux jusqu’à 50%, selon une méta-analyse de 33 essais cliniques publiée dans The Lancet.

D’un autre côté, des chercheurs de l’Hôpital Brigham and Women de Boston ont découvert que le GPT-4 de OpenAI n’a pas réussi à modéliser de manière appropriée la diversité démographique pour les conditions médicales, révélant une tendance vers des préjugés raciaux et de genre lors du soutien à la prise de décision clinique, selon une étude publiée dans The Lancet Digital Health.

Malgré un optimisme prudent parmi les cliniciens quant à son avenir, la plupart des patients (80%) ont déclaré être préoccupés si leur médecin utilisait l’IA générative pour les soins aux patients, selon une enquête menée par Wolters Kluwer Health.

Cependant, 86% des personnes interrogées ont déclaré qu’elles seraient plus à l’aise si elles savaient que des professionnels de la santé ont participé au développement du matériel source pour le modèle d’IA.

Du côté des affaires, Google Cloud a annoncé un nouveau partenariat avec Augmedix, une entreprise de technologie médicale, qui lui permettra de commencer à intégrer Med-PaLM 2, le modèle d’IA le plus puissant et le plus adapté à la médecine de Google, dans ses produits de documentation médicale ambiante, selon un communiqué de presse de l’entreprise.

Pendant ce temps, une autre entreprise de technologie médicale, Forward, essaie de mettre la puissance de l’IA directement à la disposition des patients en utilisant une clinique en libre-service appelée CarePod qui permet aux patients d’accéder à des services de soins préventifs tels que des scanners corporels biométriques ou des tests pour l’hypertension et les problèmes cardiaques.