IMPRIMER

L’Organisation mondiale de la Santé (OMS) publie de nouvelles lignes directrices sur l’éthique et la gouvernance des grands modèles multimodaux (LMM), un type de technologie d’intelligence artificielle (IA) générative à croissance rapide qui s’applique à l’ensemble des soins de santé.

Les lignes directrices énoncent plus de 40 recommandations à l’intention des gouvernements, des entreprises technologiques et des fournisseurs de soins de santé afin d’assurer l’utilisation appropriée des MMT pour promouvoir et protéger la santé des populations.

Les LMM peuvent accepter un ou plusieurs types d’entrées de données, telles que du texte, des vidéos et des images, et générer des sorties diverses qui ne se limitent pas au type de données saisies. Les LMM sont uniques dans leur imitation de la communication humaine et leur capacité à effectuer des tâches pour lesquelles ils n’ont pas été explicitement programmés. Les LMM ont été adoptés plus rapidement que n’importe quelle application grand public dans l’histoire, plusieurs plateformes – telles que ChatGPT, Bard et Bert – entrant dans la conscience du public en 2023.

« Les technologies d’IA générative ont le potentiel d’améliorer les soins de santé, mais seulement si ceux qui développent, réglementent et utilisent ces technologies identifient et prennent pleinement en compte les risques associés », a déclaré le Dr Jeremy Farrar, scientifique en chef de l’OMS. « Nous avons besoin d’informations et de politiques transparentes pour gérer la conception, le développement et l’utilisation des LMM afin d’obtenir de meilleurs résultats en matière de santé et de surmonter les inégalités persistantes en matière de santé. »

Avantages et risques potentiels

Les nouvelles lignes directrices de l’OMS décrivent cinq grandes applications des LMM pour la santé :

· Diagnostic et soins cliniques, comme répondre aux questions écrites des patients ;

· Utilisation guidée par le patient, par exemple pour l’examen des symptômes et le traitement ;

· Tâches de bureau et administratives, telles que documenter et résumer les visites des patients dans les dossiers de santé électroniques ;

·la formation médicale et infirmière, y compris la mise à disposition de stagiaires avec des rencontres simulées avec des patients ;

· La recherche scientifique et le développement de médicaments, y compris pour identifier de nouveaux composés.

Bien que les LMM commencent à être utilisés à des fins spécifiques liées à la santé, il existe également des risques documentés de produire des déclarations fausses, inexactes, biaisées ou incomplètes, ce qui pourrait nuire aux personnes qui utilisent ces informations pour prendre des décisions en matière de santé. De plus, les LMM peuvent être formés sur la base de données de mauvaise qualité ou biaisées, que ce soit en fonction de la race, de l’origine ethnique, de l’ascendance, du sexe, de l’identité de genre ou de l’âge.

Les lignes directrices détaillent également les risques plus larges pour les systèmes de santé, tels que l’accessibilité et l’abordabilité des LMM les plus performants. Les LMMS peuvent également encourager le « biais d’automatisation » de la part des professionnels de la santé et des patients, qui négligent des erreurs qui auraient autrement été identifiées ou des choix difficiles sont indûment délégués à un LMM. Les LMM, comme d’autres formes d’IA, sont également vulnérables aux risques de cybersécurité qui pourraient mettre en danger les informations des patients ou la fiabilité de ces algorithmes et de la prestation de soins de santé en général.

Pour créer des MMT sûres et efficaces, l’OMS souligne la nécessité d’impliquer les différentes parties prenantes : gouvernements, entreprises technologiques, prestataires de soins de santé, patients et société civile, à tous les stades de développement et de déploiement de ces technologies, y compris leur surveillance et leur réglementation.

« Les gouvernements de tous les pays doivent coopérer pour réglementer efficacement le développement et l’utilisation des technologies d’IA, telles que les LMM », a déclaré le Dr Alain Labrique, Directeur de l’OMS pour la santé numérique et l’innovation à la Division des sciences.

Principales recommandations

Les nouvelles lignes directrices de l’OMS comprennent des recommandations à l’intention des gouvernements, qui ont la responsabilité première d’établir des normes pour l’élaboration et le déploiement des LMM, ainsi que pour leur intégration et leur utilisation à des fins de santé publique et médicales. Par exemple, les gouvernements devraient :

· Investir ou fournir une infrastructure publique ou à but non lucratif, y compris la puissance de calcul et les ensembles de données publics, accessible aux développeurs des secteurs public, privé et sans but lucratif, qui exige des utilisateurs qu’ils adhèrent à des principes et à des valeurs éthiques en échange de l’accès.

· Utiliser les lois, les politiques et les règlements pour s’assurer que les LMM et les applications utilisées dans les soins de santé et la médecine, quels que soient les risques ou les avantages associés à la technologie de l’IA, respectent les obligations éthiques et les normes en matière de droits de la personne qui affectent, par exemple, la dignité, l’autonomie ou la vie privée d’une personne.

· Confiez à un organisme de réglementation existant ou nouveau le soin d’évaluer et d’approuver les MMT et les demandes destinées à être utilisées dans le domaine des soins de santé ou de la médecine, dans la mesure où les ressources le permettent.

· Mettre en place des audits post-publication et des évaluations d’impact obligatoires, y compris pour la protection des données et les droits de l’homme, par des tiers indépendants lorsqu’un LMM est déployé à grande échelle. L’audit et les analyses d’impact devraient être publiés et inclure des résultats et des impacts ventilés par type d’utilisateur, y compris, par exemple, en fonction de l’âge, de la race ou du handicap.

Les lignes directrices comprennent également les recommandations clés suivantes à l’intention des concepteurs de LMM, qui devraient s’assurer que :

· Les LMM ne sont pas seulement conçus par des scientifiques et des ingénieurs. Les utilisateurs potentiels et toutes les parties prenantes directes et indirectes, y compris les prestataires de soins médicaux, les chercheurs scientifiques, les professionnels de la santé et les patients, devraient être impliqués dès les premières étapes du développement de l’IA dans une conception structurée, inclusive et transparente et avoir la possibilité de soulever des questions éthiques, d’exprimer leurs préoccupations et de fournir des commentaires pour l’application d’IA à l’étude.

· Les LMM sont conçus pour effectuer des tâches bien définies avec la précision et la fiabilité nécessaires pour améliorer la capacité des systèmes de santé et promouvoir les intérêts des patients. Les développeurs doivent également être en mesure de prédire et de comprendre les résultats secondaires potentiels.

Suivez nous: