L’OMS lance un guide éthique pour l’utilisation sûre des modèles de langage dans le domaine de la santé – La Verdad

États-Unis, 18 janvier 2024.- L'Organisation mondiale de la santé (OMS) a présenté aujourd'hui un guide éthique qui fournit des conseils pour une utilisation sûre des grands modèles linguistiques (LMM), un type d'intelligence artificielle (IA) générative, dans le domaine de la santé. Ces LMM, comme l'outil Chat-GPT, ont la capacité de générer des textes et des contenus prédictifs à partir d'un traitement massif de données et sont de plus en plus utilisés dans les environnements médicaux.

L'OMS souligne que, même si ces modèles commencent à être utilisés à des fins de santé spécifiques, certains n'ont pas encore été testés, ce qui nécessite d'établir des normes pour leur intégration et leur utilisation dans le secteur de la santé. Les lignes directrices mettent en évidence les risques potentiels, tels que le « biais d’automatisation », qui pourraient entraîner des déclarations fausses, inexactes ou biaisées, affectant les décisions de santé fondées sur ces informations.

Par ailleurs, l’OMS souligne la vulnérabilité des LMM aux risques de cybersécurité, qui pourraient compromettre les informations des patients et la fiabilité des algorithmes dans la fourniture des soins médicaux. La première étape proposée pour une application sécurisée est la participation « verticale et intégrée » de toutes les parties prenantes, y compris les gouvernements, les entreprises technologiques, les prestataires de soins de santé et la société civile.

L'OMS suggère au gouvernement d'investir dans les infrastructures publiques accessibles aux développeurs d'IA, à condition qu'ils respectent les principes éthiques. Il recommande également la promulgation de lois pour garantir que les LMM respectent les droits de l'homme ou la création d'une agence de réglementation qui évalue leur conformité avant utilisation.

Alain Labrique, directeur du département Santé numérique et innovation de l'OMS, souligne la nécessité pour les gouvernements de diriger des efforts de coopération pour réglementer efficacement le développement et l'utilisation des technologies d'IA telles que les LMM. Le guide souligne l'importance de la participation de l'ensemble de la société, y compris les ingénieurs, les scientifiques, les utilisateurs potentiels, les prestataires de services médicaux, les professionnels de la santé et les patients, à toutes les phases de développement de ces modèles linguistiques.

Malgré les défis actuels, l’OMS reconnaît les énormes avantages que l’IA, y compris les LMM, pourraient apporter aux systèmes de santé, en améliorant la santé publique et en progressant vers une couverture sanitaire universelle.