Intelligence artificielle en santé, un nouveau référentiel national

Si l'intégration croissante de différentes typologies de systèmes d’intelligence artificielle (SIA) dans le secteur de la santé est une formidable opportunité pour la qualité et la sécurité des soins, elle doit s'accompagner de garde fous réglementaires et opérationnels.

Le guide d’implémentation de l’éthique dans les SIA en santé, publié en juillet 2025 par la cellule éthique de la Délégation au numérique en santé (DNS)¹ vise à proposer une approche structurée et pragmatique pour accompagner les acteurs du numérique en santé dans la mise en œuvre de systèmes conformes aux exigences du RGPD, du Règlement sur les Dispositifs Médicaux (MDR), de l'AI Act, et à des critères éthiques du soin.

Le RGPD comme socle de régulation des données de santé

L’entraînement des algorithmes, en tant qu'utilisation secondaire des données de santé, doit s'inscrire dans le respect du RGPD. A ce titre, l'utilisation secondaire des données de santé doit en particulier respecter les principes fondamentaux relatifs au traitement de données, dont la minimisation des données, la licéité du traitement, la transparence et la sécurité (article 5 RGPD) y incluant un hébergement HDS selon le Guide, et reposer sur une base de licéité (au titre de l'article 6 du RGPD) et également une condition au titre de l'article 9 du RGPD (conditions de traitement des catégories particulières de données), le cas échéant un consentement, précédé d'une information répondant aux exigences du RGPD.

Une réflexion doit être conduite et documentée par le fournisseur du SIA afin que seules les données nécessaires soient utilisées pour l’entraînement, la production et l’exploitation du SIA, mais néanmoins suffisantes pour que le SIA soit performant de la même manière pour toutes les personnes de la population cible du SIA.

L'AI Act, des exigences pour les systèmes à haut risque et des obligations pour leurs fournisseurs

Les SIA utilisés en santé constituent généralement des systèmes d'IA à « haut risque », soumis à des exigences spécifiques : mise en place d’un système de gestion des risques (article 9), la gouvernance des données, y incluant la prévention et gestion des biais (article 10), la documentation technique (article 11), l’enregistrement des événements (article 12), la transparence et la fourniture d'informations aux déployeurs (article 13), le contrôle humain (article 14), et l'exactitude, la robustesse et la cybersécurité (article 15), y incluant la conformité HDS.

Le guide de la DNS complète ces exigences et propose des critères concrets, tels que la traçabilité des désactivations, la transparence sur le suivi ou non des recommandations de l’IA, et la mise en place de comités scientifiques et éthiques dès la phase de cadrage. Il insiste sur la nécessité de garantir l’autonomie décisionnelle des professionnels de santé et de préserver leur responsabilité dans l’usage des outils numériques.

L’IA générative : vigilance renforcée et encadrement spécifique

Face à l’essor des IA génératives, le guide introduit des critères spécifiques visant à prévenir la restitution de données personnelles, le plagiat, les hallucinations algorithmiques, et la dépendance cognitive des utilisateurs. Il recommande la mise en œuvre de mécanismes de filtrage, de citation explicite des sources, et d’alerte en cas de détection d’une dépendance à l’IA.

Ces mesures visent à préserver l’esprit critique des professionnels de santé, à garantir la qualité des réponses générées, et à assurer que les patients soient incités à consulter un professionnel en cas de situation d’urgence.

Une approche nationale opérationnelle fondée sur des critères éthiques et réglementaires

Au-delà de l'ambition de lisibilité du cadre réglementaire, le guide vise à rendre applicables des critères éthiques, afin de garantir la confiance des citoyens et des soignants. Une nouvelle spécificité nationale dont tenir compte, pour les fournisseurs internationaux de systèmes d'IA, d'autant que le guide pourrait, à terme, être intégré aux référentiels sectoriels opposables…

1. Guide d'implémentation de l'éthique dans les SIA en santé - DNS - 07-2025

Cet article a aussi été publié sur le site dsih.fr