IA en santé : quelles clés pour innover tout en répondant aux enjeux de souveraineté numérique ?

RÉSUMÉ : NOS PROPOSITIONS POUR FAVORISER L’INNOVATION DANS L’IA EN SANTÉ

L’atelier organisé au Ministère de l’Europe et des Affaires Étrangères le 21 mai 2024 a permis de dévoiler les pistes des solutions suivantes, résumées ici en pôles et détaillées ensuite.

Des méthodes de design-thinking ont été utilisées pour permettre de capter l’essence du débat en deux heures. 

Constituer des infrastructures de données souveraines, robustes et interopérables

• Faciliter l’accès à la donnée à travers des bases de données centralisées ou décentralisées, autour d’initiatives existantes comme l’Espace Européen des Données de Santé (EEDS)
• Soutenir les initiatives d’innovation en santé et la recherche médicale, tout en garantissant le respect de la vie privée et la protection des données
• Disposer de règles claires et des stratégies robustes en termes de gouvernance des données, et standardiser le format de ces données

Se rassembler, collaborer et financer

• Faciliter les collaborations entre les secteurs publics et privés à travers un écosystème commun
• Établir une feuille de route regroupant suivi et décisions à travers un consortium public-privé chargé d’investir dans des projets à fort potentiel
• Lancer un plan stratégique sur l’IA visant à coordonner et à orienter les efforts, avec des objectifs prioritaires et des indicateurs clés
• Augmenter le financement et la commande publique, et faciliter le financement provenant du secteur privé à travers des subventions et des incitations fiscales
• Mutualiser les financements publics au niveau européen

Harmoniser le cadre juridique

• Diffuser davantage les règles applicables en matière d'information et d'exercice des droits des personnes concernées et les modalités d'accès aux données de santé
• Faciliter la distribution des nouvelles technologies utilisant de l’IA en santé
• Réduire la charge administrative pour les startups et les PME

Répondre aux besoins réels des acteurs de l'écosystème et renforcer la formation

• S’assurer que les dispositifs d’IA répondent aux besoins réels et s'intègrent dans le travail des professionnels de la santé et des utilisateurs
• Proposer une formation continue aux professionnels de santé
• Former des développeurs et des experts d’IA français et européens
• Renforcer la formation du personnel appliquant les réglementations

Renforcer la confiance du public

• Mettre en place un système de labellisation et certification des données
• Être transparents et mettre en place une communication efficace pour rassurer les usagers et les professionnels sur les avantages de l’IA
   

MÉTHODOLOGIE

Pour aborder le sujet de l’innovation dans l’IA en santé, tout en répondant aux défis de souveraineté numérique, nous avons identifié et priorisé les principaux enjeux liés à la souveraineté numérique dans les secteurs de l'IA et de la santé.

La démarche méthodologique a été la suivante :

1. Une réflexion individuelle
2. Des discussions en binômes
3. Une discussion en sous groupes de 3-5 personnes
4. Une mise en commun générale

Cette approche a permis de rassembler et de confronter les perspectives dans une session en plénière, favorisant ainsi une compréhension globale et collaborative entre les divers acteurs publics et privés impliqués.

1/ Souveraineté numérique et sécurité des données

Le choix du périmètre de souveraineté numérique est un défi pour les acteurs européens, qui doivent trouver un équilibre entre la protection des données, la compétitivité économique et la coopération internationale.

Différentes options s’offrent aux décideurs en la matière, incluant des partenariats nationaux, européens ou hors Europe. Chacune des options présente des avantages et des inconvénients en termes de souveraineté, de sécurité et d'innovation.

2/ Stratégie de gouvernance des données

La santé étant une compétence réservée aux États membres, ceux-ci ont été autorisés à introduire des conditions supplémentaires à celles du Règlement Général de la Protection des Données (RGPD) concernant le traitement des données de santé. Celles-ci ne bénéficient pas d'un cadre harmonisé au sein de l'Europe, avec en outre des exigences spécifiques d'hébergement des données de santé dans certains pays. La Commission européenne a proposé en mars 2022 l'EEDS (Espace Européen des Données de Santé), projet pouvant pallier cette absence d’harmonisation. Le Parlement européen a adopté la création de ce dispositif en avril 2024.

3/ Construction des infrastructures de données

En lien direct avec la souveraineté numérique, les discussions sur les infrastructures de données ont porté, entre autres, sur les enjeux suivants :

• Interopérabilité
• Recherche
• Mutualisation des données
• Prix

Ces enjeux sont essentiels pour soutenir les initiatives de santé publique et la recherche médicale. Nous avons débattu sur les ressources nécessaires pour établir ces infrastructures robustes, ainsi que du choix des type de données essentielles qui doivent être sécurisés et facilement accessibles.

4/ Accès aux données et leur cadre juridique et éthique

L'accès aux données s'avère être un facteur déterminant pour encourager l'innovation. Le défi réside alors dans la recherche d'un équilibre subtil entre la protection des données et la souplesse de leur utilisation, permettant ainsi d'exploiter les nouvelles technologies tout en respectant les aspects éthiques et réglementaires qui encadrent l'utilisation des données en santé. Plusieurs réglementations comme le RGPD ou plus récemment l’AI Act cristallisent cetenjeu réglementaire voulant associer harmonieusement protection et flexibilité.

5/ Adéquation des dispositifs d'IA aux besoins médicaux et formation

Nous nous sommes projetés sur l’idée d’un système dans lequel les dispositifs d’IA peuvent être financés, maintenus, évalués et intégrés dans la pratique quotidienne des professionnels de santé, afin qu’ilssoient pertinents par rapport au service médical rendu. Aujourd’hui, on se rendcompte que les professionnels de santé n’ont pas une formation assez adaptée ainsi qu'une compréhension claire des avantages et limites des dispositifs d’IA.

6/ Droits et confiance des citoyens

Le développement des dispositifs d'IA en santé est marqué par la question cruciale de la confiance du public. Concernant lesdroits des citoyens sur le partage de leurs données, une information individuelle, claire et loyale, accompagnée d'un droit d'opposition libre semble être une étape importante. La transparence et une communication efficace sont indispensables pour instaurer cette confiance, condition sine qua non pour une adoption plus large et réussie des dispositifs d'IA en santé.

7/ Défis économiques et biais des modèles d’IA

Les défis liés à l'attractivité économique et au parcours d'accès au marché pour les dispositifs d'IA en santé nous ont conduits à considérer les modalités de développement de dispositifs innovants adaptés aux besoins des usagers. Le parcours d'accès au marché reste en effet complexe, nécessitant une réglementation et un environnement adaptés.

En outre, les biais des modèles d'IA, provenant de données d'entraînement non représentatives et de biais algorithmiques conséquents, peuvent compromettre la pertinence et l'efficacité de certains dispositifs.

8/ Défis de compétitivité

Aux défis économiques s’ajoutent les enjeux en matière de compétitivité, notamment concernant la fuite des talents français et européens, et la vente de sociétés françaises et européennes aux grands groupes hors sol européen. L’enjeu de formation de développeurs et de spécialistes d’IA en France et en Europe s’ établit également comme un enjeu décisif de compétitivité sur le long terme.

Notre attention s'est portée sur l'identification des obstacles dans le secteur. En suivant la même méthodologie, cette deuxième étape a permis de définir les freins parmi les enjeux identifiés, susceptibles de faire obstacle au développement et à l'adoption de l'IA dans le domaine de la santé.

Réglementation

• Charge administrative conséquente, entravant la facilité et l’accès à l’expérimentation en IA
• Compréhension du processus décisionnel et identification des parties prenantes pertinentes des établissements de santé, notamment les hôpitaux
• Mise en musique et anticipation des différentes régulations nationales et européennes, notamment l’AI Act et le Règlement Général de la Protection des Données (RGPD)
• Formation insuffisante des agents en charge d’appliquer les réglementations

Obstacle psychologique des startups, concernant leur perception d’une complexité réglementaire, influençant leur décision de se lancer et de rester en France et en Europe​​​​​

Souveraineté

• Rétention des talents
• Vente de sociétés françaises et européennes aux grands groupes hors sol européen
• Compétitivité et attractivité
• Insuffisante formation de développeurs et de spécialistes d’IA français et européens
• Manque de connaissances sur l'existence de certains datacenters, notamment régaliens

Structuration et coordination

• Absence d’un organisme coordinateur,d'une structure claire et d’un pouvoir décisionnel pour l’ensemble du marché UE
• Financement commun des projetsà fort potentiel trop étendu et insuffisant
• Manque de directives communes pour les startups
• Manque d’indicateurs clés communs pour suivre des objectifs précis
• Absence de collaboration interdisciplinaire entre différents experts de l’IA
• Processus d'évaluation insuffisants aux évolutions rapides de l'IA

Accès aux données

• Absence d’infrastructure de données de santé paneuropéenne commune, même si la mise en place de l’EEDS est en cours
• Segmentation des formats de données
• Difficultés d’entraînement des dispositifs d'IA avec des données, car modalités d'accès aux données mal maîtrisées
• Défis liés au financement et à la maintenance des serveurs français traitant les données
• Manque de confiance des citoyens et leur sentiment de défiance, en particulier sur la confidentialité et la sécurité des données

La troisième et dernière partie de l'atelier a été consacrée à l'identification de solutions, au regard des enjeux et des freins préalablement identifiés. L’objectif de ces solutions est de créer un environnement souverain et propice à l’innovation, permettant à la France et à l’Europe de devenir des leaders mondiaux de l’IA en santé, en stimulant la recherche, le développement et l’adoption responsable de ces technologies.

1/ Favoriser l'interdisciplinarité et la collaboration

En réunissant tous les acteurs de l'IA dans un écosystème collaboratif et interdisciplinaire, il est possible de créer un environnement propice à l'innovation. Cette approche permet de mettre en commun et de tirer parti des expertises et des compétences de chacun, favorisant ainsi l'émergence de solutions nouvelles et performantes.

2/ Labellisation et certification

Pour aborder les problématiques de la confiance des citoyens et de la qualité des données, la création de labels de qualité pour les données de santé utilisées en IA aiderait à garantir leur fiabilité pour les utilisateurs finaux et les développeurs en Europe.

Plus largement, la mise en place d'un système de certification européen des données de santé, renforcerait encore cette démarche, en assurant une conformité aux normes éthiques et techniques en place. Ce système pourrait également être appliqué aux modèles et algorithmes d’IA dans une logique de transparence, afin de s’assurer que les dispositifs ont une certaine origine géographique, type d'entraînement ou type de fonctionnement spécifique. Le comité européen de l'IA pourrait jouer un rôle dans la mise en place et la supervision de ce système.

3/ Investissements d’envergure dans des projets et la R&D

Afin de surmonter les obstacles à l'innovation, une des grandes priorités réside dans l'augmentation significative du financement et la commande publique en santé. Particulièrement dans les secteurs sur lesquels le potentiel de l’IA est prometteur, comme la biotechnologie, la médecine personnalisée ou la robotique chirurgicale. Cela inclut le soutien accru aux instituts de recherche, aux partenariats public-privé et aux universités. Au niveau européen, la logique de la mutualisation des investissements reste une piste d’action prioritaire. Parallèlement, les investissements du secteur privé sont à encourager et à faciliter, à travers des incitations fiscales et des subventions pour les entreprises investissant dans la R&D en Europe. Afin d'encadrer ces investissements et de décider sur quels projets ou secteurs spécifiques investir, une solution privilégiée est la création d’un consortium public-privé. L’objectif serait d’utiliser ce consortium pour organiser des appels à manifestation d’intérêts, dans le but de sélectionner des projets à fort potentiel qui pourraient être accompagnés pour faire des preuves de concepts plus rapides.

4/ Construction d’une infrastructure européenne de données de santé

La mise en place d'une infrastructure pour le stockage et le partage sécurisé des données de santé est encouragée pour offrir aux chercheurs et aux professionnels de la santé un accès à des données vastes et diversifiées, tout en garantissant le respect de la vie privée. Cet accès aux données est indispensable pour faire progresser la recherche et améliorer les soins de santé.

Bien que la souveraineté soit cruciale pour la sécurité des données, elle ne garantit pas en elle-même la protection contre les menaces cybernétiques. Cela conduit à souligner l'importance de développer des stratégies robustes de défense et de gouvernance des données. Cette infrastructure pourrait comprendre la création de bases de données, centralisées ou décentralisées. Des nouvelles techniques pourraient être expérimentées comme l’apprentissage fédéré. La standardisation des formats de données obligatoire pour l’usage primaire comme secondaire des données permettrait de faciliter l'interopérabilité entre les pays et bâtir un écosystème d’API santé natifs. La mise en oeuvre de projets européens comme l’EEDS peut servir comme base structurante afin de créer des normes de standardisation des données et des métadonnées, permettant d’aller dans le sens d’une infrastructure européenne cohérente et efficace.

5/ Élaboration d’un planstratégique sur l’IA en santé

Un plan profond sur l'IA, au niveau européen et français, permettrait de coordonner et mieux orienter les efforts. Ce plan devrait établir des objectifs prioritaires, avec des indicateurs clés pour encourager la collaboration entre les différents acteurs du secteur et promouvoir l'utilisation responsable et éthique de l'IA en santé.

6/ Renforcer nos capacités de formation et développement

Pour rester à la hauteur dans la course effrénée du développement de l’IA, et anticiper rapidement les défis émergent, il conviendrait de renforcer les capacités de formation. Cela implique de soutenir la formation des développeurs d'IA afin d'élaborer des dispositifs d’IA en santé. Cela requiert également d'investir dans des infrastructures de recherche de pointe. Finalement, il est essentiel de former les personnels hospitaliers et les salariés des entreprises en charge d’appliquer les réglementations relatives aux usages des IA, pour pouvoir mieux anticiper les changements juridiques.

7/ Harmonisation des réglementations

L'harmonisation des réglementations est un moyen de réduire les barrières au développement et à la distribution de nouvelles technologies en santé. Il faut un cadre juridique agile qui s'adapte au cycle de l'innovation et qui réponde aux besoins d’une facilitation d’accès aux données de santé, et la diffusion des règles applicables en matière d'information et exercice des droits des usagers. La simplification des réglementations pour les startups et les PME en santé est également essentielle pour réduire la charge administrative et encourager l'innovation et l’expérimentation, comme l’accès aux supercalculateurs français.

CONCLUSION

Nos discussions ont souligné l'importance d'une approche multidisciplinaire pour répondre aux défis de l'IA en santé et stimuler l'innovation.

Pour relever ces défis, une collaboration étroite entre toutes les parties prenantes, réunies dans un écosystème commun et interdisciplinaire, est essentielle. Un plan stratégique IA et santé permettra de coordonner les efforts et de mettre en place des objectifs prioritaires à atteindre.

La mise en place d'infrastructures solides pour les données de santé, avec une gouvernance robuste, facilitera l'accès aux données tout en respectant les normes de sécurité et d’éthique. Ces infrastructures incorporent la création de bases de données centralisées ou décentralisées, avec des données standardisées afin de faciliter l’interopérabilité entre différents pays.

La mise en place d’une réglementation plus simple, souple et harmonieuse, accompagnée par une réduction de la charge administrative est nécessaire pour encourager l'innovation. Il est primordial d’accompagner juridiquement et administrativement les acteurs de l’innovation, en recommandant des bonnes pratiques et les lignes directrices à suivre, notamment en ce qui concerne les nouveaux dispositifs et textes comme l’EEDS ou l’AI Act. L'harmonisation des règles en Europe simplifiera les démarches et créera un environnement propice à l’innovation en IA dans le secteur de la santé.

Un financement public significatif et une augmentation de la commande publique sont indispensables pour que l’Europe reste dans cette course. La création et le suivi de consortiums public-privé pourra propulser des projets à fort potentiel, en se concentrant sur des secteurs clés.

La formation est un levier essentiel pour faire face aux défis. Il est nécessaire de former le personnel des entreprises et des hôpitaux chargé d’appliquer les nouvelles réglementations. Pour une adoption sécurisée des technologies d’IA, il est nécessaire aussi de former les professionnels de santé aux nouvelles technologies d’IA.

Enfin, la labellisation et la certification des données joueront un rôle crucial dans la validation des pratiques et pourront aider à faciliter la confiance du public.