L’intelligence artificielle (IA) et la protection de la vie privée sont au cœur des débats actuels. Dans ce contexte, plusieurs avancées et réflexions émergent, notamment au sein de l’organisation HL7, visant à encadrer l’utilisation des données de santé par l’IA. Ces développements, bien que souvent axés sur le standard FHIR, abordent des questions fondamentales de provenance des données, de marquage et de consentement, les rendant applicables à une large gamme de données standardisées.
Plusieurs axes thématiques majeurs se dégagent concernant l’intégration de l’IA dans le domaine de la santé :
1. L’utilisation des données pour l’entraînement de l’IA : un encadrement nécessaire
La question primordiale est de savoir quelles données peuvent être légitimement utilisées pour entraîner des modèles d’IA. Il devient impératif de définir des règles claires permettant d’autoriser l’usage de certains jeux de données tout en en interdisant d’autres. Cette granularité est essentielle tant au niveau des ensembles de données globaux (comme les Dossiers de Santé Électroniques – DSE) que des sous-ensembles spécifiques qui pourraient être exclus de l’apprentissage. De plus, le consentement individuel du patient prend une importance capitale, lui offrant la possibilité de refuser que ses données soient exploitées à cette fin.
2. Identifier les données ayant servi à l’entraînement d’un modèle d’IA
Une fois qu’un modèle d’IA est développé, il est crucial de conserver une traçabilité exhaustive des données qui ont été utilisées pour son entraînement. Cette transparence permet de comprendre précisément quelles informations ont façonné l’IA et, en cas de problème, d’évaluer si celui-ci a un impact sur le modèle. La provenance des données est ainsi un élément clé pour garantir la fiabilité des systèmes d’IA en santé.
Pour approfondir ce sujet, consulter l’article : Provenance Use in AI.
3. Contrôler l’utilisation des données personnelles dans les décisions de l’IA
Comment s’assurer que « mes données » ne sont pas utilisées de manière inappropriée par une IA, notamment dans le cadre de décisions cliniques ? Le consentement du patient peut jouer un rôle déterminant en autorisant ou en refusant l’usage de ses informations pour éclairer une décision médicale. Lorsqu’une IA accède à des données spécifiques pour faciliter des décisions de paiement ou de traitement, il est essentiel d’utiliser des indicateurs précis, comme le « PurposeOfUse » (Objectif d’Utilisation).
Des valeurs spécifiques telles que PMTDS (lorsque l’IA facilite les décisions de paiement) ou TREATDS (lorsque l’IA soutient les décisions cliniques) permettent de définir des stratégies d’accès précises. Ces objectifs d’utilisation, s’ils ne sont pas explicitement restreints par des règles, se basent sur leur catégorie parente (paiement ou traitement). Ils peuvent être intégrés dans les consentements individuels des patients ou dans les autorisations au niveau organisationnel, offrant ainsi une flexibilité pour définir des politiques prédominantes que le consentement peut accepter ou outrepasser.
4. Indiquer qu’une donnée est issue d’une décision d’IA
Lorsqu’une IA produit une décision ou une recommandation, il est indispensable de l’enregistrer clairement au sein de l’ensemble de données, par exemple dans un DSE. Cela permet aux futurs utilisateurs de distinguer les informations générées par une IA de celles provenant d’un clinicien ou d’un autre professionnel de santé. Il s’agit d’une question de provenance : savoir d’où proviennent les données.
Pour plus d’informations sur le marquage des sorties d’IA : Healthcare AI Provenance of AI Outputs.
Ce marquage peut s’appliquer à différents niveaux : au niveau de la ressource de données, de l’élément spécifique, ou être plus détaillé via une balise de sécurité ou une provenance complète. Un élément crucial de cette provenance concerne la version de l’IA utilisée, le modèle spécifique, ainsi que les données d’entrée qui ont été traitées (quelles parties du dossier patient).
En conclusion, la mise en œuvre de l’IA dans le domaine de la santé soulève des défis complexes bien au-delà des premières réflexions. Il est important de capitaliser sur les méthodes et les standards déjà existants pour avancer, plutôt que de réinventer la roue. Cela permettra de construire des systèmes d’IA robustes, transparents et respectueux de la vie privée des patients.