IA en soins de santé – Provenance des résultats de l’IA

79

Alors que l’intelligence artificielle (IA) est au cœur des discussions du groupe de travail HL7 Workgroup Plus cette semaine, des éclaircissements s’imposent sur les mécanismes déjà en place pour encadrer son utilisation dans le domaine de la santé. Le groupe de travail sur la sécurité (Security WG) a en effet anticipé certaines de ces problématiques.

Assurer la traçabilité des données générées par l’IA

L’une des préoccupations majeures concerne l’identification claire du contenu médical, qu’il s’agisse d’un diagnostic, d’une note ou de toute autre observation, lorsqu’il a été généré ou assisté par une IA. Cette « provenance » permet d’informer en aval les utilisateurs de la donnée ou des décisions médicales sur son origine.

Comprendre le contexte de production de ces informations est essentiel. Le Security WG ne vise ni à promouvoir ni à décourager l’usage de l’IA, mais plutôt à fournir les outils nécessaires pour un étiquetage adéquat des données et des décisions.

Deux approches pour marquer l’origine IA

Deux méthodes principales sont proposées pour signaler que des données proviennent d’une IA :

• L’étiquette de provenance (Provenance Tag) : Il s’agit d’une balise de données, le code AIAST (Artificial Intelligence Asserted), utilisable dans diverses normes comme HL7 v2, CDA, DICOM et IHE-XDS. Ce code, très portable, peut être appliqué directement à une ressource informatique (données ou objet d’information) pour indiquer qu’elle a été « affirmée » par une intelligence artificielle. Il peut être intégré dans la section .meta.security d’une ressource FHIR, ou utilisé au niveau des éléments individuels, par exemple pour marquer une note dans un rapport de diagnostic générée par IA.

• La ressource de provenance (Provenance Resource) : Cette option est privilégiée lorsque des détails supplémentaires sur la provenance sont requis. Elle peut s’appuyer sur l’étiquette AIAST tout en fournissant un contexte plus riche. La ressource de provenance permet d’indiquer précisément les éléments d’une ressource cible qui proviennent d’une assertion IA, grâce aux extensions targetElementExtension ou targetPathExtension. Elle peut également spécifier l’algorithme d’IA utilisé (via une ressource de périphérique), permettant ainsi de connaître la version du modèle et de retracer d’éventuels problèmes comme un biais. De plus, elle peut référencer les données du dossier patient qui ont été analysées et identifier la partie du modèle d’IA mobilisée.

Gérer les boucles de rétroaction et l’effondrement du modèle

L’utilisation de la ressource de provenance est particulièrement pertinente lorsque l’IA examine un dossier patient pour générer de nouveaux diagnostics ou des notes. Il est crucial que l’IA puisse distinguer les données initialement saisies par des humains des données dérivées d’utilisations antérieures de l’IA. Ce phénomène, parfois appelé « effondrement du modèle » ou « boucles de rétroaction », peut être géré en s’assurant que l’IA prenne en compte les données marquées avec la provenance appropriée.

Une des approches envisagées est que l’IA puisse explicitement ignorer les données ou éléments précédemment créés par elle-même, afin de limiter les risques de biais cumulatifs ou de répétitions inutiles.