L’intelligence artificielle (IA) révolutionne le secteur de la santé, promettant des avancées spectaculaires en matière de diagnostics et d’efficacité opérationnelle. Cependant, cette technologie de pointe soulève également des inquiétudes majeures en matière de cybersécurité, menaçant la confidentialité des données et la confiance des patients.
Ed Gaudet, PDG et fondateur de Censinet, met en lumière les risques inhérents à l’adoption croissante de l’IA dans le domaine médical. Si l’IA accélère l’imagerie diagnostique et optimise les flux de travail, elle crée paradoxalement l’une des vulnérabilités les plus critiques pour le secteur. Les données de santé, déjà convoitées par les cybercriminels, deviennent la cible privilégiée des attaques à mesure que les systèmes d’IA, gourmands en données, se déploient à grande échelle.
Le problème réside dans la sensibilité des systèmes d’IA à des cyberattaques sophistiquées, telles que les « attaques contradictoires ». Ces dernières exploitent de subtiles altérations des données d’entrée pour générer des résultats erronés, voire malveillants. L’intégration de l’IA dans une multitude d’outils cliniques et opérationnels élargit considérablement la surface d’attaque. Une exploitation réussie de ces failles pourrait paralyser l’ensemble du système de santé et mettre en péril la sécurité des patients.
La confiance au cœur de l’adoption de l’IA
Dans le secteur de la santé, la confiance est une condition non négociable. La relation entre le patient et le soignant repose sur la certitude d’un diagnostic précis, la protection des informations personnelles et des soins sûrs et efficaces. L’IA touchant désormais à tous ces aspects, toute compromission – qu’il s’agisse d’empoisonnement de données, de vol de modèles ou de manipulation – éroderait rapidement la confiance, freinant son adoption et marginalisant des technologies pourtant cruciales.
Une étude récente d’Alber et al. vient souligner cette fragilité. Elle révèle que la simple introduction de 0,001 % de fausses informations médicales dans les données d’entraînement d’un modèle d’IA peut augmenter significativement le risque d’erreurs médicales. Ce constat met en exergue la vulnérabilité alarmante des modèles d’IA et leur potentiel à générer des recommandations trompeuses, même pour des cliniciens expérimentés.
« Sans une cybersécurité robuste intégrée à la base des systèmes d’IA dans le domaine de la santé, la promesse de l’IA risque d’être fondamentalement compromise », affirment les chercheurs, une conclusion sans appel pour l’avenir de la médecine assistée par l’IA.
Une priorité stratégique : construire une IA sécurisée
Pour surmonter ces risques, les établissements de santé doivent impérativement repenser leur approche du déploiement et de la gestion de l’IA. La cybersécurité ne peut plus être un élément dissocié de l’IA ; elle doit être intrinsèquement intégrée à chaque étape du développement, de la gouvernance et de la mise en œuvre.
Trois axes prioritaires émergent pour les décideurs du secteur :
- Exiger une IA sécurisée dès la conception : Les fournisseurs de technologies d’IA doivent offrir des garanties solides sur les contrôles de sécurité intégrés, de la validation des données à la surveillance continue. Les processus de formation, de validation et de mise à jour des modèles doivent être transparents et standardisés.
- Intégrer la gestion des risques à chaque étape : La gestion des risques doit être un processus continu, de l’approvisionnement à l’utilisation. Cela implique des évaluations régulières, une surveillance en temps réel et des tests spécifiques à l’IA, tels que des tests d’intrusion dédiés.
- Collaborer pour établir des normes sectorielles : Face à ces défis complexes, aucune organisation ne peut agir seule. Une collaboration accrue est essentielle pour définir des normes communes pour le développement et le déploiement sécurisés de l’IA, et pour adapter les cadres réglementaires à l’évolution rapide de ces technologies.
Former les cliniciens à l’IA
Pour maximiser les bénéfices de l’IA tout en minimisant ses risques, une formation approfondie des cliniciens est indispensable. Ces professionnels, en première ligne, doivent comprendre les capacités et les limites des outils d’IA pour garantir la confiance et la sécurité des patients. Sans une formation adéquate, ils pourraient avoir du mal à identifier les erreurs ou les biais générés par l’IA, compromettant ainsi la qualité des soins.
Les programmes de formation devraient se concentrer sur trois domaines clés : la compréhension du fonctionnement des outils d’IA en milieu clinique, la reconnaissance des signes de manipulation de données ou de dérive de modèle, et le développement d’une pensée critique pour remettre en question les résultats de l’IA lorsque ceux-ci divergent du jugement clinique. Des ateliers simulant des scénarios d’attaques contradictoires permettraient d’enseigner aux cliniciens comment des modifications subtiles peuvent mener à des diagnostics erronés. La formation continue est également cruciale pour tenir les professionnels informés des avancées technologiques et des cybermenaces émergentes.
En dotant les cliniciens de ces connaissances, les établissements de santé peuvent créer un « pare-feu humain », une couche de défense essentielle complétant les protections techniques. Les cliniciens ainsi outillés deviennent des partenaires vigilants dans l’intégration de l’IA, assurant que ces outils améliorent, et non compromettent, les soins aux patients.
Les enjeux sont considérables et ne cessent de croître. L’IA transforme rapidement le paysage des soins de santé, offrant des perspectives prometteuses. Cependant, sans une base solide en cybersécurité, le risque n’est pas seulement la fuite de données sensibles, mais aussi la remise en cause de la confiance et de la sécurité qui sous-tendent le système de santé. L’IA est peut-être l’arme la plus puissante à double tranchant du secteur, mais en intégrant la sécurité à son cœur, son plein potentiel peut être libéré sans jamais compromettre la sécurité des patients.