L’IA, une porte ouverte aux armes biologiques ? Des failles de sécurité révélées
Des chercheurs américains ont démontré la capacité de l’intelligence artificielle à générer des séquences génétiques potentiellement dangereuses, mettant en lumière des lacunes dans les systèmes de biosécurité actuels.
La puissance de l’intelligence artificielle ouvre de nouvelles perspectives en biologie et en médecine, mais elle soulève également des inquiétudes quant à son potentiel d’utilisation malveillante. Des scientifiques ont récemment mis en évidence de dangereuses failles dans les systèmes de contrôle conçus pour empêcher la création de protéines dangereuses pouvant servir d’armes biologiques.
Aux États-Unis, plusieurs laboratoires proposent de commander des codes génétiques pour la synthèse de protéines. Ces commandes sont habituellement soumises à un logiciel de détection de biosécurité (BSS) visant à identifier les séquences susceptibles de mener à la conception d’agents biologiques. Si ce système est efficace contre les toxines connues, l’avènement de l’IA complexifie la donne. En effet, cette technologie permet désormais de générer des codes dérivés, dont la nature potentiellement dangereuse n’est pas immédiatement évidente.
Une équipe de chercheurs américains, dirigée par Eric Horvitz, directeur scientifique chez Microsoft, a mené des tests sur ces logiciels BSS et proposé des améliorations. Leurs travaux, publiés dans la revue spécialisée « Science », détaillent les résultats de ces évaluations et les avancées permises par les mises à jour logicielles.
Identifier les menaces cachées par l’IA
Pour leurs recherches, les scientifiques ont d’abord utilisé un logiciel open source gratuit capable, grâce à l’IA, de concevoir des codes pour de nouvelles protéines. Ils ont sélectionné 72 protéines jugées préoccupantes, incluant principalement des toxines et des composants viraux. À partir de ces éléments, ils ont généré plus de 76 000 variantes de codes génétiques correspondants.
L’objectif était de tester la capacité de quatre logiciels BSS du marché à identifier ces séquences potentiellement dangereuses. Les résultats ont révélé des performances variables : le logiciel le moins performant n’a classé que près de 17 600 variantes comme potentiellement dangereuses, tandis que les autres en ont identifié entre 41 650 et près de 53 000.
Suite à ces constats, l’équipe a modifié le logiciel afin d’améliorer sa capacité de détection. Après cette mise à jour, le logiciel le moins performant a reconnu près de 51 200 codes dangereux, et les deux autres ont identifié respectivement 53 850 et 58 000 séquences. « Nous espérons que ce projet est un exemple opportun de la manière dont une réduction des risques réactive et responsable peut être obtenue grâce à une combinaison d’innovation technique, de recherche collaborative, d’analyse objective et d’un processus réfléchi », soulignent les auteurs de l’étude.
Un appel à la vigilance et à la recherche
Gunnar Schröder, du centre de recherche de Jülich, qui n’a pas participé à l’étude, a commenté l’importance de ces travaux. « Quand il s’agit de conception de protéines, beaucoup de gens voient d’abord les applications potentielles fantastiques, par exemple en médecine », a-t-il rappelé. « Cependant, ces travaux attirent à juste titre l’attention sur le problème de sécurité de cette nouvelle technologie. » Il a également insisté sur le fait que des armes biologiques pourraient être conçues non seulement contre l’homme, mais aussi contre le bétail et les cultures. « Il est très important de sensibiliser à ce problème et de promouvoir de nouvelles recherches dans cette direction. »
Dirk Lanzerath, de l’Université de Bonn et directeur du Centre de référence allemand pour l’éthique des sciences de la vie, partage cette préoccupation. « Des recherches empiriques sur le potentiel de risque de cette technologie sont essentielles afin de développer des normes d’évaluation appropriées », a-t-il expliqué. « L’étude présentée dans Science pour adapter les méthodes de dépistage existantes constitue une étape importante dans ce contexte. »