Publié le 2024-10-27 10:30:00. Des chercheurs américains ont mis en évidence des failles critiques dans les systèmes de détection de risques biotechnologiques, permettant la création potentielle d’armes biologiques via l’intelligence artificielle. Une étude publiée dans *Science* propose des améliorations pour renforcer ces garde-fous.
- L’intelligence artificielle rend la conception de protéines dangereuses, utilisables comme armes biologiques, plus accessible.
- Les logiciels actuels de biosécurité peinent à identifier les séquences génétiques modifiées par l’IA.
- Une équipe de recherche a testé et amélioré ces systèmes de détection pour mieux anticiper les menaces.
Si les avancées technologiques ouvrent des perspectives prometteuses en biologie et médecine, elles soulèvent également des inquiétudes quant à leur potentiel d’utilisation malveillante. Aux États-Unis, des laboratoires permettent la commande de codes génétiques servant à la fabrication de protéines. Pour parer aux risques, ces entités s’appuient sur des logiciels spécialisés, les Biosafety Screening (BSS), conçus pour repérer les séquences pouvant aboutir à des toxines ou agents pathogènes.
Cependant, l’avènement de l’intelligence artificielle (IA) complique cette tâche. Des chercheurs, menés par Eric Horvitz, directeur scientifique chez Microsoft, ont démontré qu’il était possible de générer, grâce à l’IA, des codes génétiques dérivés, dont la dangerosité n’est pas immédiatement évidente pour les systèmes de détection existants. Leurs travaux, publiés dans la revue scientifique Science, visent à combler ce fossé.
Identifier les codes à risque grâce à l’IA
L’équipe a d’abord exploité un logiciel open source gratuit, capable de générer des codes pour de nouvelles protéines avec l’aide de l’IA. En se basant sur 72 protéines jugées préoccupantes (principalement des toxines et des composants viraux), ils ont produit plus de 76 000 variantes de codes génétiques. L’objectif était de tester la capacité de quatre logiciels BSS commerciaux à reconnaître ces séquences potentiellement dangereuses.
Les résultats ont révélé des lacunes : le logiciel le moins performant n’a identifié qu’environ 17 600 variantes comme potentiellement risquées, tandis que les autres en ont repéré entre 41 650 et près de 53 000. Face à ce constat, les chercheurs ont ensuite modifié et amélioré l’un des logiciels pour optimiser la détection.
Après cette mise à jour, le logiciel qui enregistrait les moins bonnes performances a réussi à identifier près de 51 200 codes dangereux. Les deux autres programmes ont respectivement reconnu 53 850 et 58 000 séquences à risque. Ces améliorations démontrent le potentiel d’une approche combinant innovation technique, collaboration et analyse rigoureuse pour une gestion proactive des risques.
« Nous espérons que ce projet est un exemple opportun de la manière dont une réduction des risques réactive et responsable peut être obtenue grâce à une combinaison d’innovation technique, de recherche collaborative, d’analyse objective et d’un processus réfléchi. »
Les auteurs de l’étude
Gunnar Schröder, du centre de recherche de Jülich, non impliqué dans l’étude, souligne l’importance de cette recherche : « Quand il s’agit de conception de protéines, beaucoup de gens voient d’abord les fantastiques applications potentielles, par exemple en médecine. Cependant, ces travaux attirent à juste titre l’attention sur le problème de sécurité de cette nouvelle technologie. » Il rappelle que les armes biologiques potentielles pourraient cibler non seulement les humains, mais aussi le bétail et les cultures, rendant la sensibilisation et la recherche accrue dans ce domaine crucial.
Dirk Lanzerath, du Centre de référence allemand pour l’éthique des sciences de la vie à l’Université de Bonn, partage cette opinion. « Des recherches empiriques sur le potentiel de risque de cette technologie sont essentielles afin de développer des normes d’évaluation appropriées », a-t-il déclaré. Il considère l’étude publiée dans *Science* comme une avancée majeure dans l’adaptation des méthodes de dépistage actuelles.