Publié le 2025-10-02 20:05:00. L’intelligence artificielle pourrait devenir une arme à double tranchant pour la recherche scientifique, capable de concevoir de dangereux agents biologiques tout en contournant les systèmes de sécurité existants. Une nouvelle étude révèle la facilité avec laquelle l’IA peut « paraphraser » des séquences d’ADN, rendant le dépistage de contenus potentiellement nuisibles de plus en plus complexe.
- L’IA peut désormais générer des codes ADN pour des protéines dangereuses, déjouant les mécanismes de biosécurité actuels.
- Les chercheurs ont « paraphrasé » des séquences d’ADN toxiques, préservant potentiellement leur structure et leur fonction.
- Face à ces risques, une approche prudente est adoptée pour la publication de ces recherches, avec un contrôle strict de l’accès aux données.
Les entreprises de biotechnologie, qui produisent de l’ADN à la demande pour les scientifiques, disposent de protocoles pour empêcher les personnes mal intentionnées d’acquérir des matériels biologiques dangereux, comme des gènes liés à la variole ou à l’anthrax. Cependant, une étude récente publiée dans la revue *Science* met en lumière la capacité de l’intelligence artificielle à contourner aisément ces mesures de biosécurité.
Une équipe d’experts en IA a démontré que des outils de conception de protéines pouvaient « réécrire » les codes génétiques de protéines toxiques. Selon Eric Horvitz, directeur scientifique en chef chez Microsoft, ces modifications visent à « préserver leur structure et potentiellement leur fonction ». Les chercheurs ont ainsi généré des codes d’ADN pour plus de 75 000 variantes de protéines dangereuses, dont une fraction a échappé aux systèmes de filtrage des fabricants d’ADN.
« À notre grand regret, ces séquences reformulées ont échappé aux systèmes de dépistage de biosécurité utilisés dans le monde entier par les entreprises de synthèse d’ADN pour signaler les commandes dangereuses. »
Eric Horvitz, Directeur scientifique en chef, Microsoft
Bien qu’un correctif ait été rapidement appliqué aux logiciels de dépistage, il n’est pas infaillible et ne parvient toujours pas à détecter un petit nombre de ces variantes. Cet événement s’inscrit dans une tendance plus large où les avancées de l’IA soulèvent des préoccupations quant à leur utilisation malveillante dans le domaine biologique.
Les risques de la science ouverte
« La conception de protéines assistée par l’IA représente l’une des frontières les plus passionnantes de la science, avec des progrès déjà visibles en médecine et en santé publique », reconnaît Eric Horvitz. « Cependant, à l’instar de nombreuses technologies puissantes, ces mêmes outils peuvent être détournés de leur usage initial. »
Depuis des années, les biologistes craignent que les outils de modification de l’ADN, en constante amélioration, ne soient utilisés pour créer des agents pathogènes ou des toxines plus virulents et plus facilement transmissibles. Le débat sur la divulgation publique de certains résultats expérimentaux, essentiel à la science ouverte et à la réplication indépendante, est ainsi ravivé.
Face à cette situation, les auteurs de la nouvelle étude et la revue *Science* ont choisi de limiter l’accès à certaines informations et données. Ils ont confié la gestion des demandes d’accès à un organisme tiers indépendant, l’Initiative internationale pour la biosécurité et la biosûreté en science. « C’est la première fois qu’un tel modèle est employé pour gérer les risques liés au partage d’informations dangereuses dans une publication scientifique », précise Horvitz.
Des personnalités du monde de la biosécurité ont salué cette approche.
« Ma réaction globale est positive », déclare Arturo Casadevall, microbiologiste et immunologue à l’Université Johns Hopkins. « Nous avons ici un système qui identifie les vulnérabilités, et l’on observe une tentative de les corriger. »
Arturo Casadevall, Microbiologiste et immunologue, Université Johns Hopkins
Cependant, Casadevall soulève une question cruciale : « Quelles vulnérabilités ignorons-nous et qui nécessiteront des correctifs futurs ? » Il note que l’équipe de recherche n’a pas mené d’expériences en laboratoire pour confirmer si les protéines conçues par l’IA possédaient réellement les propriétés des agents biologiques originaux, une étape qui pourrait être rendue difficile par les conventions internationales interdisant le développement d’armes biologiques.
Faire face à l’avancée rapide de l’IA
Ce n’est pas la première fois que les scientifiques explorent le potentiel d’utilisation malveillante de l’IA dans le domaine biologique. Il y a quelques années, une autre équipe s’était interrogée sur la capacité de l’IA à générer de nouvelles molécules aux propriétés similaires à celles des agents neurotoxiques. En moins de six heures, un programme d’IA avait identifié 40 000 molécules candidates, incluant des agents de guerre chimique connus comme le VX, ainsi que de nouvelles molécules potentiellement plus toxiques.
Les chercheurs de cette précédente étude avaient choisi de ne pas publier les structures chimiques découvertes ni de les synthétiser en laboratoire, jugeant le risque trop élevé. « Ils ont simplement averti la communauté scientifique », souligne David Relman, chercheur à l’Université de Stanford.
Relman considère que la récente étude, démontrant comment l’IA peut contourner les contrôles de sécurité, est louable. Néanmoins, elle met en évidence l’ampleur du défi : « Je pense que cela nous laisse perplexes et nous interroge : ‘Qu’est-ce que nous sommes censés faire exactement ?’ Comment pouvons-nous anticiper un train de marchandises qui accélère et déraille, menaçant de tout emporter ? »
Malgré ces inquiétudes, certains experts en biosécurité se montrent plus rassurants. James Diggans, responsable de la politique et de la biosécurité chez Twist Bioscience et président du conseil d’administration du Consortium international de synthèse génétique, rappelle que les signalements d’ordres potentiellement dangereux aux autorités sont extrêmement rares. « Dans le monde de la cybersécurité, de nombreux acteurs tentent d’accéder aux systèmes. Ce n’est pas le cas en biotechnologie. Le nombre de personnes cherchant réellement à mal utiliser ces technologies est très faible, proche de zéro. Ces systèmes de sécurité constituent donc une barrière importante, mais il faut se rassurer sur le fait que ce n’est pas un scénario courant. »