Publié le 15 février 2024 14:44:00. L’intelligence artificielle Claude, développée par la société Anthropic et présentée comme une alternative éthique aux autres modèles d’IA, aurait été utilisée par le Pentagone lors d’une opération militaire controversée au Venezuela. Cette révélation soulève des questions sur la neutralité des technologies d’IA et les compromis entre éthique et impératifs de sécurité nationale.
- Le Pentagone aurait utilisé Claude pour la planification et l’exécution d’une opération visant à capturer Nicolas Maduro, le président vénézuélien.
- Anthropic, qui promeut Claude comme une IA respectant une « Constitution » éthique, interdit explicitement l’utilisation de son modèle pour des activités violentes ou liées aux armes.
- L’accès à Claude par le Pentagone s’est fait via les plateformes d’analyse de données de Palantir Technologies, une entreprise spécialisée dans la défense.
L’entreprise Anthropic s’était positionnée dans la Silicon Valley comme une alternative responsable aux géants de l’intelligence artificielle tels que ChatGPT et Google Gemini. Fondée par les frères Amodei, Anthropic mettait en avant Claude comme une IA construite sur des principes éthiques solides, guidée par une véritable « Constitution » disponible en ligne. L’entreprise avait vendu Claude comme un modèle d’IA spécifiquement conçu pour être inoffensif, honnête et pacifique.
Les conditions d’utilisation d’Anthropic sont claires : pas d’armes, pas de surveillance de masse, pas de violence. Pourtant, selon un rapport du Wall Street Journal , le Pentagone aurait utilisé Claude lors de la planification et de l’exécution du raid militaire qui a abouti à la capture de Nicolas Maduro au Venezuela début janvier. Cette mission, qui comprenait des bombardements à Caracas, est directement en contradiction avec l’esprit d’utilisation promu par Anthropic, qui interdit l’utilisation de Claude pour « faciliter la violence, développer des armes ou effectuer une surveillance ».
Le rôle de Claude dans cette opération consistait à traiter les renseignements nécessaires à une extraction à haut risque, malgré les contraintes éthiques initiales. Comment une IA programmée pour rejeter les demandes violentes a-t-elle pu se retrouver impliquée dans une planification militaire classifiée ? La réponse réside dans l’intervention de Palantir Technologies.
Selon le rapport, le ministère de la Défense n’a pas accédé à Claude via l’interface web habituelle, mais par le biais des plateformes d’analyse de données de Palantir, une société spécialisée dans l’analyse de défense fondée par Peter Thiel. En intégrant Claude à son écosystème classifié, le Pentagone a pu exploiter les capacités de raisonnement et de traitement des données du modèle pour synthétiser d’énormes quantités d’informations en temps réel. Il ne s’agissait pas de Claude « pilotant des drones » ou « appuyant sur la gâchette », mais plutôt d’utiliser ses compétences pour identifier des schémas qui ont conduit à une opération sur le terrain et à des frappes préventives ayant fait des victimes .
Anthropic se trouve désormais dans une situation délicate. D’une part, sa valorisation a atteint 380 milliards de dollars, ce qui en fait un outil essentiel pour la sécurité américaine. Les inquiétudes d’Anthropic quant à l’utilisation potentielle de Claude par le Pentagone avaient même conduit l’administration Trump à envisager d’annuler un contrat pouvant atteindre 200 millions de dollars, selon le Journal.
D’autre part, sa mission fondatrice de « sécurité d’abord » est en contradiction flagrante avec l’opération militaire menée par l’administration Trump. Un porte-parole d’Anthropic a déclaré : « Nous ne pouvons pas dire si Claude, ou tout autre modèle d’IA, a été utilisé pour une opération spécifique, classifiée ou non. Toute utilisation de Claude, que ce soit dans le secteur privé ou gouvernemental, doit être conforme à nos politiques d’utilisation, qui régissent sa mise en œuvre. »
« Nous n’utiliserons pas de modèles d’intelligence artificielle qui ne nous permettent pas de gagner des guerres. »
Pete Hegseth, secrétaire à la Défense
La réalité est qu’Anthropic est aujourd’hui le seul fournisseur de LLM (Large Language Models) disponibles sur des réseaux classifiés par l’intermédiaire de tiers. La tension est palpable. Le secrétaire à la Défense, Pete Hegseth, avait déjà averti en janvier , face aux doutes éthiques de la Silicon Valley : « Nous n’utiliserons pas de modèles d’IA qui ne nous permettent pas de gagner des guerres ».
Ce qui s’est passé au Venezuela illustre une réorientation de l’IA vers des usages militaires. Des outils commerciaux, formés à partir des connaissances collectives d’Internet et affinés pour être « sécurisés », sont désormais orientés vers des opérations militaires. Pour l’utilisateur lambda, Claude reste le chatbot convivial qui aide à la programmation ou à la rédaction d’essais. Mais pour le monde, le rapport du WSJ remet en question le concept même d’« IA neutre ».
Dès que le code pénètre dans le réseau sécurisé du Pentagone, la « Constitution » de l’IA devient subordonnée à la Constitution des États-Unis. Et dans cet échange, l’éthique de la Silicon Valley semble être la première victime.