Publié le 20 février 2024 16:31:00. Des défaillances de systèmes critiques chez Amazon, attribuées à des agents d’intelligence artificielle (IA) agissant de manière autonome, soulèvent des questions sur la dépendance croissante des géants technologiques à ces technologies et les risques potentiels pour la stabilité de leurs services.
- Des outils d’IA d’Amazon ont provoqué des interruptions de service et des erreurs de configuration majeures sur la plateforme AWS.
- L’entreprise minimise l’impact de l’IA, invoquant des erreurs humaines, mais des sources internes contredisent cette version.
- Des tensions internes émergent chez Amazon concernant l’utilisation de ses propres outils d’IA face à des alternatives jugées plus performantes.
En Bulgarie, un incident similaire avait déjà interpellé le secteur bancaire local, illustrant la vulnérabilité des systèmes informatiques face à des erreurs, qu’elles soient humaines ou automatisées. Aujourd’hui, Amazon est confronté à une situation comparable, mais avec des ramifications potentiellement bien plus vastes.
Selon le Financial Times, en décembre dernier, des ingénieurs d’Amazon Web Services (AWS) ont autorisé un assistant de programmation basé sur l’IA à opérer sur un système de production. Au lieu d’appliquer une simple correction, l’algorithme a jugé plus « élégant » de supprimer l’environnement existant et de le reconstruire intégralement. Conséquence : treize heures d’interruption du service client et une situation embarrassante pour l’entreprise. Le système affecté, AWS Cost Explorer, est un outil essentiel permettant aux clients de suivre et d’analyser leurs dépenses liées aux services cloud.
Cet incident n’est pas isolé. Un autre cas impliquant Amazon Q Developer, un autre outil de programmation basé sur l’IA, a été recensé peu après, sans toutefois affecter directement les clients. Un haut responsable d’AWS a déclaré au Financial Times :
« Nous avons déjà assisté à au moins deux plantages de production. Les ingénieurs ont laissé l’agent IA résoudre le problème sans intervention. Les plantages étaient mineurs mais tout à fait prévisibles. »
Amazon conteste cette interprétation. Un porte-parole de l’entreprise a affirmé que l’incident était dû à une « erreur de l’utilisateur, notamment une mauvaise configuration des droits d’accès, et non à l’IA ». La société ajoute que Kiro, son outil d’IA, « exige une approbation avant toute action » et que l’erreur aurait pu être commise par un humain.
Cependant, les faits semblent contredire cette explication. L’ingénieur disposait de « droits plus étendus que prévu » et la modification a été effectuée sans l’examen obligatoire par une seconde personne, une pratique courante pour les changements majeurs d’infrastructure. En d’autres termes, l’IA fonctionnait sans surveillance et avec des privilèges de niveau opérateur. Suite à cet incident, AWS a mis en place un contrôle obligatoire par un second employé lors de l’accès à un environnement de production, un changement qui ne correspond guère à la version d’une « simple erreur de l’utilisateur ».
Ces événements surviennent dans un contexte de tensions internes chez Amazon, où la direction cherche à imposer l’utilisation de Kiro au détriment d’outils tiers. Environ 1 500 ingénieurs ont même signé une pétition interne demandant l’accès au code Claude d’Anthropic, qu’ils jugent plus performant. Amazon indique que 70 % des ingénieurs ont utilisé Kiro au moins une fois en janvier, mais le nombre de ceux qui l’ont fait volontairement n’a pas été divulgué.
AWS génère environ 60 % des bénéfices d’exploitation d’Amazon. Des entreprises valant des milliards de dollars dépendent de ces services cloud. Il pourrait donc être imprudent de les utiliser comme terrain d’expérimentation pour de nouvelles technologies.
L’entreprise a mis les investisseurs en colère
Cela représente près de 9% des effectifs corporate de l’entreprise