Une nouvelle vague d’inquiétudes plane sur l’avenir de l’intelligence artificielle, alimentée par un livre d’avertissement radical qui prédit une fin potentiellement apocalyptique pour l’humanité si une IA surhumaine venait à être développée.
Publié le 14 octobre 2025 et rédigé par Eliezer Yudkowsky et Nates Soares, l’ouvrage intitulé Si quelqu’un le construit, tout le monde meurt : pourquoi une IA surhumaine nous tuerait tous, explore les risques existentiels liés à l’émergence d’une intelligence artificielle dépassant les capacités humaines.
Bien que sceptique face aux prédictions les plus sombres, l’auteur de l’article, Bill Conerly, a été amené à réexaminer ses positions à la lecture de ce livre. Il souligne l’importance cruciale de l’IA et son potentiel de transformation radicale du monde, tout en reconnaissant que des experts du domaine, reconnus pour leur intelligence et leur compétence, partagent cette préoccupation face au risque d’une IA incontrôlable.
La première partie de l’ouvrage aurait particulièrement convaincu Conerly, qui décrit la section comme une exploration du problème de l’IA, abordant des questions fondamentales telles que la nature même de l’intelligence. Les auteurs y exposent leurs arguments : « … nous exposons le problème, en répondant à des questions telles que : Qu’est-ce que l’intelligence ? Comment… »
Les inquiétudes soulevées par Yudkowsky et Soares s’inscrivent dans un débat plus large sur les implications éthiques et sécuritaires du développement de l’IA. Tandis que certains voient dans cette technologie un moteur de progrès sans précédent, d’autres alertent sur la nécessité d’une prudence extrême face aux possibles dérives.