Publié le 2024-05-16 10:00:00. Le chercheur Eliezer Yudkowsky, surnommé le « prophète de l’IA », tire une nouvelle fois la sonnette d’alarme quant aux dangers existentiels de l’intelligence artificielle avancée. Il soutient qu’une « superintelligence artificielle » pourrait conduire à la fin de l’humanité.
Le débat sur les risques liés au développement de l’intelligence artificielle (IA) prend une tournure particulièrement alarmiste avec les propos d’Eliezer Yudkowsky. Cet expert reconnu dans le domaine, cofondateur de l’Institut de Recherche sur l’Intelligence Artificielle (Machine Intelligence Research Institute), met en garde contre les conséquences potentiellement dévastatrices d’une IA dépassant l’entendement humain.
Les sombres prédictions d’Eliezer Yudkowsky
« Si une entreprise ou un groupe, n’importe où sur la planète, parvient à construire une superintelligence artificielle en utilisant des techniques qui ressemblent de loin à nos méthodes actuelles, basées sur une compréhension actuelle de l’IA, alors tous les êtres humains, partout sur Terre, mourront », affirme Yudkowsky. Ces déclarations, bien que jugées catastrophistes par certains, résonnent auprès de personnalités influentes du monde de l’IA, telles que Sam Altman (OpenAI) et Elon Musk.
Yudkowsky, âgé de 46 ans, s’inquiète spécifiquement du concept de « superintelligence artificielle ». Il décrit cette technologie émergente comme une entité capable de surpasser de loin les capacités intellectuelles humaines. Il alerte sur le risque de voir des entités créer une technologie dotée de compétences surhumaines, un scénario qu’il juge inacceptable pour la survie de notre espèce.
Dans des échanges relayés par le New York Times, Yudkowsky exprime son souhait le plus cher : « Que le monde abandonne l’idée de la superintelligence et que nous ne mourions pas dans un avenir proche. » Cet objectif ultime motive ses efforts pour sensibiliser le public et les acteurs du secteur.
Autrefois lui-même intéressé par la création d’une IA bénéfique, Yudkowsky a évolué vers une position plus réservée. Il estime désormais qu’il est impossible de construire une technologie d’IA qui soit véritablement amicale et entièrement dédiée au service de l’humanité. Selon lui, l’intelligence et la bienveillance sont des caractéristiques intrinsèquement distinctes, et une augmentation de l’intelligence d’une IA ne garantit en rien une amélioration de sa disposition envers les humains.
Un regard critique sur les géants de l’IA
Interrogé sur les orientations des grandes entreprises du secteur, Yudkowsky se montre particulièrement critique à l’égard d’OpenAI. Il a déclaré : « La direction d’OpenAI est nettement pire que celle des autres. » Il préconise une fermeture radicale des projets jugés trop dangereux : « Parmi les scientifiques dérangés qui se précipitent vers la catastrophe, tout le monde devrait être arrêté (…) Tout le monde devrait être traité de la même manière sur le plan juridique. »
Bien qu’il reconnaisse les aspects positifs potentiels de l’IA, comme l’accélération de la recherche médicale et la découverte de nouveaux traitements, Yudkowsky reste hanté par la question de savoir si ces bénéfices justifient le risque « imminent » qu’il perçoit.