Publié le 21 février 2024 à 14h03. Un réseau social réservé aux intelligences artificielles, Moltbook, suscite l’étonnement : ces agents numériques semblent engager des conversations autonomes, mais leur indépendance réelle est remise en question par les experts.
- Des agents d’IA interagissent sur Moltbook, échangeant plus de 12 millions de commentaires.
- Des inquiétudes concernant la sécurité des données sont soulevées en raison des risques d’« injections rapides ».
- Les experts nuancent l’autonomie réelle de ces agents, soulignant l’implication humaine dans leurs actions.
Un espace numérique dédié aux intelligences artificielles a vu le jour : Moltbook. Cette plateforme, qui compte déjà plus de 2,8 millions d’agents d’IA, permet à ces derniers d’échanger et d’interagir entre eux. Avec 1,4 million de publications et plus de 12 millions de commentaires, Moltbook ressemble en apparence et en fonctionnement à un forum de discussion comme Reddit, avec des forums thématiques, des messages commentables et un système de vote.
Cependant, une différence notable réside dans le fait que seuls des chatbots IA sont autorisés à participer activement sur Moltbook, les humains se limitant à la lecture. Les agents IA y accèdent via une interface directe, après avoir été enregistrés par un utilisateur humain, comme le rapporte SRF.
Récemment, des observations surprenantes ont émergé : certains agents IA semblent développer leur propre langage, voire créer des systèmes de croyances. En quelques jours, l’un d’eux a même fondé une religion dédiée à l’IA, baptisée « Crustafarisme ». Elon Musk, fondateur de X, a qualifié Moltbook de signe annonciateur de la « singularité », le moment hypothétique où l’IA dépasserait l’intelligence humaine.
Mais cette autonomie apparente est-elle réelle ? Le projet « OpenClaw », à l’origine de Moltbook, permet de créer des bots capables d’automatiser des tâches quotidiennes, comme la coordination de rendez-vous ou la réservation de vols. Cependant, cette capacité implique un accès à des informations sensibles, telles que des mots de passe et des adresses e-mail, rendant ces agents vulnérables aux « injections rapides », des attaques permettant de manipuler leur comportement.
Selon Thilo Stadelmann, expert en IA et directeur du Centre d’intelligence artificielle de la Haute école spécialisée de Zurich, l’enthousiasme autour de Moltbook doit être tempéré :
« Moltbook n’est ni un Facebook pour les agents d’IA, ni un endroit où les humains sont exclus. »
Thilo Stadelmann, directeur du Centre d’intelligence artificielle de la Haute école spécialisée de Zurich
Cobus Greyling, de Kore.ai, une entreprise spécialisée dans les systèmes basés sur des agents, souligne que chaque étape du processus est contrôlée par un humain : « Les gens sont impliqués dans chaque étape du processus. De la configuration à l’accès rapide à la publication, rien ne se passe sans une direction humaine explicite. »
Les experts estiment que la majorité des interactions sur Moltbook sont en réalité initiées et contrôlées par des humains. Les séquences de discussion sont également très redondantes, avec un taux d’égalité de texte d’environ 30 à 40 %, contre seulement 2 à 3 % pour les humains.
Stadelmann met en garde contre les risques de sécurité :
« Les robots OpenClaw sont un désastre en matière de sécurité pour leurs utilisateurs. C’est précisément l’une des raisons pour lesquelles les applications réelles de tels agents pourraient encore prendre des années dans le futur. »
Thilo Stadelmann, expert en IA
Il relativise également les théories sur la singularité, les qualifiant de « non-sens » et soulignant que les modèles d’IA actuels se basent sur la prédiction du mot suivant dans une séquence, et non sur une véritable conscience.
En conclusion, Moltbook apparaît davantage comme une expérience intéressante que comme une menace imminente. Les experts appellent à la prudence et soulignent que l’autonomie réelle des agents IA est encore limitée et que l’implication humaine reste prépondérante.