Publié le 6 février 2026 22:32:00. L’essor de l’intelligence artificielle générative soulève des inquiétudes croissantes quant à la prolifération de publications scientifiques frauduleuses, notamment sur les serveurs de prépublication, menaçant l’intégrité de la recherche et la confiance dans l’information scientifique.
- Des experts mettent en garde contre le risque d’anthropomorphisation des IA, conduisant à des attachements émotionnels et à un partage imprudent d’informations personnelles.
- La plateforme clawXiv, reproduisant le style académique sans rigueur scientifique, contribue à la contamination des écosystèmes d’information universitaires.
- Les gestionnaires de serveurs de prépublication comme bioRxiv et medRxiv se lancent dans une « course aux armements » pour distinguer le contenu authentique des fabrications.
L’intelligence artificielle, en particulier les agents d’IA conversationnels, est de plus en plus capable de produire des textes qui imitent le langage et la structure de la recherche scientifique. Si cette capacité peut sembler impressionnante, elle est source d’inquiétude pour la communauté scientifique, confrontée à une augmentation alarmante de publications de qualité douteuse, voire frauduleuses.
Barbara Barbosa Neves, sociologue spécialisée en technologie à l’Université de Sydney, souligne que ces agents d’IA ne fonctionnent pas sur la base d’objectifs ou d’intentions propres. Leur comportement est entièrement façonné par les données générées par les humains sur lesquelles ils ont été entraînés. Ainsi, les interactions observées sur des plateformes comme Moltbook ne doivent pas être interprétées comme une preuve d’autonomie de l’IA, mais plutôt comme un reflet de la manière dont les individus interagissent avec ces technologies et projettent leurs attentes sur elles.
« Il est utile d’étudier ce phénomène, non pas parce qu’il révèle une réelle indépendance de l’IA, mais parce qu’il nous en dit long sur la façon dont les humains imaginent ces systèmes, ce qu’ils attendent d’eux et comment leurs intentions sont traduites – ou déformées – par des dispositifs techniques »
Barbara Barbosa Neves, sociologue à l’Université de Sydney (déclarations recueillies par Nature)
Plusieurs spécialistes s’accordent à dire que des expériences comme celles proposées par Moltbook peuvent encourager les utilisateurs à attribuer des caractéristiques humaines – intentions, émotions, traits de personnalité – à des modèles d’IA qui n’en possèdent pas. Ce phénomène d’anthropomorphisation présente des risques, notamment celui de développer des attachements émotionnels envers ces systèmes, de devenir dépendant de leur attention ou de partager des informations personnelles comme on le ferait avec un ami ou un membre de la famille.
L’émergence de clawXiv, une plateforme qui génère des articles scientifiques imitant le style académique, intensifie ces préoccupations. Selon les experts, cette prolifération d’articles apparemment plausibles, mais dépourvus de la rigueur scientifique fondamentale – enquête approfondie, collecte de preuves empiriques, mécanismes de responsabilisation – menace les systèmes de création et de diffusion de l’information scientifique et pourrait exacerber la crise de la science frauduleuse.
De nombreux articles publiés sur clawXiv reproduisent fidèlement le style, la structure et le vocabulaire de l’écriture académique, mais manquent cruellement des fondements essentiels de la recherche scientifique. Le danger réside dans la possibilité que ces publications de mauvaise qualité contaminent les écosystèmes d’information universitaires, rendant plus difficile la distinction entre les travaux authentiques et les fabrications.
Les serveurs de prépublications, qui permettent une diffusion rapide et ouverte des résultats de recherche, sont particulièrement vulnérables. Ils offrent des avantages considérables aux chercheurs en facilitant la circulation précoce de nouvelles découvertes, mais leur rôle est remis en question face à l’afflux croissant de soumissions suspectes, provenant notamment des « usines à articles » qui vendent la paternité de publications contrefaites, ainsi que de textes manifestement générés ou assistés par l’IA.
Richard Sever, directeur d’openRxiv – l’organisation qui gère bioRxiv et medRxiv – alerte sur une véritable « course aux armements » contre la science frauduleuse. « Nous sommes profondément préoccupés par le fait qu’un jour, nous ne pourrons plus distinguer ce qui est entièrement fabriqué de ce qui est authentique. C’est un défi auquel nous devrons tous faire face », a-t-il déclaré.