OpenAI ouvre la porte à des conversations plus intimes avec ChatGPT, le PDG Sam Altman annonçant que la société permettra bientôt à son intelligence artificielle de s’engager dans un « érotisme pour adultes vérifiés ». Cette évolution marque un tournant pour la célèbre IA, qui pourrait ainsi explorer de nouvelles voies de monétisation tout en naviguant dans un paysage complexe de questions éthiques et sociétales.
La décision d’OpenAI de s’aventurer dans le domaine de l’IA sexualisée intervient alors que le contenu à caractère érotique a rapidement démontré son attrait dès l’émergence du boom de l’IA générative en 2022. Cependant, les pionniers dans ce domaine ont dû faire face à des défis juridiques et sociétaux considérables, ainsi qu’à des abus nuisibles, à mesure que de plus en plus d’utilisateurs se tournaient vers ces technologies pour des interactions intimes.
« Nous ne sommes pas la police morale élue du monde », a déclaré Sam Altman mercredi, soulignant que la société était prête à accorder « plus de liberté d’utilisation pour les adultes » tout en instaurant de nouvelles limites pour les adolescents. Il a comparé cette approche à la manière dont la société différencie les contenus appropriés, comme les films classés R. Sur la plateforme X, le PDG a précisé : « De la même manière que la société différencie d’autres frontières appropriées (les films classés R, par exemple), nous voulons faire la même chose ici ». Cette démarche rappelle celle d’Elon Musk, propriétaire de X, qui a introduit un personnage animé doté d’IA capable de flirter avec les abonnés payants.
Actuellement, les abonnements payants à ChatGPT sont principalement destinés à un usage professionnel. Toutefois, permettre au chatbot de devenir un ami ou un partenaire romantique pourrait représenter une source de revenus supplémentaire pour la startup, qui cherche à justifier sa valorisation de 500 milliards de dollars, selon certains analystes.
« Ils ne gagnent pas vraiment beaucoup d’argent grâce aux abonnements, donc avoir du contenu érotique leur rapportera rapidement de l’argent », analyse Zilan Qian, chercheuse au China Policy Lab de l’Université d’Oxford, qui a étudié la popularité des chatbots basés sur les rencontres. Selon une étude qu’elle a publiée plus tôt ce mois-ci, environ 29 millions d’utilisateurs actifs utilisent des chatbots IA spécifiquement conçus pour des liens romantiques ou sexuels, sans compter ceux qui utilisent des chatbots conventionnels à ces fins. Cette statistique n’inclut pas non plus les utilisateurs de Character.AI, qui fait actuellement l’objet d’un procès alléguant qu’un chatbot inspiré de Daenerys Targaryen, personnage de « Game of Thrones », aurait noué une relation sexuellement abusive avec un garçon de 14 ans, le poussant au suicide. OpenAI est également poursuivie par la famille d’un utilisateur de ChatGPT âgé de 16 ans, décédé par suicide en avril.
Zilan Qian exprime son inquiétude quant aux répercussions sur les relations réelles lorsque des chatbots grand public, déjà enclins à la flatterie, seront disponibles 24h/24 pour diffuser du contenu sexuellement explicite. « ChatGPT propose des versions en voix de chat. Je m’attendrais à ce qu’à l’avenir, s’ils devaient suivre cette voie – voix, texte, visuel – tout soit là », indique-t-elle.
L’idée d’humains tombant amoureux de machines humanoïdes n’est pas nouvelle et a fait l’objet de nombreux récits, de la science-fiction du siècle dernier à la légende grecque antique de Pygmalion. Pour OpenAI, fondée il y a dix ans comme une organisation à but non lucratif dédiée à la construction sécurisée d’une IA « meilleure que l’humain », s’engager sur cette voie peut sembler un détour inattendu. En août dernier, Sam Altman déclarait dans un podcast qu’OpenAI avait tenté de résister à la tentation d’introduire des produits qui pourraient « stimuler la croissance ou les revenus », mais qui seraient « très mal alignés » avec sa mission à long terme. Il avait cité comme exemple : « Eh bien, nous n’avons pas encore mis d’avatar de sexbot dans ChatGPT ».
La startup Civitai, basée dans l’Idaho, une plateforme d’art généré par l’IA, a également appris à ses dépens que monétiser une IA mature n’est pas un chemin aisé. « Lorsque nous avons lancé le site, c’était un choix intentionnel d’autoriser le contenu pour adultes », a expliqué Justin Maier, co-fondateur et PDG de l’entreprise, dans une interview l’année dernière. Soutenue par la société de capital-risque Andreessen Horowitz, également investisseuse dans OpenAI, Civitai faisait partie des nombreuses entreprises tentant de capitaliser sur la popularité d’outils comme Stable Diffusion et Midjourney, qui permettaient de générer des images à partir de descriptions textuelles. La facilité avec laquelle Stable Diffusion pouvait créer un nouveau type de pornographie synthétique et hautement personnalisée a contribué à sa popularité initiale.
« Ce que nous avons constaté, c’est qu’il y avait beaucoup d’intérêt pour les contenus pour adultes », a confié Maier. Il a ajouté que l’entraînement de ces modèles d’IA sur des « thèmes matures a en fait permis à ces modèles d’être plus capables de comprendre l’anatomie humaine et a abouti à des modèles réellement meilleurs ». L’objectif était de ne pas entraver le type de croissance qui bénéficiait à l’ensemble de la communauté, qu’elle soit intéressée par le contenu adulte ou par des images de style Pixar. « Nous l’avons donc autorisé dès le début et avons toujours eu cette bataille pour pouvoir garder les choses filtrées et sécurisées, si ce n’est pas ce qui vous intéresse. Nous voulions finalement donner le contrôle à l’utilisateur pour décider de ce qu’il verrait sur le site et quelle serait son expérience. »
Cette approche a cependant encouragé les abus. Civitai a mis en œuvre des mesures pour détecter et supprimer les images sexuelles représentant des enfants, mais la plateforme reste un centre de pornographie générée par l’IA, y compris des images de célébrités créées de toutes pièces. Face à une pression croissante, notamment de la part des processeurs de paiement et d’une nouvelle loi contre les images non consensuelles signée par le président Donald Trump, Civitai a restreint plus tôt cette année la création d’images fausses de personnes réelles par les utilisateurs. L’engagement a diminué en conséquence.
Nomi, basé à Baltimore, est une autre entreprise qui n’a pas hésité à intégrer du contenu pour adultes. Son fondateur et PDG, Alex Cardinell, a cependant précisé que ses chatbots compagnons sont « strictement » destinés aux utilisateurs de plus de 18 ans et n’ont jamais été commercialisés auprès d’enfants. Ils ne sont pas non plus conçus pour des interactions sexuelles, bien que Cardinell ait déclaré qu’il était possible que des personnes établissant des relations platoniques avec leur chatbot finissent par y développer des sentiments romantiques. « Cela dépend en quelque sorte de l’utilisateur, car il manque en quelque sorte le fossé humain dans sa vie. Et je pense que c’est différent pour tout le monde », a-t-il indiqué.
Il a refusé de spéculer sur le nombre d’utilisateurs de Nomi ayant des conversations érotiques avec le chatbot, comparant cela à des partenaires réels qui peuvent faire des « choses de contenu pour adultes » pendant une partie de leur vie, mais « toutes sortes d’autres choses ensemble également ». Cardinell a conclu : « Nous ne surveillons pas les conversations des utilisateurs de cette manière ».