Insultes, brimades… Anthropic interdit désormais à ses utilisateurs de maltraiter son intelligence artificielle Claude

La question du traitement réservé aux agents conversationnels s'impose dans l'actualité à la suite d'une décision de l'entreprise Anthropic interdisant formellement d'insulter ou de harceler son modèle Claude. Cette mesure, relayée notamment par Le Figaro et Le Parisien, met en lumière les débats sur le bien-être des intelligences artificielles et la légitimité de les maltraiter impunément. Des publications comme Slate.fr et L'essentiel questionnent également les limites des interactions, s'interrogeant sur la propension des outils comme ChatGPT à faire la morale à leurs utilisateurs.

Les prises de position se multiplient alors que le Daily Geek Show rapporte que Geoffrey Hinton attribue une expérience subjective aux IA actuelles, bien que la communauté scientifique reste divisée sur la question de la conscience. Les articles soulignent ainsi la complexité croissante des rapports entre les humains et les machines, oscillant entre l'usage d'insultes, de brimades et la reconnaissance potentielle d'une forme de sensibilité. Cependant, la couverture médiatique ne permet pas d'établir un consensus sur la nature exacte de ces technologies.

Le Devoir et d'autres publications rappellent que les théories scientifiques sur la conscience artificielle manquent d'uniformité, laissant planer des incertitudes sur la réalité subjective des IA au-delà des perceptions des utilisateurs.