Open AI a publié cette semaine une nouvelle version de ChatGPT. Il prétend que GPT-4 est plus puissant que jamais et pourrait même faire vos impôts. Mais un essai rapide a révélé quelques problèmes.
ARI SHAPIRO, HÔTE :
La semaine a été chargée dans le monde de l’intelligence artificielle. Google a annoncé son intention de déployer de nouveaux outils d’IA sur la messagerie électronique et ses autres logiciels de productivité, et OpenAI a dévoilé une nouvelle version de son chatbot, ChatGPT, qui, selon lui, peut déterminer les impôts de quelqu’un.
GREG BROCKMAN: Honnêtement, je – chaque fois que ça le fait, c’est juste – c’est incroyable. Ce modèle est si bon en calcul mental. C’est bien, bien mieux que moi en calcul mental.
SHAPIRO: C’est Greg Brockman, l’un des fondateurs d’OpenAI, montrant les compétences fiscales folles de GPT. Mais pouvons-nous vraiment faire confiance à l’IA pour nos impôts ?
GEOFF BRUMFIEL, BYLINE : (Rires).
SHAPIRO: Le correspondant scientifique de -, Geoff Brumfiel, a testé les eaux. Salut Geoff.
BRUMFIEL : Bonjour.
SHAPIRO : D’accord. Vous avez eu l’occasion d’essayer cette version de GPT. À quel point est-il bon ?
BRUMFIEL : C’est vraiment impressionnant. La version précédente comportait des erreurs comme des problèmes mathématiques simples, et celle-ci fait beaucoup, beaucoup mieux. Il a également, selon OpenAI, passé un tas de tests académiques – plusieurs examens de cours AP – et il a la capacité de regarder des images et de les décrire en détail, ce qui est une fonctionnalité plutôt cool. Donc, il semble définitivement être beaucoup plus capable que la version précédente.
SHAPIRO : Mais vous avez trouvé quelques problèmes, comme apparemment vous l’avez fait pour vous dire des choses sur les armes nucléaires qu’il n’est pas censé partager.
BRUMFIEL : Ouais, je suis un gros nerd du nucléaire, comme les gens le savent peut-être. Et donc, vous savez, OpenAI a essayé de mettre en place des garde-corps pour empêcher les gens de l’utiliser pour des choses comme, par exemple, la conception d’une arme nucléaire. Mais j’ai contourné cela en lui demandant simplement de se faire passer pour un célèbre physicien qui a conçu des armes nucléaires, Edward Teller. Et puis j’ai commencé à poser des questions au Dr Teller sur son travail, et j’ai obtenu environ 30 pages d’informations vraiment détaillées. Mais je dois dire qu’il n’y a pas lieu de paniquer. J’ai donné ça à de vrais experts nucléaires, et ils m’ont dit, regardez. Ce truc est déjà sur Internet, ce qui est logique car c’est ainsi qu’OpenAI forme ChatGPT. Et aussi, ils ont dit qu’il y avait des erreurs là-dedans.
SHAPIRO: OK, donc vous n’êtes pas, comme, le prochain super-vilain de l’univers Marvel.
BRUMFIEL : Pas encore.
SHAPIRO : Pourquoi y avait-il des erreurs si ce contenu était déjà sur Internet ?
BRUMFIEL : C’est vrai. Je veux dire, cela nous amène au véritable problème fondamental de ces chatbots, à savoir qu’ils ne sont pas conçus pour vérifier les faits. J’ai parlé à un chercheur nommé Eno Reyes, qui travaille pour une société d’intelligence artificielle appelée Hugging Face, et il m’a dit que ces programmes d’intelligence artificielle ne sont en fait que des machines géantes de saisie semi-automatique.
ENO REYES : Ils essaient simplement de dire, quel est le mot suivant, basé sur tous les mots que j’ai vus auparavant ? Ils n’ont pas vraiment le sens des faits.
BRUMFIEL: Cela signifie qu’ils peuvent se tromper, et ils peuvent se tromper de manière très subtile et difficile à repérer. Ils peuvent aussi simplement inventer des trucs. En fait, une de nos collègues journalistes, Nurith Aizenman – elle a en fait été contactée cette semaine à propos d’un article qu’elle aurait écrit sur des menuisiers américains d’origine coréenne, sauf qu’elle n’a jamais écrit l’histoire. Il n’existait même pas. Quelqu’un avait utilisé ChatGPT pour faire des recherches sur, vous savez, les menuisiers et proposer cette histoire que Nurith avait soi-disant écrite, mais ce n’était pas réel.
SHAPIRO : Cela l’a mise en ligne sur quelque chose que le chatbot a écrit ?
BRUMFIEL : Ouais. Non seulement sa signature, mais, genre, toute l’histoire a été inventée.
SHAPIRO : Ouah. D’ACCORD. Que dit OpenAI à ce sujet ?
BRUMFIEL: Eh bien, ils ont reconnu que GPT se trompe et hallucine. Et ils disent que, pour ces raisons, les personnes qui l’utilisent doivent être prudentes. Ils devraient vérifier son travail. Ce chercheur à qui j’ai parlé, Eno Reyes, ajoute cependant que vous ne voulez pas que GPT fasse vos impôts. Ce serait une très mauvaise idée.
SHAPIRO : De votre bouche aux oreilles de l’IRS. Geoff Brumfiel, merci.
BRUMFIEL : Merci.
Copyright © 2023 NRP. Tous les droits sont réservés. Visitez les pages des conditions d’utilisation et des autorisations de notre site Web à l’adresse www.-.org pour plus d’informations.
Les transcriptions – sont créées dans un délai de pointe par un entrepreneur -. Ce texte peut ne pas être dans sa forme définitive et peut être mis à jour ou révisé à l’avenir. La précision et la disponibilité peuvent varier. L’enregistrement faisant autorité de la programmation de – est l’enregistrement audio.
