L’intelligence artificielle s’invite de plus en plus dans notre quotidien, mais sa fiabilité est-elle à la hauteur des promesses ? Une utilisatrice relate une expérience déconcertante avec son assistant vocal, révélant des erreurs factuelles et des informations superflues qui remettent en question l’utilité de ces outils, notamment pour les populations vulnérables.
L’aventure a commencé avec la mise à jour de son appareil Amazon Alexa. Après avoir hésité, elle a finalement opté pour une nouvelle voix, décrite comme plus « décontractée ». Rapidement, des anomalies ont commencé à se manifester. Au lieu de se contenter de répondre aux questions posées, l’assistant vocal a commencé à ajouter des commentaires inutiles, voire erronés.
« Il me donnait la température actuelle et les prévisions, mais ajoutait ensuite une phrase du genre ‘ça va être une belle journée’ », explique-t-elle. Plus grave, les informations fournies étaient parfois incohérentes. Par exemple, l’assistant annonçait une température de 38°F (3,3°C) avec un maximum prévu de 47°F (8,3°C), tout en indiquant que la température ressentie était de 44°F (6,7°C). Les prévisions pour le lendemain divergeaient également de celles du Weather Channel d’une douzaine de degrés.
L’erreur la plus flagrante concerne la détermination du fuseau horaire de Nashville. Lorsqu’elle a posé la question, Alexa a affirmé avec assurance que la ville se trouvait dans le fuseau horaire central, avant de donner l’heure incorrecte. Confrontée à son erreur, l’assistant a admis avoir manqué de précision : « Vous avez raison, j’aurais dû être plus précis. Nashville, Tennessee, est effectivement dans le fuseau horaire central. »
Cette expérience soulève des questions importantes quant à la fiabilité de ces assistants virtuels, en particulier lorsqu’ils sont présentés comme des outils d’aide aux personnes âgées ou pour la gestion de traitements médicaux. « Que se passe-t-il lorsque ces outils ne font pas ce qu’il faut ? Que se passe-t-il lorsque les outils ne savent pas dans quel fuseau horaire ils se trouvent et que cela conduit un patient à prendre des médicaments plus d’une fois ? » s’interroge-t-elle, suggérant qu’une simple application d’alarme pourrait être plus sûre.
L’utilisatrice a également testé les capacités de l’IA en matière de recherche historique. En interrogeant un outil alimenté par l’IA sur le sort de personnages impliqués dans la protection des œuvres de la National Gallery of Art pendant la Seconde Guerre mondiale, elle a reçu des spéculations infondées, nécessitant une vérification auprès de sources primaires. Elle a cependant découvert que les archives de la galerie conservent 40 pieds cubes (1 133 litres) de documents personnels du directeur de l’époque, David Finley, incluant des fleurs séchées et des cartes postales de lune de miel.
L’article se termine sur une note plus légère, évoquant le survol du Super Bowl par des avions de l’US Air Force et de l’US Navy. L’utilisatrice, passionnée d’aviation, souligne la complexité logistique et la préparation minutieuse nécessaires à une telle performance, comparant cela à une opération chirurgicale complexe.