Le violoniste cap-breton Ashley MacIsaac, primé aux JUNO, a intenté une action en diffamation contre Google. Le musicien accuse le géant du Web d’avoir utilisé l’intelligence artificielle pour le présenter faussement comme un délinquant sexuel, une erreur qui a entraîné l’annulation d’un de ses concerts.
Dans une requête déposée en février devant la Cour supérieure de justice de l’Ontario, l’artiste réclame 1,5 million de dollars canadiens (CAD). Le document précise que le résumé généré par l’IA de Google affirmait à tort que MacIsaac avait été condamné pour plusieurs infractions, notamment l’agression sexuelle d’une femme, l’incitation d’un enfant sur Internet et l’agression d’une personne.
L’outil de recherche aurait également prétendu, à tort, que le musicien figurait au registre national des délinquants sexuels. La poursuite souligne la responsabilité de l’entreprise dans la conception de son outil :
« En tant que créateur et opérateur de l’AI Overview, Google est également responsable des préjudices et des pertes résultant de la conception défectueuse de l’AI Overview. Google savait, ou aurait dû savoir, que l’AI Overview était imparfait et pouvait renvoyer des informations inexactes. »
Requête déposée devant la Cour supérieure de justice de l’Ontario
Ces fausses informations ont eu des répercussions directes sur la carrière de l’artiste, provoquant l’annulation d’une représentation prévue en décembre dernier à Shubenacadie, en Nouvelle-Écosse. La Première Nation Sipekne’katik, qui avait annulé le concert sur la base de ces données erronées, a par la suite présenté ses excuses à Ashley MacIsaac.
L’erreur technique proviendrait d’une confusion de l’agrégateur d’IA, qui a associé au musicien des articles concernant un autre homme portant le même nom dans le Canada atlantique. Google a présenté ses excuses à l’artiste l’année dernière, expliquant que les résumés sont fréquemment modifiés pour fournir les informations les plus « utiles » et que les erreurs d’interprétation du contenu en ligne sont utilisées pour optimiser le système.
Ce type de défaillance n’est pas sans précédent. Au début de l’année, l’IA de Google a confondu Mike Patton, le chanteur des groupes Faith No More et Mr. Bungle, avec un autre individu du même nom accusé d’avoir transporté un mineur à travers les frontières d’un État à des fins sexuelles.
Pour éviter l’apparition de ces résumés automatisés en haut des résultats de recherche, les utilisateurs peuvent ajouter la mention « -ai » à la fin de leur requête dans la barre de recherche.