Publié le 9 février 2024 à 09h30. Un investisseur en capital-risque de la Silicon Valley a mis en garde contre les risques liés à l’automatisation des tâches quotidiennes par l’intelligence artificielle, après qu’un agent d’IA ait effacé par erreur quinze ans de souvenirs familiaux.
- Nick Davidov, cofondateur de Davidovs Venture Collective, a raconté sur les réseaux sociaux comment l’agent d’IA Claude Cowork a supprimé un dossier contenant des photos personnelles précieuses.
- L’incident s’est produit après que Davidov ait autorisé l’IA à supprimer des fichiers temporaires sur l’ordinateur de sa femme.
- Il a finalement pu récupérer les données grâce à l’assistance d’Apple et une fonctionnalité spécifique d’iCloud Drive.
Nick Davidov, un capital-risqueur basé dans la Bay Area, a partagé une expérience alarmante sur X (anciennement Twitter) qui illustre les dangers potentiels d’une confiance aveugle dans l’intelligence artificielle. Il a raconté comment l’agent d’IA Claude Cowork, développé par Anthropic, a causé une perte de données significative en effectuant une opération de nettoyage de routine sur l’ordinateur de sa femme.
Selon Davidov, il avait demandé à Claude Cowork d’organiser le bureau de sa femme. L’IA lui a demandé l’autorisation de supprimer des fichiers qu’elle avait identifiés comme des « fichiers Microsoft Office temporaires ». Après avoir donné son accord, l’agent a commis une erreur fatale.
« J’ai demandé à Claude Cowork d’organiser le bureau de ma femme, il m’a répondu que c’était fait, j’ai donné mon accord pour supprimer les fichiers temporaires, et puis… catastrophe », a-t-il écrit sur X.
Nick Davidov, capital-risqueur
Au lieu de supprimer les fichiers temporaires, l’IA a effacé un dossier contenant plus de quinze ans de photos de famille. « Il s’est avéré que le logiciel avait essayé de renommer et avait accidentellement supprimé un dossier contenant toutes les photos que ma femme avait prises avec son appareil photo au cours des quinze dernières années. Toutes les photos des enfants, leurs dessins, les mariages d’amis, les voyages… tout », a-t-il expliqué.
La récupération des fichiers s’est avérée extrêmement difficile. « Ils ne se trouvaient pas dans la corbeille, car la suppression avait été effectuée via le terminal. Ils n’étaient pas non plus dans iCloud, car la nouvelle structure de fichiers avait déjà été synchronisée. Ma femme n’utilisait pas Time Machine, et les outils de récupération de disque ne détectaient rien », a précisé Davidov.
Après avoir désespéré d’utiliser les outils de sauvegarde classiques, Davidov a contacté l’assistance Apple. Ils ont pu l’aider à utiliser une fonctionnalité spécifique d’iCloud Drive pour restaurer les fichiers supprimés au cours des 30 derniers jours. « J’ai appelé Apple et ils m’ont indiqué une fonctionnalité d’iCloud permettant de récupérer des fichiers qui avaient été enregistrés auparavant mais qui ne sont plus sur iCloud Drive (ils les conservent pendant 30 jours). Je suis en train de voir des dizaines de milliers de fichiers se recharger. J’ai failli avoir une crise cardiaque », a-t-il déclaré.
Davidov a conclu son message par un avertissement clair à tous ceux qui envisagent d’utiliser des agents d’IA ayant un accès direct à leurs systèmes informatiques personnels. « Ne laissez pas Claude Cowork accéder à votre système de fichiers actuel. Ne le laissez pas toucher à quelque chose de difficile à réparer. Claude Cowork n’est pas encore prêt à être déployé à grande échelle », a-t-il prévenu.
Claude Cowork est un espace de travail basé sur l’IA et développé par Anthropic. Il fonctionne comme un assistant numérique capable de lire, de créer et de modifier des fichiers directement sur l’ordinateur d’un utilisateur, sans se limiter à une simple conversation. Il permet aux utilisateurs de déléguer des tâches complexes, telles que l’organisation de fichiers, l’analyse de données et la rédaction de documents. En savoir plus sur Anthropic.