Mon invité sur Hashtag Trending, l’édition du week-end est David Auerbach, auteur de “Meganets. Comment des forces numériques indépendantes de notre volonté réquisitionnent notre vie quotidienne et nos réalités intérieures.
Il y a eu une série de nouvelles sur l’intelligence artificielle au cours des dernières semaines. Alors que nous nous émerveillons devant les capacités du ChatGPT d’OpenAI, il y a aussi un niveau croissant d’inquiétude qui filtre dans le discours public. Assiste-t-on à la future prise de contrôle de l’humanité par une technologie hors de contrôle ?
Mais que se passe-t-il si cette « prise de contrôle » a déjà eu lieu ? Et si notre infrastructure technologique était actuellement hors de notre contrôle ? Cette idée est à la base de ce nouveau livre – Meganets – et le sujet de mon entretien avec l’auteur, David Auerbach.
« Que sont les méganets ?
Selon Auerbach, un « Meganet est un réseau de données persistant, qui ne s’arrête pas, qui évolue. Ce n’est jamais deux fois au même endroit. Et c’est opaque. Et ce genre de réseau de données qui contrôle ou du moins influence notre façon de voir le monde. Et cela provient non seulement de centaines ou de milliers de serveurs et de leurs algorithmes, mais aussi de millions et de millions de personnes interagissant avec ces serveurs, créant constamment une boucle de rétroaction qui amène les serveurs à changer, ce qui change notre comportement.
“Et cela donne lieu aux trois C – trois qualités que j’ai attribuées à la création d’un volume massif de contenu, la vitesse élevée dont le contenu peut être transmis de n’importe où à n’importe où à travers de nombreuses personnes, et une viralité explosive. Où un petit facteur déclencheur peut exploser avant même que quelqu’un ait le temps d’y réfléchir et de dire : ‘Qu’est-ce qui se passe ici ?’
Comment cela s’est-il produit et en grande partie sans que nous nous en apercevions ? Auerbach décrit dans le livre comment l’évolution de la technologie et la taille et la complexité de ces systèmes les ont rendus impossibles à contrôler complètement.
“Alors que les mainframes des années 1960 et les PC des années 1980 étaient localisés et suffisamment simples pour nous permettre une compréhension quasi parfaite du travail qu’ils faisaient, l’essor des réseaux Internet à grande échelle, Facebook et Google en tête, a effacé la majeure partie de cette certitude. Nos réseaux informatiques d’aujourd’hui sont tout aussi immunisés contre le contrôle fin et la prédiction parfaite que la météo, les plaques tectoniques ou les prix de la crypto-monnaie.
Pour Auerbach, ce que nous voyons avec ChatGPT et des systèmes similaires est cohérent avec l’émergence des Meganets. Ces nouveaux systèmes ne sont pas “intelligents d’une manière humaine”, dit Auerbach. Mais bien qu’ils ne puissent pas être considérés comme de l’intelligence humaine, ils “en effectuent une assez bonne simulation qui a pu convaincre beaucoup de gens”.
C’est peut-être le plus gros problème de ce nouveau développement. “Même si nous n’avons pas de véritable intelligence artificielle, si nous avons des machines qui peuvent tromper les gens en leur faisant croire qu’elles sont intelligentes, c’est un problème en soi, surtout si elles se comportent de manière imprévisible.”
Avons-nous déjà perdu le contrôle pour toujours ? Comment obtiendrons-nous jamais la transparence et la capacité d’audit pour nous permettre de contrôler l’IA ? Auerbach doute que nous le ferons un jour. En fait, demande-t-il, « avons-nous une capacité d’audit de Facebook ou de Twitter ? » Il note que “tous ces appels à la transparence et à l’explicabilité” sont “bien intentionnés, je ne vois tout simplement pas cela sortir d’eux”.
Ces systèmes sont devenus si vastes et complexes qu’il n’est peut-être pas possible pour les humains de comprendre pleinement leurs processus. Ce n’est pas “qui regarde les Watchmen, mais qui a le temps de regarder les watchmen?”
Notre interview, qui a plongé profondément dans cela et plus encore, s’est terminée par un certain optimisme. Nous ne contrôlons peut-être pas les algorithmes, mais ils peuvent également échapper au contrôle de leurs propriétaires milliardaires. “Chacun de nous en contrôle un peu, et très peu de gens en contrôlent suffisamment pour faire une différence.”
Bien que cette idée de perte de contrôle puisse sembler effrayante pour certains, pour Auerbach, cela peut être mieux que l’alternative. “Que personne n’ait le contrôle – c’est mieux que quelqu’un qui l’ait.”
Son dernier conseil – et pourquoi il a écrit le livre. “La perte de contrôle est quelque chose que j’ai essayé de communiquer.” Cette prise de conscience affecte les gens différemment, dit-il. “Certaines personnes semblent encore penser que cela pourrait être facilement résolu d’une manière ou d’une autre.”
Alors qu’Auerbach conteste l’idée que nous pouvons facilement reprendre le contrôle, ou même si c’est possible du tout, dit-il, “il y a des gens qui semblent penser que je suis beaucoup plus pessimiste que je ne le suis”.
« Je reconnais également les avantages considérables de la technologie. C’est juste que je pense que pour que ces avantages soient actualisés et perdurent, le côté obscur doit être reconnu plus clairement.
