Les critiques négatives émises par ChatGPT concernant l’Allemagne de l’Est déclenchent un débat de fond sur la neutralité des intelligences artificielles et la nécessité d’un esprit critique face à ces outils.
Loin d’être une simple question technique, la controverse autour de l’IA, et notamment de ses représentations biaisées, met en lumière les enjeux de communication et d’équité sociale. Au cœur de la polémique, la qualité et la sélection des données alimentant ces modèles linguistiques sont pointées du doigt. En s’entraînant sur des textes existants, ChatGPT reproduit et amplifie les préjugés médiatiques, particulièrement ceux qui dépeignent négativement l’Allemagne de l’Est.
« La majorité de l’IA fait référence à des informations fausses et empoisonnées, qui ne font alors que développer des conclusions basées sur la quantité et non sur la qualité. »
Comme le soulignent plusieurs commentateurs, l’IA ne possède pas d’agenda propre ; elle est le reflet fidèle de ce qui a été écrit. Si certaines perspectives sont surreprésentées dans les données d’entraînement, le risque de distorsion devient majeur. Le problème ne réside donc pas tant dans la technologie elle-même que dans le déséquilibre du discours public.
« L’IA fait ce dont elle est régulièrement nourrie. Les critiques négatives sur l’Allemagne de l’Est sont régulièrement diffusées. Le mauvais côté, c’est que de nombreuses personnes se font également leur opinion à partir d’elle. »
L’image négative de l’Allemagne de l’Est, souvent associée à des régions perçues comme défavorisées ou influencées par des partis extrêmes, est ainsi intégrée par l’IA. « L’Allemagne de l’Est est massivement dévalorisée, notamment par les médias ouest-allemands, par exemple en tant que région infestée par l’AfD. ChatGPT enregistre ces jugements et les reproduit ; cela fait partie du mécanisme fonctionnel du programme. »
« Une IA évalue les informations sur Internet. Et si les pays de l’Est de l’Allemagne sont majoritairement présentés comme des victimes et des défavorisés dans les médias, l’IA ne peut arriver à aucune autre conclusion. »
Les limites de l’IA : entre logique mathématique et absence d’empathie
De nombreux utilisateurs rappellent que l’IA, malgré sa fluidité rédactionnelle, ne possède ni intelligence réelle, ni empathie, ni jugement moral. Elle se contente de traiter des données selon des règles mathématiques, générant des réponses basées sur des probabilités statistiques sans en comprendre le sens profond. « C’est juste qu’une IA ne peut pas penser, elle traite simplement de grandes quantités d’informations existantes selon des règles données. Ce n’est donc pas nouveau, cela reflète simplement les informations existantes. »
« Savez-vous tous comment fonctionne une telle (prétendue) IA ? Elle produit ce avec quoi vous l’alimentez. Si les médias présentent toujours l’Allemagne de l’Est sous un mauvais jour, l’IA fait de même. Elle n’a que ce matériel. »
L’idée fausse selon laquelle l’IA aurait une opinion est principalement due à sa capacité à exprimer des informations de manière cohérente. Cependant, comme le précisent certains, il s’agit d’une « machine inintelligente. Une série d’algorithmes qui traitent tout ce qu’ils obtiennent en termes de données et en tirent des conclusions logiques. Ils n’ont ni appréciation ni empathie, ils ne peuvent que faire semblant. »
« Quiconque pose de telles questions à ChatGPT et fait confiance à la réponse ou l’évalue comme une déclaration générale n’a aucune idée de l’IA. Comme déjà décrit, il s’agit d’un logiciel dans lequel les réseaux neuronaux logiciels, les nœuds, sont formés avec 0 et 1. »
Il est également crucial de noter que l’IA peut être manipulée. « L’IA peut également être utilisée pour manipuler ceux qui travaillent avec elle et lui faire confiance sans aucun doute. Elle fournit les résultats de celui qui la nourrit. Le pouvoir appartient à celui qui la nourrit. »
Le rôle des médias dans la formation des biais de l’IA
La sensibilité particulière de certains lecteurs face à la représentation de l’Allemagne de l’Est met en lumière le rôle déterminant des médias. Si certains jugent ces représentations négatives injustifiées, d’autres y voient une forme de reconnaissance. L’IA se contente de reproduire le ton ambiant des données, associant ainsi plus fréquemment certaines régions à des extrêmes politiques, à la migration ou à la frustration. Il ne s’agit pas d’un jugement de l’IA, mais d’un reflet du discours public et de la manière dont les modèles médiatiques façonnent les identités régionales.
« En tant que natif d’Ossi, tout ce que je peux dire, c’est… peut-être que l’IA n’a pas si tort après tout ? Quiconque se plaint constamment et implore la reconnaissance de l’accomplissement d’une vie crée également une image. »
De nombreux commentateurs appellent à une plus grande responsabilité des entreprises médiatiques, car la qualité de leurs reportages influence directement la formation de l’IA. Un journalisme unilatéral engendre une image numérique déformée. « Logiquement, la soi-disant IA n’est pas vraiment intelligente, mais parcourt Internet et l’utilise pour créer des probabilités de déclarations. Si l’image de l’Allemagne de l’Est est présentée de manière répétée et négative par les médias pendant longtemps, c’est la base d’information de l’IA. Les représentants des médias, en particulier dans l’ÖR, devraient réfléchir à l’image qu’ils dressent. »
« Une IA ne peut pas représenter sa propre opinion au sens humain du terme car elle est uniquement alimentée par les données (d’entraînement) qui lui sont fournies. Cette limitation de perspective est bien connue et courante. »
« Une IA évalue les informations sur Internet. Et si les pays de l’Est de l’Allemagne sont majoritairement présentés comme des victimes et des défavorisés dans les médias, l’IA ne peut arriver à aucune autre conclusion. »
L’IA : un outil qui requiert discernement et gouvernance
Il est donc essentiel de ne pas accepter sans réserve les résultats de l’IA. L’éducation, la littératie médiatique et le jugement humain demeurent primordiaux. La responsabilité finale incombe toujours à l’humain. L’IA analyse les données, mais ne peut assumer de responsabilité éthique. Son utilisation judicieuse, que ce soit dans les écoles, les administrations ou les médias, dépend de la capacité des individus à traiter ses outputs de manière critique. L’éducation et la transparence sont les meilleurs remparts contre les dérives et les interprétations erronées.
« La connaissance et le bon sens doivent toujours être primordiaux pour se forger une opinion. »
« Avec l’éducation et l’expérience de vie croissante, on acquiert le bon sens. Je compte sur cela tant que je peux penser et analyser clairement. »
« Arrêtez avec votre IA. Tout ce qui est saisi, qu’il soit positif ou négatif, est traité par l’IA. Laissez les gens décider et déterminer, c’est honnête et vrai. »
« Le problème (dans ce cas, c’en est un) d’une IA est le suivant : elle prend des décisions et fait des déclarations sur la base des informations dont elle dispose… »
L’IA, miroir des préjugés sociaux et politiques
Certains lecteurs perçoivent des biais politiques dans les réponses de l’IA, les qualifiant de « gauches » ou de moralisatrices. Techniquement, cela n’est pas fondé. Les modèles linguistiques reflètent le courant linguistique dominant des sources d’apprentissage. Si des termes progressistes apparaissent plus fréquemment, cela témoigne de leur poids dans le discours public plutôt que d’une orientation politique intrinsèque. L’IA révèle ainsi quelles perspectives dominent sur Internet.
« Ce ne sont que des faits et l’IA s’y tient. Les moralistes ont parfois des problèmes avec la réalité et les faits, comme par exemple la criminalité étrangère. »
« Pourquoi cela s’appelle-t-on distorsion ? Vous pouvez le savoir en regardant simplement le comportement électoral. »
« Cette IA est de gauche. Mais pour vous calmer. Cela change. Quand le président Trump aura fini, nous verrons. Quand la guerre en Ukraine sera terminée, nous verrons. »
Humour et sarcasme face aux biais supposés
Certains commentateurs abordent le sujet avec humour et sarcasme, se moquant des biais supposés de l’IA ou satirant le débat lui-même.
« Il est temps pour Elon Musk d’acheter OpenAI, alors les bonnes personnes vivront en Saxe-Anhalt. J’espère que le lien est compris ici. »
« D’ailleurs, les Gémeaux aussi… Utilisateur : » De combien d’Ossis avez-vous besoin pour changer une ampoule ? » Gémeaux : » Trois. L’un changeait l’ampoule et deux discutaient de l’amélioration des anciennes ampoules. » »
La discussion est ouverte : qui porte la responsabilité des biais de l’IA ? Comment combattre les préjugés mis en exergue par ces technologies ? Quel rôle jouent les médias, les développeurs et les utilisateurs ? Partagez votre opinion et contribuez au débat.