1
La véracité de l’IA est-elle un mirage? Vérifier les faits de l’avenir – et pourquoi vous devriez être sceptique (mais curieux)
D’accord, soyons réels – la révolution de l’IA est bizarre. Nous sommes simultanés sur des chatbots qui peuvent écrire de la poésie et terrifiés, ils vont nous remplacer tous. Mais sous la façade brillante de «l’assistant utile», il y a une question vraiment importante: pouvons-nous en fait Faites confiance à ce que ces choses crachent? La future newsletter parfaite de cette semaine y cherche, et franchement, c’est une conversation que nous devons avoir – bruyamment.
Le noyau à retenir? L’IA est brillante pour régurgitation des données vérifiées, mais c’est spectaculairement mauvais à compréhension vérité. Comme le souligne le journaliste Sigal Samuel, AI prospère lorsque les réponses sont déjà là-bas, en attendant d’être retirée d’une base de données massive. Vous pensez avoir besoin du point d’ébullition de l’eau? Boom, AI livre. Besoin de savoir combien les humains et les chimpanzés de l’ADN partagent? Trié. Mais voici le botteur: vous toujours doivent vérifier. Et c’est là que les choses deviennent difficiles.
Le problème de la «nature épistémique» (et pourquoi c’est important)
Samuel présente cette idée de «nature épistémique» – en gros, une question est-elle objectivement responsable, ou implique-t-elle une opinion, une interprétation ou une nuance? L’IA se débat avec ce dernier. C’est phénoménal pour croquer les nombres et trouver des modèles, mais il manque les compétences de pensée critique pour évaluer le contexte derrière ces faits.
Disons que vous demandez à une IA: « L’ananas sur la pizza est-il une bonne idée? » Cela pourrait vous donner une ventilation parfaitement raisonnable de la popularité des ingrédients, de la rentabilité et même de la valeur nutritionnelle. Mais ça ne peut pas te dire toi pourrait le détester. Il s’agit de modèles de détection, pas de goût.
Développements récents et montée des «hallucinations»
Ce n’est pas seulement théorique. Le mois dernier, le modèle Gemini AI de Google a déclaré que l’inventeur du téléphone était Thomas Edison – une erreur factuelle flagrante. Ce ne sont pas des problèmes; Ils sont de plus en plus reconnus comme des «hallucinations» – des cas où l’IA génère de fausses informations en toute confiance. Les experts les attribuent maintenant à la façon dont les modèles d’IA sont formés – ils apprennent à imiter les modèles d’information, pas nécessairement à comprendre il. Pensez-y comme un vraiment, vraiment Parrot convaincant.
Plus récemment, les chercheurs du MIT ont développé des techniques pour identifier ces hallucinations avec une précision surprenante, alimentant les modèles d’IA avec des «défis» de plus en plus complexes pour exposer les écarts dans leur base de connaissances. C’est une course entre détection et génération.
Applications pratiques et dose de scepticisme
Alors, quoi peut Nous utilisons l’IA pour? Beaucoup. La recherche sémantique, comme Samuel, les mentions, est une application parfaite – nécessitant des détails historiques obscurs ou des données scientifiques? L’AI est votre ami. Mais traitez-le comme un assistant de recherche très compétent, mais profondément peu fiable.
Voici une liste de contrôle rapide pour l’utilisation efficace de l’IA:
- Commencez par vos propres recherches: Ne comptez pas uniquement sur l’IA pour la collecte d’informations initiale.
- Référence croisée, référence croisée, référence croisée: Vérifiez plusieurs sources réputées.
- Méfiez-vous des questions complexes ou basées sur l’opinion: L’IA ne déchirera pas de manière fiable les nuances.
- Supposons que tout soit potentiellement mal: Sérieusement. Il vaut mieux être sceptique que induit en erreur.
Nommer un modificateur – sérieusement, faites-le
Le Future Perfect L’équipe recherche activement des individus qui font une différence dans la santé mondiale et recherche des nominations. Si vous connaissez quelqu’un qui repousse les limites, soumettez-le maintenant. (Lien: https://vox.com/future-perfect/2024/5/24/24808844/future-perfect-changemakers-nomination-forward) Et si vous avez une question brûlante pour leur couverture, déposez-leur une ligne. (E-mail: [email protected] )
En fin de compte, la montée de l’IA nous oblige à réévaluer nos propres habitudes de consommation d’informations. Nous vivons à une époque d’accès sans précédent à l’information, mais aussi une désinformation sans précédent. Il ne s’agit pas de rejeter la technologie; Il s’agit d’appliquer une dose saine de pensée critique – et de se rappeler que même les machines les plus intelligentes ne sont pas à l’abri de se tromper hilarante. Restons vigilants.