Utiliser une IA pour chercher quelque chose sur Internet est simple et rapide, mais s’il n’est plus nécessaire de chercher par soi-même, c’est aussi et surtout parce qu’on délègue à une machine le soin de choisir la bonne source d’information.
Je n’ai pas d’objection majeure à l’utiliser pour remplir un tableau Excel, mais de plus en plus d’utilisateurs l’utilisent pour s’informer. Et pour être franc, ça m’est également arrivé.
D’après cet article de TF1, 45% des consommateurs font confiance à l’IA pour trouver des informations sur une marque. Le problème, c’est qu’une IA ne raisonne pas comme un humain le ferait : elle est entraînée sur des données choisies méticuleusement par ses propriétaires et obéit à un « system prompt » (une sorte de consigne suprême qu’elle n’est pas supposée enfreindre).
Prenons l’exemple de Deepseek, qui est un modèle chinois. Il est impossible de lui faire dire que Taïwan est un pays indépendant.
J’ai tenté d’obtenir davantage d’informations sur le sujet, en ouvrant un lançant un nouveau chat afin que la réponse précédente n’influe pas sur la suivante :
Cette réponse me dérange. Aucun source n’est citée, et l’IA se contente de réciter la propagande du gouvernement chinois. Deepseek peut faire des recherches en ligne, mais a manifestement fait le choix de s’en passer pour cette réponse. Dans un monde où la Chine dominerait le marché de l’IA, ces réponses seraient la norme.
A titre de comparaison, voici la même question posée à Le Chat de Mistral AI :
(réponse complète ici)
Sur la capture d’écran, Le Chat cite sa source : le média 20minutes. Je l’utilise au quotidien et il a tendance à citer des médias réputes fiables lorsque c’est possible. Certes les médias ne sont pas toujours libres et indépendants, et c’est un tout autre problème, mais ils ont au moins le mérite de proposer plusieurs nuances d’un même sujet.
Il est difficile de réécrire les livres d’histoire, mais entraîner un modèle d’IA sur des données baisées est à la portée de la première puissance étatique venue, ou même d’une entreprise. On peut d’ailleurs constater que les intelligences artificielles américaines sont très prisées par les français :
Dans une telle situation, peut-être peut-on parler d’ingérence idéologique. Si les services américains propageaient de la propagande par le biais de leurs IA, alors nous y serions soumis. Mais ils ne feraient jamais cela.. n’est-ce pas ?
Laisser un commentaire