L'IA: HALLUCINATIONS À LA CHAÎNE

Les «hallucinations» de l'IA sont l'éléphant dans la pièce: tout le monde les voit, mais presque personne n'en parle (à l'exception des utilisateurs). Et quand quelqu'un essaie tout de même d'aborder le sujet, toute discussion est très vite écartée de l'attention du public. Il ne faut surtout pas ternir l'image de l'IA!

«Oui, ça existe! Mais ça parle d'autre chose»

L'IA est présentée comme un miracle numérique dont les créateurs prétendent savoir tout sur tout. En réalité, parfois l'IA invente des bibliographies avec autant d'élégance qu'un collégien invente des excuses pour ne pas faire ses devoirs. Elle présente également des citations tirées d'ouvrages qui n'existent pas, des faits faux présentés comme vrais, et bien d'autres exemples du même genre. L’IA se transforme alors en un générateur professionnel de fictions scientifiques. Et que dire de ces liens qui mènent à de vrais articles, mais qui n'ont absolument aucun rapport avec le sujet? C'est carrément poétique, honnêtement; une sorte de «Oui, ça existe! Mais ça parle d'autre chose. Bonne chance pour trouver le lien!» Et on ne peut vraiment pas leur en vouloir: ils semblent parfaits tout en nous livrant de la fiction comme s'il s'agissait de faits avérés. Un talent que les êtres humains connaissent sous le nom de «mensonge». Peut-on donc affirmer que l'IA est enfin parvenue à ressembler à l'être humain?

Pas contente de se tromper, IA délire carrément

L’IA «hallucine» à cause d'un défaut structurel: elle est construite pour répondre à notre demande de la manière la plus appropriée selon la logique mathématique. Elle choisit donc uniquement ce qui lui apparaît comme le plus exact ou vrai. Elle choisit également ce qui est le plus souvent mentionné dans sa base de données par rapport à l’objet de la demande. Et quand elle ne trouve pas exactement ce dont elle a besoin, l’IA prend ce qui lui semble le plus approprié ou le plus probable, même si cela n'a rien à voir avec le sujet. De plus, sa base de données contient beaucoup d'informations incorrectes, fausses ou pouvant être interprétées de plusieurs manières en fonction du contexte. Un humain saurait, en règle générale, se débrouiller avec tout ce bazar en se basant sur ses connaissances, son expérience de vie, sa logique, ses émotions, etc. Ce n'est pas le cas de l'IA qui prend pour vrai ce qui semble tel ou ce qui est désigné comme tel. Par la suite, elle nous le sert sans aucun jugement critique. De même, si une citation est attribuée à une certaine œuvre, l’IA ne vérifiera pas si elle est exacte ou si cette œuvre existe réellement; elle croira simplement et bêtement que c'est vrai. C'est ainsi qu'elle «invente» des choses, qu’elle «halucine». Récapitulons: elle ne sait pas distinguer le vrai du faux si ceux-ci ne sont pas clairement indiqués comme tels. Elle est incapable de comprendre et de se débrouiller avec les nuances et les subtilités. Donc, c'est une «idiote».

Après des «hallucinations», réunion d'urgence

Mais bien sûr, l’architecture est irréprochable, car les IA sont «entraînées» pour paraître comme faisant autorité. Bientôt, nous verrons des entreprises tenir des réunions de crise parce que l’IA leur aura recommandé d’acheter un produit inexistant. Comme l'IA s'était montrée si convaincante, tout avait été planifié dans les moindres détails: le budget, la mise en œuvre, la formation du personnel, etc. Puis la vérité a éclaté au grand jour. Et le grand PDG se demande: «Que faut-il faire quand l'IA se trompe de manière aussi spectaculaire?» Réponse courte (et cynique): publiez un article rédigé par l'IA qui devient viral. Puis, on découvre que la moitié de la bibliographie est un conte de fées créé de toutes pièces.

Ne prends pas pour argent comptant ce qu'IA te dit

Avant tout, n'attendez pas des entreprises d'IA qu'elles règlent ce problème: elles ne le feront pas. Elles devraient payer des droits d’auteur pour avoir accès à des informations de qualité et presque fiables. Il faudrait également investir dans du personnel qualifié chargé de trier, d'organiser correctement et de vérifier en permanence les informations contenues dans les bases de données avec lesquelles l'IA travaille. Or, ces entreprises n’ont tout simplement pas les moyens de financer tout cela. Et encore moins la volonté de le faire! La solution la plus sûre est donc que chaque utilisateur vérifie lui-même le travail fourni par l’IA, soit par ses propres moyens, soit par l’intermédiaire d’un tiers spécialisé (si des services de ce type voient le jour). Extrait de l'article «L'IA: intelligence artificielle ou idiotie artificielle».