littérature

Quand l’intelligence artificielle raconte n’importe quoi

Lorsqu’il lit une description de son dernier roman, Het archief (Les archives), sur le site web de Harper’s Bazaar, l’auteur néerlandais Thomas Heerma van Voss ne reconnaît pas son livre. Et pour cause: la freelance digital editor avait accordé une confiance aveugle à ChatGPT. Une négligence à laquelle le magazine de mode réagira avec des réponses aussi sommaires que lunaires. Y a-t-il encore quelqu’un dans ce bas-monde pour accorder quelque importance à la vérité?

Un jour, je reçois un message d’une amie, qui me dit qu’elle a vu mon nom dans le top 5 des meilleurs livres en néerlandais de Harper’s Bazaar. Ah bon, le magazine de mode? Sur ce, je me hâte d’allumer mon ordinateur portable, de lancer une recherche et de faire défiler les résultats sur mon écran, pour constater que mon roman Het archief figure bel et bien dans cette liste. Je bombe le torse de fierté, mais déchante aussitôt lorsque je découvre ce qui est écrit à propos de mon livre.

«Het archief raconte l’histoire d’un jeune homme qui, après la mort de son père, découvre des archives regorgeant de documents qui lui en apprennent davantage au sujet de la vie de son paternel. À mesure qu’il fouille dans toute cette paperasse, il est de plus en plus proche de déterrer les secrets du passé.»

Des mauvais résumés, j’en ai lu quelques-uns au fil des années mais ici, c’est encore autre chose tant rien de ce qui est écrit ne semble correspondre au contenu de mon livre. Dans mon roman, le père de mon personnage principal est toujours en vie et il n’est nullement question d’archives pleines de documents dans lesquels le narrateur fouillerait, ni de secrets du passé en attente d’être déterrés.

J’examine le reste de la liste. À propos de la biographie de Theo van Gogh, «incontestablement l’un des meilleurs livres en néerlandais de l’année 2024», Harper’s Bazaar écrit ceci: «De bolle Gogh (Le Gogh bouffi) raconte l’histoire de Joris, un jeune peintre en délicatesse non seulement avec son art, mais également avec son poids. Il est un peu bouffi, ce qui ne facilite pas toujours sa quête de la réussite et de l’amour.»

Pardon? Je commence à suspecter comment cet article –le travail d’une freelance digital editor qui a déjà écrit des centaines de contributions pour Harper’s Bazaar – a vu le jour, surtout lorsque je lis que Ma mère rit de Chantal Akerman («la vie avec une mère qui a toujours continué à rire envers et contre tout») est lui aussi catalogué comme l’un des meilleurs livres en néerlandais de l’année. Alors qu’Akerman écrivait en français.

Et ce n’est pas tout: l’épais ouvrage de Michal Citroen consacré à la cachette des Juifs néerlandais pendant la guerre est subitement devenu l’histoire d’une femme qui «entreprend, pleine de curiosité, une quête afin de retrouver ses racines». Quant à l’enquête journalistique de Marijn Kruk sur la montée de l’extrême droite dans les pays occidentaux, elle est résumée comme suit: «Opstand (Révolte) se déroule dans un futur où un régime fort a tout sous son emprise. Dans ce meilleur livre en néerlandais, nous suivons une jeune femme qui s’oppose à la répression et part à la recherche de sa propre place (…). Lorsqu’elle rejoint une rébellion, elle doit effectuer des choix difficiles.» Conclusion sur le livre: «Une fois que vous l’aurez ouvert, vous ne pourrez plus le refermer.»

Je décide de contacter la rédaction de Harper’s Bazaar. Je leur soumets mes critiques et leur indique que je soupçonne fortement ces textes d’être le fruit d’une intelligence artificielle. Je leur demande de retirer ce contenu au plus vite, puis de le rectifier. Je leur demande surtout des explications: «comment avez-vous pu publier un tel tissu d’inepties?»

Avant même que je reçoive une réponse, les «cinq meilleurs livres en néerlandais de 2024» ont disparu.

«Désolé, la page que vous cherchez n’existe pas.»

Plus tard, je reçois un mail d’une personne qui se présente comme exerçant une fonction de managing editor digital et qui me remercie vivement d’avoir attiré l’attention de Harper’s Bazaar, qui se décrit lui-même comme «le magazine de mode le plus ancien et le plus légendaire au monde», sur ces erreurs de contenu. «Toutes nos excuses pour les erreurs dans la description de votre ouvrage et des autres livres.» Une explication? Un sentiment de honte? Que nenni! À croire que les erreurs sur lesquelles j’avais attiré leur attention n’étaient qu’un détail sans importance…

Cette managing editor a-t-elle au moins pris la peine de lire tout mon mail? Et pourquoi n’a-t-elle pas répondu à ma remarque sur l’intelligence artificielle?

Elle conclut son mail en m’annonçant que je recevrai rapidement une description adaptée de mon livre et en me demandant si je veux bien en valider le contenu. En d’autres termes, elle me demande d’effectuer un travail de rédaction finale à titre bénévole afin de couvrir leurs propres bêtises!

Toute la difficulté réside dans le fait qu’il est rare que l’utilisation de ChatGPT puisse véritablement être démontrée: il y a continuellement d’autres textes qui sont générés et chaque écrivain concerné peut simplement continuer de nier. Pourtant, j’avais de moins en moins de doutes, surtout après avoir demandé à ChatGPT de quoi parlait mon livre et quels étaient les thèmes abordés dans ceux de Marijn Kruk et Jaap Cohen.

Sur mon écran apparaissent des textes quasi identiques au fameux top 5 de Harper’s Bazaar que j’avais demandé de faire disparaître. J’apprends cette fois-ci que j’ai écrit un roman qui «raconte les investigations d’un jeune homme afin de découvrir la vérité sur un incident tragique du passé», et il est de nouveau question de secrets de famille et de fouiller dans les papiers d’un père décédé.

Sur ce, je renvoie un mail à Harper’s Bazaar. Cette fois-ci, je l’adresse également à la travailleuse freelance de service, qui me remercie elle aussi chaleureusement pour mon message. «Il y avait effectivement quelques erreurs de contenu. Nous avons donc retiré temporairement l’article de notre site web afin de les corriger.» Quelques «erreurs de contenu», vraiment? Dans cet aperçu annuel, il n’y avait pas une phrase qui tienne la route. A-t-elle donc aussi peu de conscience professionnelle, ou cette réponse a-t-elle été rédigée elle aussi par une intelligence artificielle?

Je lui envoie un nouveau mail, dans lequel je réitère mes questions: comment en est-elle arrivée à écrire que De bolle Gogh raconte l’histoire d’un jeune peintre un peu bouffi appelé Joris? De quelle jeune femme et de quel avenir parle-t-elle dans son commentaire à propos d’Opstand? Pas de réponse. Je suis décidé à ne pas lâcher l’affaire et lui renvoie un mail, puis un autre et encore un autre, mais toujours sans résultat.

La managing editor finira bien par me recontacter, mais pour me dire que je peux m’attendre à recevoir une version remaniée du résumé de mon livre et me demander si je veux bien vérifier que tout est bien correct. Pour le reste, des explications aussi sommaires que lunaires et aucune réaction à propos de mes remarques sur le contenu. «Nous avons constaté que l’un de nos rédacteurs a fait preuve de négligence lors des recherches qu’il a effectuées pour préparer cet article et le regrettons profondément. Pour nous, il est bien entendu très important que nos articles ne contiennent pas d’erreurs. Pour le reste, nous traiterons ce dossier en interne avec notre rédaction.»

De quelles recherches parle-t-elle? «Négligence» est-il par ailleurs le terme adéquat pour évoquer un tel ramassis d’élucubrations? Quid de ce «traitement interne»? Comment, malgré ces mots ronflants, un tel texte a-t-il pu passer à travers les mailles du filet? Et comment la managing editor compte-t-elle rectifier le tir, concrètement?

Je ne recevrai de réponse à aucune de mes questions. Je devrai me contenter de m’entendre rappeler que chez Harper’s Bazaar, ils «attachent beaucoup d’importance» à ce que leurs articles ne contiennent pas d’erreurs et de voir mon attention attirée sur le fait qu’ils m’ont déjà rendu un fier service en retirant de leur site web leurs propres divagations. Et de conclure en me demandant de bien vouloir «respecter» le fait que ce problème sera résolu «en interne». «Pour que les choses soient claires, comme indiqué dans le mail précédent, les recherches ont été bâclées, je vais corriger les erreurs avec le rédacteur et vous redemande de bien vouloir respecter cela.»

«Sachez que nous prenons ce dossier au sérieux, mais que l’erreur est humaine», m’assure-t-on dans un autre mail.

L’erreur est humaine, certes, mais le fait est, bien évidemment, que le travail dont question ici ne porte guère la griffe de l’espèce humaine. Je peux comprendre que quelqu’un rédige un mauvais résumé d’un livre ou qu’un travailleur freelance chargé d’élaborer une telle liste n’ait pas le temps de tout lire en entier, mais je trouve étrange, et même carrément problématique, qu’un grand magazine de mode ressente le besoin de publier une liste des meilleurs livres alors que personne ne prendra la peine de lire les quatrièmes de couverture des ouvrages en question.

Ce n’est qu’une semaine plus tard que la managing editor de Harper’s Bazaar –une revue tirée à 25 000 exemplaires aux Pays-Bas et avec un «engagement social», à en croire son site web– enverra la rectification annoncée. C’est du moins le terme qu’elle emploiera car ce qu’elle enverra n’a rien à voir avec une rectification: c’est le même top 5, la seule différence étant que, cette fois-ci, les résumés sont cohérents. Rien au sujet de l’ancienne version de l’article, pas d’avis d’erreur ni de mot d’excuse: c’est comme s’il ne s’était rien passé!

Je découvre sur internet que la journaliste concernée a entretemps écrit une multitude de nouveaux articles pour Harper’s Bazaar. Mais toujours pas la moindre rectification à l’horizon. Sur le site, un slogan s’affiche: pour ceux qui osent rêver.

Une liste de livres erronée dans un magazine de mode, est-ce vraiment si grave, vous demanderez-vous? Eh bien oui, toute cette histoire est des plus fâcheuses!

En début d’année, la décision de Mark Zuckerberg de se passer dorénavant de fact checkers pour son entreprise Meta a suscité une vague d’indignation. Une désapprobation justifiée, car Facebook et Instagram connaîtront ainsi la même évolution que X, devenu aujourd’hui un déversoir public pour la désinformation la plus bête et méchante.

Dans un tel contexte, journaux et magazines ont un rôle essentiel à jouer et ce rôle revient à faire exactement l’inverse de Harper’s Bazaar.

Ni expliquer ce qui s’est passé, ni se confondre en excuses. Se dissimuler derrière des commentaires creux et impersonnels, et reprocher si possible un manque de «respect» à la personne qui prend la peine de vous interpeller. Ne rien modifier tant que vos inepties ne sont pas démasquées et même alors, rectifier le tir en toute discrétion.

Toutes ces attitudes contribuent à vider encore davantage la vérité de sa substance, un processus qui génère déjà des conséquences dramatiques à l’échelle mondiale. Et c’est ainsi que l’humanité régresse, toujours plus, et que l’heure du déclin se rapproche.

• critique littéraire
• IA
• Intelligence artificielle