ChatGPT, cette iA censée répondre à toutes les questions, est un gadget très rigolo. Le concept me fait penser à cette vieille nouvelle de Murray Leinster “Un logic nommé Joe”, où un terminal public répond à toutes les questions qu’on lui pose, provoquant des catastrophes au passage.
Je n’entrerai pas dans le débat “éthique” vs “progrès”*. Déjà, parce que ce débat me fatigue d’avance pour des raisons assez complexes et que je ne détaillerai pas (parce que ça aussi, ça me fatigue) mais aussi parce que je pense qu’on a encore une certaine marge : là où Joe le Logic donnait systématiquement la bonne réponse, ChatGPT a une certaine tendance à s’avouer incompétent (bien), ou à raconter n’importe quoi (pas bien). Les développeurs ne prennent personne en traître : dès la page d’accueil, on nous informe que l’iA peut parfois donner des réponses erronées. Mais par moment, on frise le délire. La preuve en images.
Ma biographie, selon ChatGPT
Regarder quelques exemples :
Ma notice biographique selon ChatGPT : je serais Suisse, éditeur, philosophe et poète.
Pire : les livres cités ont été écrits par des gens différents : Olivier Martinelli pour “la nuit ne dure pas”, Corine Koch pour “Là bas c’est toujours loin” ou Holly Jackson pour “Midi moins le quart”.
Oui, c’est totalement n’importe quoi. Autre exemple rigolo :
Je serais l’animateur du podcast “C’est plus que de la SF” à la place de Llyod Chéry. Le podcast est soudain devenu une émission de radio datant des années 90.
Je me demande si je peux m’appuyer sur cette biographie pour demander des arriérées de salaire à France Culture, du coup ?
Je n’insiste pas trop sur le fait que les deux bio sont incompatibles, la seconde disant que je suis écrivain de SF bossant sur Radio France alors que le première m’annonce comme philosophe et éditeur suisse !
Autre détail amusant : la biographie change chaque fois que quelqu’un pose la question :
Cette fois, je deviens journaliste pour l’Evènement du Jeudi et Paris Match et romancier. On m’attribue un livre écrit par Alain Minc et un autre par Ben Winslow. Et bien sûr jamais Au Nom de la Loi n’a gagné le prix des Grandes Ecoles, ni en 2017, ni à une autre année.
ET A CHAQUE FOIS ON ME VIEILLIT ! DIFFAMATION !
On en rit beaucoup sur les réseaux sociaux, notamment sur Twitter, où tout le monde s’amuse à voir sa bio massacrée par le tchat. Mais même si j’ai ri autant que les autres, je ne peux pas m’empêcher de trouver ce genre “d’innovation” un peu inquiétante, en ces temps obscurs où la désinformation est élevée en vertu par des gens pas très recommandables et je me demande ce que la CNIL penserait d’un tchat qui invente des données personnelles à partir de données publiques.
Et sur d’autres sujets ?
Maintenant, est-ce que ChatGPT peut vous aider dans d’autres domaines ? Oui, parfois. Comme en programmation, où il peut devenir un assistant codeur efficace. Mais pas aux échecs. En effet, le maître international Kevin Terrieux a voulu tester ses capacités de coach.
Résultat : ChatGPT prétend être d’une grande aide pour améliorer son jeu, mais dans les faits, il est beaucoup plus mauvais d’un débutant de base. On trouve d’autres essais donnant le même résultat (voir même des cas de triche de la part de l’iA, qui visiblement n’en a rien à cirer des règles). Alors, oui, cette iA n’est pas faite pour être championne d’échecs, ni même instructeur. Mais elle est censée être un portail vers la connaissance. Et par conséquent, elle ne devrait jamais prétendre être compétente dans un domaine où elle ne sait rien.
Moteur de recherche et iA : des réponses très problématiques
Certains ont dit que si ChatGPT raconte beaucoup de bêtise, c’est parce qu’elle n’utilise pas une base de données dynamique. Les exemples précédents montrent assez clairement que le problème n’est pas là, mais creusons néanmoins la question.
Grâce à Jean-Renaud Roy (@jr_roy sur Twitter), j’ai appris que la technologie de ChatGPT est utilisée par Microsoft pour son moteur New Bing**. Bing, vous connaissez, c’est ce truc qui ne vous donne jamais la réponse que vous cherchez, juste les pubs qui pourraient vaguement coller à votre demande***. New Bing est censé changer la donne en proposant une recherche via une variante de ChatGPT, avec une base de données de moteur de recherche. Prometteur, mais est-ce que ça marche ? Jean-Renaud a essayé de faire une recherche sur mon cas. Ça donne d’abord ça :
Comme vous pouvez le voir, les réponses mises en avant sont issues de Wikipedia et de Bing normal. Rien d’anormal dans ce que je lis, si on excepte une coquille que je vous laisse chercher. Rien de faux, mais rien de bluffant non plus.
C’est quand on pose des questions plus ciblées qu’on commence à trouver des informations proposées par l’iA de Bing. Et on peut recommencer à rigoler :
Oui, vous avez bien lu : l’iA pense que Requiem en Catastrophe Majeure, mon dernier bouquin, est un recueil de nouvelles post apo. D’où sort cette information ? N’importe quelle recherche sur Google ou même Fnac.com montrera qu’il s’agit d’un roman !
Confondre un recueil de nouvelles et un roman, ça peut prêter à sourire, mais du point de vue de l’auteur, c’est très problématique. Les recueils se vendent beaucoup moins bien et cette fausse information pourrait dissuader un lecteur d’acheter mon dernier livre (et me faire perdre 2€ de droits d’auteur durement gagnés). Là encore, j’aimerais bien avoir l’avis de la CNIL sur la question.
Alors soyons juste : le Chat donne parfois des réponses assez bluffantes sur certains sujets scolaires (géographie, histoire, développement informatique…), mais quand on voit qu’il est impossible d’être sûr de la fiabilité de ses réponses, je vous avoue que je ne vais pas lâcher Google et Wikipedia avant un bon moment.
PS : Au passage, apprenez que des boîtes de SEO utilisent déjà des outils d’écriture assistées par iA pour faire du remplissage rapide de blog et autres sites à contenu commerciaux. Et certains des éditeurs de ces solutions logicielles proposent des applications d’aide à l’écriture de romans pour des prix tournant autour de 250€ par an. L’art n’en souffrira peut-être pas trop, quand on voit la qualité produite à la main par certains auteurs. Reste la question de l’éthique, qui n’a pas fini d’être débattue.
* En écrivant ça, vous avez sans doute compris dans quel camp je me situe d’instinct.
** Pour la petite histoire, la technologie du moteur New Bing a été baptisé Prometheus… Oui, comme le film. Est-ce que ce sera un navet, lui aussi ? L’avenir le dira (mais je ne suis pas confiant).
*** À ce qu’on dit, la requête la plus demandée sur Bing, c’est le lien vers Google.