{"id":540,"date":"2023-03-01T10:00:12","date_gmt":"2023-03-01T09:00:12","guid":{"rendered":"https:\/\/gechter.org\/blog\/?p=540"},"modified":"2023-03-01T10:00:17","modified_gmt":"2023-03-01T09:00:17","slug":"chatgpt-lia-qui-sait-mentir-et-ne-sen-prive-pas","status":"publish","type":"post","link":"https:\/\/gechter.org\/blog\/?p=540","title":{"rendered":"ChatGPT : l’iA qui sait mentir (et ne s’en prive pas)"},"content":{"rendered":"\n

ChatGPT, cette iA cens\u00e9e r\u00e9pondre \u00e0 toutes les questions, est un gadget tr\u00e8s rigolo. Le concept me fait penser \u00e0 cette vieille nouvelle de Murray Leinster \u00ab\u00a0Un logic nomm\u00e9 Joe\u00a0\u00bb, o\u00f9 un terminal public r\u00e9pond \u00e0 toutes les questions qu’on lui pose, provoquant des catastrophes au passage.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Je n’entrerai pas dans le d\u00e9bat \u00ab\u00a0\u00e9thique\u00a0\u00bb vs \u00ab\u00a0progr\u00e8s\u00a0\u00bb*. D\u00e9j\u00e0, parce que ce d\u00e9bat me fatigue d’avance pour des raisons assez complexes et que je ne d\u00e9taillerai pas (parce que \u00e7a aussi, \u00e7a me fatigue) mais aussi parce que je pense qu’on a encore une certaine marge : l\u00e0 o\u00f9 Joe le Logic donnait syst\u00e9matiquement la bonne r\u00e9ponse, ChatGPT a une certaine tendance \u00e0 s’avouer incomp\u00e9tent (bien), ou \u00e0 raconter n’importe quoi (pas bien). Les d\u00e9veloppeurs ne prennent personne en tra\u00eetre : d\u00e8s la page d’accueil, on nous informe que l’iA peut parfois donner des r\u00e9ponses erron\u00e9es. Mais par moment, on frise le d\u00e9lire. La preuve en images.<\/p>\n\n\n\n

Ma biographie, selon ChatGPT<\/h2>\n\n\n\n

Regarder quelques exemples : <\/p>\n\n\n\n

\"\"<\/figure>
\n

Ma notice biographique selon ChatGPT : je serais Suisse, \u00e9diteur, philosophe et po\u00e8te.<\/em><\/p>\n\n\n\n

Pire : les livres cit\u00e9s ont \u00e9t\u00e9 \u00e9crits par des gens diff\u00e9rents : Olivier Martinelli pour \u00ab\u00a0la nuit ne dure pas\u00a0\u00bb, Corine Koch pour \u00ab\u00a0L\u00e0 bas c’est toujours loin\u00a0\u00bb ou Holly Jackson pour \u00ab\u00a0Midi moins le quart\u00a0\u00bb. <\/em><\/p>\n<\/div><\/div>\n\n\n\n

Oui, c’est totalement n’importe quoi. Autre exemple rigolo :<\/p>\n\n\n\n

\"\"<\/figure>
\n

Je serais l’animateur du podcast \u00ab\u00a0C’est plus que de la SF\u00a0\u00bb \u00e0 la place de Llyod Ch\u00e9ry. Le podcast est soudain devenu une \u00e9mission de radio datant des ann\u00e9es 90.<\/em>
Je me demande si je peux m’appuyer sur cette biographie pour demander des arri\u00e9r\u00e9es de salaire \u00e0 France Culture, du coup ?<\/em><\/p>\n<\/div><\/div>\n\n\n\n

Je n’insiste pas trop sur le fait que les deux bio sont incompatibles, la seconde disant que je suis \u00e9crivain de SF bossant sur Radio France alors que le premi\u00e8re m’annonce comme philosophe et \u00e9diteur suisse !<\/p>\n\n\n\n

Autre d\u00e9tail amusant : la biographie change chaque fois que quelqu’un pose la question : <\/p>\n\n\n\n

\"\"<\/figure>
\n

Cette fois, je deviens journaliste pour l’Ev\u00e8nement du Jeudi et Paris Match et romancier. On m’attribue un livre \u00e9crit par Alain Minc et un autre par Ben Winslow. Et bien s\u00fbr jamais Au Nom de la Loi n’a gagn\u00e9 le prix des Grandes Ecoles, ni en 2017, ni \u00e0 une autre ann\u00e9e.<\/em><\/p>\n\n\n\n

ET A CHAQUE FOIS ON ME VIEILLIT ! DIFFAMATION !<\/span><\/strong><\/p>\n<\/div><\/div>\n\n\n\n

On en rit beaucoup sur les r\u00e9seaux sociaux, notamment sur Twitter, o\u00f9 tout le monde s’amuse \u00e0 voir sa bio massacr\u00e9e par le tchat. Mais m\u00eame si j’ai ri autant que les autres, je ne peux pas m’emp\u00eacher de trouver ce genre \u00ab\u00a0d’innovation\u00a0\u00bb un peu inqui\u00e9tante, en ces temps obscurs o\u00f9 la d\u00e9sinformation est \u00e9lev\u00e9e en vertu par des gens pas tr\u00e8s recommandables et je<\/strong> me<\/strong> demande ce que la CNIL penserait d’un tchat qui invente des donn\u00e9es personnelles \u00e0 partir de donn\u00e9es publiques. <\/strong><\/p>\n\n\n\n

Et sur d’autres sujets ?<\/h2>\n\n\n\n

Maintenant, est-ce que ChatGPT peut vous aider dans d’autres domaines ? Oui, parfois. Comme en programmation, o\u00f9 il peut devenir un assistant codeur efficace. Mais pas aux \u00e9checs. En effet, le ma\u00eetre international Kevin Terrieux a voulu tester ses capacit\u00e9s de coach. <\/p>\n\n\n\n

\n