ChatGPT est l’intelligence artificielle qui enflamme la planète ! Microsoft et Opera intègrent cette iA à leurs moteurs.

On lui attribue des vertus d’écriture, de compréhension et de connaissance extraordinaires. Seulement voilà, ChatGPT se trompe beaucoup ! Je vais vous raconter mon expérience sur l’utilisation de cet outil sensé nous rendre service et qui a, selon certains, la vérité quasi incarnée.

Premiers pas avec ChatGPT

M’intéressant aux livres j’ai listé dans un précédent article ce qu’on pouvait faire avec cette iA dans ce domaine. (lire l’article ici)

J’ai donc voulu mettre en pratique ces différents conseils. J’ai interrogé l’iA sur un premier livre. George Orwell « 1984 ». Les réponses sont parfaites, et effectivement intelligentes et en lien avec l’ouvrage.

Puis j’ai pris un livre jeunesse récent. « Séraphine et les dents de lait » d’Elisa Malan. Et là les choses se sont corsées. ChatGPT a attribué l’album à l’autrice Marie-Aude Murail et le résumé du livre est complètement faux ! 

J’effectue quelques recherches pour voir si ce livre a deux versions, ou si dans les écrits de M.-A. Murail il y a un rapport avec ce titre… Rien !

J’en parle à des collègues. Ils me disent « oui mais c’est parce que ChatGPT ne prend en compte que les données incluant 2021 et le livre dont tu parles est sorti en 2023 ». Dont acte, je ne savais pas et ceci explique peut-être cela ….
Mais je ne m’arrête pas là.

Quand ChatGPT se trompe et maintient ses erreurs

Tenant compte du paramètre cité plus haut, je décide alors de faire le test avec mon livre publié en 2016. Forcément l’iA a les informations.

J’interroge ChatGPT sur l’ouvrage que j’ai publié avec une co-auteure. Et je lui demande : « Qui a écrit le livre Publier son livre à l’ère numérique » ?
La réponse arrive en quelques secondes. L’iA affirme que c’est Arnaud Teyssier. Cette personne a effectivement écrit plusieurs livres mais aucun ne porte le titre de mon livre et il ne publie rien en lien avec le sujet. Il est plutôt spécialisé dans les livres d’histoire.

Voulant donner sa chance à mon nouvel ami ChatGPT, je me dis que ma requête n’est pas assez précise. J’ajoute donc au titre du livre son sous-titre. La réponse de l’iA reste la même « Arnaud Teyssier ».

J’invective la machine en lui disant qu’elle se trompe. Elle me répond : « Vous avez raison le livre Publier son livre à l’ère numérique est écrit par Arnaud Teyssier ». !!!! Imaginez mon agacement ! (et ma crise de rire! ). Voir image ci-dessus.

Pour être sûre que nous parlions du même ouvrage je demande alors un résumé du livre. L’iA répond en un clin d’œil résumant plutôt bien le propos de l’ouvrage. Nous parlons donc bien du même livre. (image d’ouverture de l’article)
Je demande une ultime précision, en posant la question de l’éditeur. Là encore pas d’erreur de ChatGPT. Il nomme bien les éditions Eyrolles !
Malgré une dizaine de requêtes, JAMAIS ChatGPT n’a voulu attribuer la maternité de ce livre à ma co-auteure et/ou à moi-même !

ChatGPT – Ne soyons pas aveugle !

Alors que dire de cette expérience ? Le constat est ce qu’il est, vous pouvez essayer par vous-même ici
J’ai plus de questions que de réponses, n’étant pas une spécialiste du sujet …

1 Si ChatGPT affichait ses sources ont pourrait peut-être comprendre pourquoi il fait des erreurs. Et quid de la fiabilité des données qu’il pioche en ligne puisque sur Internet il y a tout et son contraire ?

2 Si on donne un certain pouvoir à cette iA ou à d’autres il va falloir redoubler de vigilance pour éviter de créer une machine à Fake news ?

3 Quid du droit d’auteur, du plagiat, il faudrait peut-être commencer à légiférer ou tout du moins à ne pas se laisser dépasser en prenant le train trop tard?
L’UE travaille sur le sujet. Une législation devrait déterminer les applications de cette technologie et la protection des utilisateurs. Mais quand ?

4 L’iA va s’enrichir au fil du temps, et sûrement se bonifier mais comment lui faire confiance ?

5 Si ces iA deviennent les sources et qu’on est trop paresseux pour aller chercher une réponse par nous-même qu’est-ce que ça va donner dans 5 ans, 10 ans ?

6 Pour le moment, ChatGPT est présenté comme une ère de jeu « Playground » affiché en toutes lettres, sur l’écran, que va-t-il se passer si des instances ou personnes mal intentionnées détournent de tels outils ?

Je n’ai pas les réponses à ces questions, mais mon objectif était de partager avec vous cette première expérience afin d’alerter sur le « pouvoir » et le « risque potentiel » de ces outils ! Pour autant je ne prétends pas que l’iA, celle-ci ou une autre, est à jeter à la poubelle, mais de grâce gardons notre sens critique, et utilisons ces nouveaux « joujoux » avec des pincettes.
Lire d’autres articles sur ChatGPT ici