ChatGPT, une aide à la paresse?

 

Crédit: OPenIA, ChatGPT

ChatGPT, une aide à la paresse ?

Résumé: Les moteurs de recherche tels que Google sont de formidables aides à la connaissance. Les chatbots tel ChatGPT risquent de s’avérer de redoutables aides à paresse. Cela dépendra de l’usage que nous ferons de ce nouvel outil, question vieille comme l’humanité.

ChatGPT se définit lui-même comme un modèle de langage naturel capable de traiter des tâches linguistiques complexes, telles que la compréhension du langage naturel, la génération de texte, la traduction automatique et la réponse à des questions. Il a été entraîné sur de vastes corpus de données textuelles et est conçu pour communiquer avec les humains par le biais d'une interface de chat, ce qui permet aux utilisateurs de poser des questions, de discuter de sujets et d'obtenir des réponses en langage naturel. Son utilisation est on ne peut plus facile par https://chat.openai.com/

En ce mois de février 2023 Bing de Microsoft vient d'intégrer ChatGPT. En même temps, Alphabet, maison mère de Google, a perdu en deux jours plus de 10 % (soit quelques 150 milliards) de sa valeur boursière parce que son chatbot concurrent de ChatGPT, lancé en hâte, a répondu que le télescope spatial Webb avait été le premier à photographier une exoplanète alors que c'est un télescope terrestre qui l'a fait 20 ans plus tôt.

Je m’étais promis de ne pas céder à l’actualité, mais difficile de résister à ChatGPT tant il défraie l’actualité depuis son lancement fin novembre 2022. J’ajouterai donc mon grain de sel aux commentaires tous azimuts.

*************

De rupture en rupture

Comme à chaque progression de l’IA, depuis le Perceptron en 1957 déjà évoqué dans ce blog jusqu’AlphaGo écrasant les maîtres mondiaux du jeu de go en 2015, en passant par Mycin¹ vers 1975, les commentaires vont bon train. La proportion de commentaires manipulant les phantasmes et les peurs semble diminuer, peut-être parce que la connaissance des bases des technologies utilisées commence à s’élargir au-delà des cercles de spécialistes. Les articles de presse pertinents sont moins rares². Toutefois, les témoignages d’étonnement, d’inquiétude ou de raillerie des internautes face aux réponses erronées de ChatGPT montrent que les principes de fonctionnement d’un tel agent demeurent encore largement ignorés³. Il en est de même face à son incapacité à traiter l’actualité, alors que ChatGPT a été entraîné sur des données datant de 2021 (mais son intégration à Bing va le faire vite évoluer vers des mises à jour en temps réel).

Certains se plaisent à piéger ChatGPT pour le faire passer pour malpoli voire injurieux. C’est tout le contraire. ChatGPT est poli à l’excès, s’excuse à tout bout de champ, se justifie sans arrêt, évite toute offense à la bien-pensance de l’air du temps. Ses réponses aux questions des enfants sont autant de scénarios hollywoodiens ; mon petit fils de sept ans l’a interrogé sur le métier d’archéologue, il répond par une récit digne d’Indiana Jones. Il ne ment pas, mais il se trompe souvent, se laisse piéger à confirmer des affirmations fausses de ses interlocuteurs pour ne pas être désobligeant. Ce gendre idéal tranche avec la personnalité de ses concepteurs, au premier rang desquels ChatGPT cite Elon Musk et Sam Altman. Tout le monde connaît Musk dont le rêve est de mourir sur Mars. Altman préside pour sa part l’incubateur Y combinator de deeptech d’où émerge la start-up Helion, qui espère d’ici trois ans produire à titre expérimental de l’énergie par fusion thermonucléaire, bien avant et pour bien moins cher que le gigantesque projet mondial ITER implanté en France à Cadarache. Ces personnalités ont en commun la passion pour les technologies de rupture, et le défi lancé par leurs firmes à la souveraineté des états. L’acceptabilité sociale de ChatGPT nécessite le politiquement correct de ses écrits, mais l’objectif est bien une telle rupture, avec toutes les incertitudes que cela comporte sur de possibles ruptures sociétales.

*************

La connaissance dévaluée ?

On peut à cet égard se demander si, à l’inverse des moteurs de recherche, ce genre de chatbot n’est pas un encouragement à la paresse et à la somnolence intellectuelle, source d’affaiblissement démocratique.

Des moteurs de recherche comme Google ou Bing s’avèrent de formidables aides à l’intelligence humaine. Certes, ils tirent leurs revenus de la marchandisation de nos pratiques de consommateurs, mais ils catalysent les progrès de la connaissance pour qui s’en donne la peine. On pose une question, et on dispose instantanément de tous les documents du monde en rapport avec la question, classés par pertinence supposée. Avant, on était condamné à ignorer la plupart de ces documents, à aller fouiner des jours dans des bibliothèques ou à commander des articles papier que l’on recevait deux mois après.

De son côté, ChatCPT est un assistant personnel capable d’écrire du texte sur des questions d’utilité pratique ou encyclopédique. Mais sur le dernier point, ce chatbot présente une lacune de taille, mainte fois relevée, il ne référence pas ses réponses, alors que le référencement à des documents dont la pertinence est reconnue est fondamentale pour l’acquisition et la progression des connaissances⁴. Si on lui demande pourquoi cette lacune capitale, le chatbot reconnaît ne pas savoir le faire⁵, et recommande sagement de vérifier et valider ses réponses par des sources fiables⁶.

ChatGPT répond à tout sans rien comprendre. Il le reconnaît mais ses usagers en seront-ils conscients. Son objectif – son marché – est de fournir des connaissances utiles au quotidien, évidemment pas de faire les devoirs à la place des élèves. Il n’est pas fait pour ça, mais la qualité de son interface linguistique lui permet de rendre instantanément une copie satisfaisante – au sens d’un élève « appliqué et travailleur » - en réponse à n’importe quel sujet de bac de philo, de français ou d’histoire-géo⁷. Il n’est pas conçu pour faire la même chose en maths, mais y parviendrait facilement si il avait un marché⁸ (le terrien moyen l’interrogera rarement au petit déjeuner sur la résolution d’un problème de maths ardu).

*************

On n’arrête pas le progrès⁹, mais on peut l’infléchir

On pourrait alors charger ChatGPT de tous les maux, l’accuser de flétrir la culture et la curiosité, d’encourager le paraître et la facilité, de menacer les libertés si il était asservi. Dans la foulée se dire que décidément la société évolue dans le mauvais sens, que c’était mieux avant. Que tout cela est mu par la course au profit et que la société capitaliste nous perdra. Ce serait se défausser un peu vite, oublier que si ce genre de service est proposé et rencontre du succès, c’est qu’il répond à une attente, que la société de consommation ne fait que greffer sur des désirs innés¹⁰. Libre à nous de ne pas succomber aux publicités, de ne pas suivre la mode, de ne pas avoir de chatbot chez soi.

Ceci dit, les chatbot comme ChatGPT seront utilisés, intégrés ou non aux moteurs de recherche. Personne ne sait comment évolueront ces services et où s’équilibrera l’usage, mais il est important d’y réfléchir, nous pouvons et devons infléchir le développement de telles innovations en débattant de leurs usages souhaitables.

Par exemple, il faut accepter sans nostalgie l’idée qu’une machine puisse réussir le bac. Un travail très formateur serait qu’un candidat compose sur une étude critique de la copie composée par ChatGPT à un sujet de philo ou d’histoire. Au Danemark, les épreuves de leur bac se passent depuis des années avec un libre acccès à internet.

*************

Que reste t’il du génie humain ?

En 2008, les chercheurs considéraient qu’une IA serait capable d’écrire un best seller autour de 2035¹¹. On est dans les temps, et il est possible qu’un tel Emile Ajar¹² robotisé fasse parler de lui avant. A moins qu’il ne stagne au niveau du roman de gare. Ecrire un roman semble un tâche profondément humaine. Ce n’est pourtant qu’agencer selon quelques règles universelles des données qui, elles, sont par essence humaines. C’est ce que fera la première intelligence machine qui mystifiera les jurys littéraires.

Mal utilisé, ChatGPT peut étioler notre intelligence. Bien utilisé, il peut nous la faire mieux utiliser. Un peu comme pour les calculettes jadis pour la mémoire. Ceci introduit le prochain article, sur ce qu’on entend par « intelligence ».

______________________________

1Mycin était ce que l’on nommait un système expert, dédié au diagnostique en biologie médical. Le vif débat qu’il suscita est complètement oublié pour une raison simple : il s’agissait d’un système « à base de règles » c’est-à-dire de logique, alors qu’actuellement ce sont les systèmes statistiques « à base de données », tel Alphago et ChatGPT, qui tiennent le haut du pavé.

2On peut citer l’excellent article d’Alexandre Piquard dans le Monde du 16 février « Face aux technologies comme ChatGPT, on peut être à la fois alarmiste et sceptique ».

3Nous en donnerons une idée dans de futurs articles.

4Voir dans les Echos du 22 février « La faillite épistémologique de ChatGPT », chronique de Gaspard Koenig.

5L’apprentissage d’un tel bot repose pour beaucoup sur la détection de corrélations statistiques, or celles-ci n’ont pas de valeur explicative. Cette situation se retrouve couramment quand des études statistiques font suspecter un lien entre la fréquence d’une maladie et un facteur environnemental. Cette corrélation peut orienter des recherches, mais n’explique rien en elle-même.

6Voir par exemple l’analyse de François-Michel Le Tourneau (Université Paris 1 Panthéon-Sorbonne), qui a voulu voir ce que l’agent conversationnel avait à lui dire sur la déforestation en Amazonie. The Conversation France du 20 février 2023.

7Actuellement, il faut encore se limiter à des questions courtes et les réponses sont calibrées sur une demi pages, ce qui nécessite de fractionner les questions. Mais il s’agit là pour le bot davantage d’un bridage que d’une limitation de capacité.

8En janvier 2023, il démontrait encore que la somme de deux nombres impairs est impaire. L’erreur a été largement moquée et est maintenant rectifiée.

9Voir la courte et plaisante vidéo d’Etienne Klein https://www.youtube.com/watch?v=zQ-Z07GCO5Y

10Voir l’article de ce blog de juin 2022 « Le défi écologique. II. Un bug du Sapiens ? »

11When Will AI Exceed Human Performance? Evidence from AI Experts, Katja Grace, John Salvatier, Allan Dafoe,, Baobao Zhang, Owain Evans, ArXiv, 2018

12Pseudonyme sous lequel Romain Gary mystifia le jury du Goncourt et obtint une seconde fois ce prestigieux prix littéraire.

VOUS L’AVIEZ COMPRIS

 

 Éditions Trédaniel              Editions Salvator

  Résumé: L'article précédent était un canular.         

Occasion de dénoncer une initiative toxique de la famille Bolloré.

L’article précédent était bien entendu un canular. Canular ou infox ? Infox si le mensonge ou la falsification sont animés par la promotion d’une cause qui a un impact dans la société. Prétendre donner une assise scientifique à un modèle politique est en soi dangereux¹. Dangereux comme le matérialisme dialectique. Dangereux comme le nazisme basé sur la « supériorité » de la race arienne. Dangereux aussi même si c’est pour justifier notre chère démocratie aujourd’hui contestée. Car procéder ainsi est annoncer « une fin de l’histoire » et la confisquer : le projet fut explicite pour le marxisme, Hitler voulait fonder un reich pour mille ans, et nous-mêmes aimions l’annoncer à travers la mondialisation heureuse et l’ONU. Il en va de même pour les modèles théocratiques.

Si l’on considère parfois la démocratie comme la fille de la raison, elle tire sa légitimité des espaces publics de débat ouverts à tous qu’elle garantit. L’humanité ne peut construire son avenir qu’ensemble.

Pour moi² l’humanité chemine selon quatre points cardinaux : la science, le politique, le spirituel, l’art. Il en va de ces points comme de nos sens : ils se complètent sans jamais se réduire l’un à l’autre. Que l’on supprime un de ces piliers, qu’on le réduise à la somme des trois autres, et l’on cesse d’être humain. Que l’on en asservisse un, et c’est une fin tragique comme l’illustre l’Histoire.

Pour en revenir à notre canular, il utilise des subterfuges classiques : il inspire confiance en affichant de la prudence méthodologique, il part de connaissances réelles, qu’il distord au fur et à mesure qu’il extrapole ; il ne cite aucune source ; il est de plus en plus vague. Il n’est pas guidé par la rigueur du raisonnement mais par le but qu’il s’est assigné.

Il est possible que l’on fasse un jour des études de ce genre, mais on en déduira jamais un récit scientifique complet de la supériorité des démocraties, car cela n’a pas de sens.

*************

La science ne prouve pas plus la supériorité de nos démocraties qu'elle ne prouve l'existence de Dieu.

C’est la lecture de « Dieu - La science Les preuves », de Michel-Yves Bolloré et Olivier Bonnassies, qui a inspiré mon canular. Là, il s’agit clairement d’infox. Cet épais livre est un bon exemple d’ouvrage toxique. Il empoisonne la raison à petites doses au fil des pages. Paru en octobre 2021, il prétend fonder sur la science un projet suprémaciste catholique au service de la campagne de Zemmour. Intensément promu par tous les canaux de communication du groupe Bolloré, il a vite été vendu à plus de 200 000 exemplaires. Ce livre passe en revue toutes les limitations actuelles de la science, qui sont réelles et bien connues des spécialistes, en tordant le bras à chacune d’elles afin qu’elles concourent à prouver l’existence de Dieu. L’instrumentalisation de la préface illustre bien ce détournement : son auteur, le prix Nobel Robert Woodrow Wilson, y raconte en quelques pages sa découverte du rayonnement de fond de l’univers, preuve du Big Bang. Il souligne avec raison que la science laisse place à différents récits, mais ne cautionne en rien l’interprétation qu’en fait l’ouvrage, il se dit même non convaincu. Dans les chapitres, les intervenants sont d’extraction académique noble : polytechnique, normale sup, ces titres sont martelés pour que le lecteur se soumette : si il ne souscrit pas aux conclusions, c’est un idiot. De là à restaurer le pouvoir de l’Église sur la France, il n’y a qu’un pas. L’Église a réagi intelligemment à cet outrage à la science et à la foi, avec un ouvrage honnête au titre on ne peut plus explicite « La science l´épreuve de Dieu?  Réponses au livre Dieu, la science, les preuves », du théologien François Euvé avec la participation du physicien Etienne Klein, paru en mai 2022.

*************

On peut trouver l’auteur d’un blog pompeusement intitulé « La Data au secours des Lumières » bien mal placé pour pourfendre « Dieu - La science Les preuves ». Le lecteur jugera. Au départ je destinais d’abord ce blog à mes petits-enfants, j’ai cherché un nom du genre « le monde selon papi », mais toutes les variantes de ce titre étaient prises...

1Les sciences politiques sont du domaine des sciences de l’homme et de la société, et ne prétendent à aucun modèle exhaustif de la politique.

2Il s’agit de ma petite représentation à moi des choses, je ne prétends pas en faire des piliers de l’anthropologie !