Résumé: La révolution copernicienne a libéré la raison en tuant l'idée de l'humain centre de la création. Une seconde révolution s'amorce, tuant l'idée de l'humain centre de l'intelligence. Et c'est aussi une bonne nouvelle.
A quelques jours d'intervalle, les pionniers du Deep learning se sont exprimés de manière divergente sur les craintes et les espoirs que suscite ChatGPT, qui se situe dans la filiation de leurs travaux. Il s’agit de Yoshua Bengio et Yann le Cun dans le Monde numérique du 28 avril, puis de Geoffroy Hinton, dans lesechos.fr du 4 mai. Les trois universitaires partagent le Prix Turing 2018, équivalent du Nobel pour les sciences du numérique. Deux sont canadiens et l’un est français, il s'agit du Breton Yann le Cun souvent cité dans ce blog. le Cun dirige chez Facebook la recherche en Artificial Intelligence et soutient que celle-ci peut “conduire à une renaissance de l’humanité, un nouveau siècle des Lumières”, verbatim qui aurait pu être le titre de ce blog. Au contraire, pour Bengio la crainte de désinformation et de perte de contrôle prédominent. Quant à Hinton, le plus âgé des trois - il a 75 ans, il a basculé de l'optimisme au pessimisme radical en même temps qu'il quittait Google, lui va maintenant jusqu’à voir dans les développements en cours une menace pour le genre humain.
L’étendu du débat entre spécialistes interroge, elle va de l’espoir d’une renaissance de notre civilisation à la crainte d’extermination de notre espèce par la machine, comme si dans l’apocalypse nucléaire on avait redouté que les bombes appuient d’elles-mêmes sur le bouton.
On justifie souvent notre trouble et nos interrogations face à la révolution numérique par sa soudaineté et son omniprésence, ainsi que par les bouleversements de société qu’elle provoque. Cela est bien réel, mais n’explique pas de tels débats existentiels sur notre espèce les sapiens.
Tout vient de là, justement, de nous être autoproclamés les sapiens, ou même sapiens sapiens, ceux (et sous-entendu les seuls) qui pensent, qui pensent qu’ils pensent1.
De Descartes2 à Linné3, l’homme s’est consolé de n’être plus au centre d’une création dont il serait l’élu en s’inventant l’exclusivité de l’intelligence et de la compréhension de l’univers. Un privilège en remplaçant ainsi un autre.
La révolution Copernicienne a tranché entre les injonctions de l’Eglise et l’observation des sciences positives. La pensée libérée a alors réinventé la démocratie, et accouché des valeurs et droits universels de l’humain. Les clercs dépossédés ont eu beau freiner des quatre fers, le christianisme s’est séparé du pouvoir politique sans pour autant dépérir4. Nous gardons en tête un récit héroïque et simplifié de cette grande marche en avant de la raison durant les Lumières, mais l’évolution ne s’est pas faite sans tourments ni soubresauts.
Nous sommes maintenant à l’aube d’une seconde révolution, la révolution de Dartmouth. Désignons la ainsi en référence au lieu où fut inventé le terme Artificial Intelligence5. Ce n’est cette fois plus l’Eglise qui est sur la sellette, mais la Raison, l’Intelligence. La même science positive qui a mis en défaut le récit de la chrétienté est à son tour contestée par les fruits de sa propre démarche. Ce ne sont plus la lunette astronomique et le calcul qui mettent les pieds dans le plat mais les réseaux de processeurs et la Data. L’idée de l’humain centre du monde est morte, l’idée de l’humain au centre de l’intelligence est moribonde. Et ce n’est pas un drame mais une bonne nouvelle.
Les Lumières ont montré de manière éclatante ce que l’humain gagnait à perdre le statut de seul être à l’image de Dieu. Les temps qui s’annoncent seront une renaissance de l’humanité, un nouveau temps des Lumières, comme l’annonce le Cun, où en perdant le privilège de l’intelligence, nous gagnerons en fraternité et en harmonie. C’est notre suprémacisme de l’intellect, qui nous a mené dans le mur écologique en voulant soumettre la planète à notre volonté, et la pensée écologique qui en est née est un balbutiement de la Personne intégrale qui s’annonce6.
*************
La révolution de Dartmouth est, comme le fut la révolution copernicienne, un arrachement à la représentation que nous nous étions construite de notre espèce. Elle est si bouleversante que sa problématique demeure tabou, ce qui nous fait hésiter à l’évoquer ouvertement. Cet impensé laisse pourtant le champ libre à deux grandes peurs, qui elles s’étalent dans les médias.
La première émane d’une conception de la rationalité non comme une démarche critique mais comme un dogme. Cette conception exclusive et défensive de la raison fait le jeu des complotistes qui voient ainsi en la science des sachants une sorte de “raison profonde” suppôt d’un “Etat profond”7. Elle évoque celle des clercs de l’Eglise de jadis, qui clamaient que la pensée exercée sans leur truchement, celle libre et laïque, égarerait l’humanité.
La deuxième niche dans les phantasmes trans ou post humanistes d’un grand remplacement de l’humain par des cyborgs ou des robots. Le fait que l’on hésite à pratiquer une approche critique de l’intelligence comme phénomène universel nous prive d’arguments scientifiques contre les pseudo-sciences qui, elles, ne se privent pas de pseudo-arguments autant tapageurs que fumeux.
*************
Ce blog n’aborde pas les questions économiques et sociales posées par le développement de la Data et de l’IM. Ces sujets sont primordiaux, ils impactent directement la vie des gens, leur emploi, leur liberté, leur statut dans la société, leur mode de vie. Ils sont largement débattus par les politiques, les citoyens, les experts. Je ne les évoque pas parce que je n’aurais rien à y apporter, ce qui ne signifie en aucun cas que je les minimise.
A force d’égratigner un certain rationalisme d’autorité, ce blog pourrait sembler servir le complotisme, l’idée en cours que “tout se vaut”, que les opinions alternatives valent les positions scientifiques, que l’invective vaut l’argument. Le but est inverse. Face aux complotismes et aux obscurantismes, je mets en garde contre une approche conservatrice et défensive de la raison et de la science, sorte de ligne Maginot de l’esprit, et vois dans les développements récents des data sciences, et aussi des neurosciences, l’opportunité de faire à nouveau rêver, maintenant aux lois de l’information du cosmos comme on rêve à son astrophysique, et l’opportunité d’une renaissance de la démarche scientifique à condition qu’elle soit mise en débat et éclairée par une éducation de tout citoyen au savoir coder au même titre qu’au savoir lire, écrire, compter8.
J’ai demandé à ChatGPT un plan pour cela, il m’en a fourni un bien construit, avec deux arguments auxquels je n’avais pas pensé. Cependant il est incapable de fournir des arguments précis malgré mes demandes réitérées. Il s’en tire toujours poliment par des pirouettes de langage au contenu insipide. Et quand je lui demande un plan réfutant la thèse précédente, il en rédige un tout aussi bien construit formellement. Quant aux articles en référence, il en fournit beaucoup à la demande, dans un parfait format académique, avec des liens. Mais le plus étonnant est que beaucoup de ces références n’existent pas, les titres des articles et les auteurs sont inventés de toutes pièces, les liens pointent réellement sur des articles, mais qui sont plus ou moins éloignés du sujet, intitulés différemment et d’auteurs différents. De quoi faire tomber un chercheur de sa chaise. Une excellente vidéo du blog binaire explique pourquoi9. Au total l’ensemble m’encourage malgré tout à solliciter l’aide de ChatGPT et ses descendants, avec une vigilance critique permanente. Ce type d’outils va envahir la société. Pour qu’il soit l’instrument d’une renaissance des Lumières, il faut bien évidemment qu’il demeure un outil au service de l’humain, et que son usage dans l’espace public soit régulé.
_________________________________
1Voir l’article de ce blog “Et à la fin le petit futé triomphe toujours du grand crétin”
2"Discours de la méthode", publié en 1637, Descartes affirme que seul l'homme est doué de raison et de pensée
3Le terme homo sapiens apparait dans la 10e édition de "Systema Naturae" en 1758
4Un terrien sur trois se réclame aujourd’hui de cette religion.
5Voir l’article de ce blog “L’affaire du Perceptron”
6Voir l’article “Le défi écologique, et au delà. III. Outiller le futur” de ce blog
7En référence à la théorie complotiste de l’extrême droite américaine
8Il faut saluer à ce sujet le remarquable blog “binaire” d’acculturation au numérique développé par la Société informatique de France en partenariat avec le Monde. https://www.lemonde.fr/blog/binaire/