De l’autre côté du miroir : Le problème, c’est nous

le mirroir brisé

Mal nommer les choses c’est ajouter au malheur du monde (Albert Camus)

L’IA, intelligence artificelle, devenu une sorte d’entité unique, magique, adorée ou détestée. L’intelligence artificielle est un champ de recherche, elle-même composée de d’une arborescence développée. Une de ses branches est LLM, large language models, dans le deep learning.

L’essor des ces gros modèles, capables de traites des réseaux de neurones, au sens informatique, avec des quantités de paramètres colossaux, est devenu un arbre qui cache la forêt.

Il existe bien des modèles de l’arbre de l’IA en dehors des LLM. Ainsi, j’utiliserai ici explicitement les LLM, et non l’amalgame que l’IA = LLM, mais LLM = IA, oui. Cela relève du sophisme usuel: les Hommes sont vivants, les fleurs sont vivantes, donc les humains sont des fleurs.

Je réfute aussi la position binaire (sauf en informatique…oui c’est facile mais bon…). Je ne me lancerai donc pas dans une lutte pour ou contre. Ces postures réductionnsites empêchent d’apprécier les nuances de la réalité complexe.

Je vais ici aborder des questions de concepts, d’architectures, d’interactions. Je ne cherche donc pas à désigner des coupables, ni des méchants, ni des entreprises. La grille de lecture que je vais vous proposer suffira à elle-même pour que vous puissiez déterminer ce que je soutiens ou rejette.

Le SNR : le rapport signal bruit

En communication radio, un indicateur fondamental sur la qualité d’un signal est le rapport signal bruit. En effet, pour pouvoir isoler le signal utile du bruit ambiant, inévitable, le rapport SNR permet de déterminer si les techniques de réception sont capables d’obtenir une qualité exploitable, pour rendre ce signal en information compréhensible.

Le développemnt commercial très rapide des LLM a devancé la compréhension de son architecture, de son fonctionnement, et de ses conséquences, au sein du public et donc aussi d’acteurs politiques, des journalistes.

Une conséquence impactante: l’émotionnel et les postures réductrices ont dominé les espaces publiques d’expression. Le mots IA est devenu une banalité sans qu’il soit bien defini. Tout le monde en parle, sans vraiment le délimiter, et toutes les projections sont permises, avec des élans émotionnels, tantôt pour y voir une révolution salvatrice quasi mystique, tantôt une menace existentielle de l’humanité. L’IA est devenue une entité existentielle, de par toutes ces expressions floues.

WarGames (1987)

Contexte

Un jeune étudiant, passionné d’ordinateurs, se connecte par erreur sur un serveur de l’armée. Ce serveur, un moteur IA, spécialisé en simulation de jeux stratégiques, connecté aux systèmes de lancements des missiles tactiques, dispose d’un agent conversationnel.

Le WOPR propose une série de jeux à Lightman, cet étudiant passionné, et curieux de découvrir de nouveau jaux. Le jeu choisi par Lightman est guerre globale thermonucléaire. Lightman décide de prendre le rôle des soviétiques (oui l’URSS existant encore).

Gagner la partie

Pour Lightman, ce jeu est un simple jeu sur un serveur. Le WOPR, lui, est un programme informatique, entraîné pour gagner partie, c’est son cadre essai-erreur.

Ce rapport militarisé aux technologies suppose une course aux armements. Cette course est bien réelle, notamment par les investissements des USA ou de la Chine. La controverse openai anthropic en est une illustration criante.

Cette lecture du rapport technologique nous jette dans une culture du rapport de force: soit on doit favoriser cette course à l’armenment, soit s’y refuser. Cette lecture insupportable contribue à une association de rejet: l’IA tue, donc il faut rejeter l’IA, ou plutôt les LLM dans ce cas. Il y a d’ailleurs, un effet de prophétie auto-réalisatrice: cette course aux armements, justifiée parce que l’autre le fait, donc il faut le faire aussi, contribue justement à poser les fondations de ce que le film projette.

Au cours du film, Lightman prend conscience que le jeu a un lien avec des commandes réelles de lancements de missiles. Il demande alors au WOPR: mais quel est le but du jeu? WOPR: Gagner la partie! Il réalise alors que l’abandon n’est pas possible, le seul but pour le WOPR est d’atteindre les objectifs qui lui ont été programmés.

La scène la plus forte: Lightman se retrouve devant un terminal pour écrire au WOPR. Pris de panique, il écrit: Mais tout ceci est un jeu ou pour de vrai? WOPR: Quelle est la différence? Cette question fascinante, reste intégralement ouverte et actuelle.

Dans le domaine militaire, une IA/LLM autonome ne pourrait pas saisir la notion de réel, les conséquences.

Sphere (2008)

Contexte

Dans les profondeurs de l’océan, un vaisseau spatial est détecté. L’armée, encore elle, décide d’envoyer une équipe de chercheurs pour explorer et découvrir de quoi il s’agit. Une équipe est formée: une mathématicen, un physicien, une biologiste, et un psychiatre.

La lecture militaire est d’évaluer la menace, comment la contrôler ou la neutraliser.

L’entité extra-terreste, symbolisée par une sphère, interagit par la pensée, ou par une connexion par messagerie d’ordinateur.

Ce film est particulièrement dans une lecture actuelle. En effet, cette entité, de par son interaction avec l’équipe en station sous-marine, ne fait que montrer ce que les humains projettent sur elle.

L’interaction avec les humains

Le psychiatre expose une problématique: il espère que l’entité n’a pas d’émotions. En effet, le vaisseau est censé être enfoui dans les fonds océaniques depuis 300 ans. Que dire d’une entité qui n’a pas eu d’interaction sociale depuis 300 ans, douée d’une forme de super intelligence, super pouvoirs, et qui pourrait se mettre en colère?

Je vais développer notamment ce sujet avec les IA/LLM. Ce film pose toutes les questions actuelles. Il suffit de remplacer l’entité par une IA/LLM.

Angle de lecture

La plupart des débats au sujet IA/LLM s’enferment dans une approche similaire au rapport du WOPR. C’est surtout une menace, c’est un objet qui a sa propre existence: se poser en ayant peur de l’IA/LLM c’est lui accorder son existence propre.

La question constructive et plus proche de la réalité me semble la lecture de Sphère, l’IA/LLM reflète nos propres projections, nous les renvoie, mais nous ne designons pas la source.

Les questions sont principalement systémiques, les dangers de l’économie de l’attention ne sont plus à expliquer. La bulle des LLM sert d’un amplificateur, elle émerge des règles de l’économie de l’attention. L’IA/LLM n’a pas d’intention, les concepteurs, eux, s’incrivent dans un contexte qui valorise les profits, l’économie de l’attention amplifie ces profits, notamment à court-terme, c’est une conséquence systémique cohérente.