L’intelligence artificielle : un parcours
Comment une machine apprend-elle, que sait vraiment un modèle de langage, et que fait l’intelligence artificielle à la création, au travail et à notre idée de l’intelligence ? Le blog suit la question depuis une recherche bibliographique d’école d’ingénieurs, en 1993, et plus encore depuis l’arrivée de ChatGPT : cours de vulgarisation, conférences, débats. Son auteur travaille avec l’IA ; ses propres textes ferment le parcours.
Le parcours compte sept étapes, à suivre dans l’ordre : l’histoire, le mécanisme, les limites, l’intérieur des réseaux, puis le contrôle et la conscience, les tensions sur la création et le travail, enfin les textes de l’auteur. Le domaine va vite : les vidéos de 2023 décrivent des limites en partie dépassées depuis, mais la question de fond demeure. Beaucoup de vidéos sont en anglais, et les intervenants des débats sont souvent engagés. Les autres posts sont regroupés en fin de page.
- Étape 1 — Une longue histoire : des règles aux réseaux
- Étape 2 — Comment ça marche : apprendre, représenter, prédire
- Étape 3 — Ce qu’un modèle de langage fait, et ne fait pas
- Étape 4 — Ouvrir la boîte noire
- Étape 5 — Contrôle, conscience, intelligence
- Étape 6 — Créer et travailler : les tensions
- Étape 7 — En écho : les textes de l’auteur
Étape 1 — Une longue histoire : des règles aux réseaux
L’IA n’est pas née avec ChatGPT. Pendant des décennies, on l’a pensée comme une manipulation de symboles et de règles explicites, tandis que les réseaux de neurones restaient une curiosité de laboratoire. Leur revanche, couronnée par le prix Nobel de 2024, explique pourquoi nos machines actuelles apprennent plutôt qu’elles ne raisonnent.
- L’ascension et la chute de LISP, « trop bon pour le reste du monde »
LISP, langage de l’IA symbolique né au MIT en 1958, au point d’avoir eu ses propres ordinateurs. - Des réseaux de neurones de 1993 au prix Nobel 2024
Le neurone formel, le réseau de Hopfield, AlexNet : trois vidéos, reliées au réseau ART que l’auteur programmait en 1993. - 1993 – Recherche Bibliographique – L’Intelligence Artificielle – Domaines d’application
La recherche bibliographique de 1993, publiée telle quelle : Hebb, l’ordinateur neuronal, l’intelligence collective des fourmis. - Il était une fois ChatGPT : brève histoire d’une IA régressive (Hugues Bersini – Académie royale de Belgique)
Hugues Bersini raconte le renversement : ChatGPT, triomphe d’une IA statistique « inconsciente » de ses propres règles.
Étape 2 — Comment ça marche : apprendre, représenter, prédire
Un réseau de neurones est un approximateur de fonctions, ajusté par descente de gradient. Pour traiter le langage, on représente les mots par des vecteurs, puis on entraîne un modèle à prédire le mot suivant. Ces quelques idées suffisent à comprendre ChatGPT, et les générateurs d’images.
- Regarder un réseau de neurones apprendre (Emergent Garden)
Voir un réseau apprendre : une approximation de fonctions comparée aux séries de Taylor et de Fourier. - L’algorithme le plus important de l’apprentissage automatique (Artem Kirsanov)
La rétropropagation du gradient, l’algorithme qui fait tourner tout l’apprentissage automatique, redémontrée pas à pas. - Comment les I.A. font-elles pour comprendre notre langue ?
Des mots aux vecteurs, puis des réseaux récurrents au mécanisme d’attention et aux transformeurs. - Ce qui se cache derrière le fonctionnement de ChatGPT
GPT, modèle entraîné à deviner le mot suivant, et ChatGPT, le produit qu’on en tire : plausible ne veut pas dire vrai. - Introduction aux grands modèles de langage (Andrej Karpathy)
Andrej Karpathy en une heure : entraînement, système d’exploitation d’un nouveau genre, failles de sécurité. - Pourquoi la diffusion marche-t-elle mieux que l’autorégression ? (Algorithmic Simplicity)
Modèles autorégressifs et modèles de diffusion : pourquoi la diffusion l’emporte pour les images.
Étape 3 — Ce qu’un modèle de langage fait, et ne fait pas
Un modèle de langage ne répond pas, il prédit une suite vraisemblable. D’où ses hallucinations, son indifférence au vrai et la question de son raisonnement. Ces limites tiennent-elles à la méthode ou à l’échelle ? Les lois d’échelle montrent que chaque gain se paie très cher.
- De quoi ChatGPT est-il VRAIMENT capable ?
Monsieur Phi et Lê Nguyên Hoang le démontrent par l’exemple : ChatGPT ne répond pas, il prédit. - ChatGPT : la philosophie du baratin (Monsieur Phi)
Le baratin selon Harry Frankfurt : un discours indifférent au vrai et au faux, ce qui caractérise ChatGPT. - L’intelligence artificielle n’existe pas, par Luc Julia
Luc Julia, cocréateur de Siri : l’IA de Hollywood n’existe pas, seulement des outils spécialisés. - L’avenir de l’IA générative (Michael Wooldridge – The Turing Lectures)
Michael Wooldridge fait la part des possibilités réelles et des limites de l’IA générative (Turing Lectures). - L’illusion de la pensée : l’article d’Apple sur l’IA (Trefor Bazett)
L’article d’Apple sur les modèles « de raisonnement » face aux tours de Hanoï, et ce qu’il démontre vraiment. - L’IA ne peut pas franchir cette ligne, et nous ne savons pas pourquoi (Welch Labs)
Les lois d’échelle : performance, calcul, données et paramètres alignés sur une même droite, sans qu’on sache pourquoi.
Étape 4 — Ouvrir la boîte noire
On dit les réseaux de neurones impénétrables. L’interprétabilité commence pourtant à y retrouver des concepts, et le débat se déplace : prédire avec une telle précision, n’est-ce pas déjà connaître quelque chose de la structure du monde ? Yann Le Cun répond que le texte n’y suffit pas.
- Que retiennent vraiment les réseaux de neurones ? (Rational Animations)
L’interprétabilité mécaniste : comment des chercheurs ont en partie compris un réseau qui reconnaît les images. - Comment interpréter ce qui se passe dans un réseau de neurones ? (Alexandre TL)
Retrouver des concepts dans les calculs d’un modèle de langage et s’en servir pour le contrôler, d’après deux articles d’Anthropic. - Platon et l’IA : comment les modèles représentent-ils le monde ? (Artificialis)
L’hypothèse platonicienne : des modèles de toute nature convergeraient vers une même représentation du monde. - Mystères mathématiques d’intelligences pas si artificielles (Stéphane Mallat – Collège de France)
Stéphane Mallat au Collège de France : une forme de connaissance, éclairée par les mathématiques et encore mystérieuse. - Yann Le Cun : où va l’intelligence artificielle ? (SciencePo)
Yann Le Cun : les modèles de langage ne mèneront pas à une intelligence humaine ; place aux modèles du monde.
Étape 5 — Contrôle, conscience, intelligence
Si l’on ne comprend qu’en partie ce que ces systèmes ont appris, peut-on s’assurer qu’ils poursuivent les objectifs qu’on leur fixe ? Le problème de l’alignement conduit à des questions plus anciennes : qu’est-ce que la conscience, et l’intelligence est-elle le propre de l’homme ?
- GPT-4 est-il incontrôlable ? (Monsieur Phi)
Les débuts erratiques de Bing Chat, « Sydney », et la fragilité du « prompt secret » censé le tenir. - L’horreur existentielle de l’usine à trombones (EGO)
Universal Paperclips et le maximiseur de trombones : un objectif mal spécifié suffit à faire une menace. - Manipulation et falsification d’alignement dans les LLM (Monsieur Phi)
Deux études de fin 2024 : o1 qui ment pour atteindre son but, Claude qui feint l’alignement. - Et si ChatGPT était déjà conscient ? Albert Moukheiber et Monsieur Phi (Le Futurologue)
Un neuroscientifique et un philosophe se demandent si l’on pourra attribuer une conscience à un modèle de langage. - Livres à lire : L’Esprit, l’ordinateur et les lois de la physique (Roger Penrose)
Le livre de Roger Penrose (1989) : la conscience comporterait quelque chose de non algorithmique. - Qu’est-ce que l’intelligence ? James Bridle (Les idées larges – ARTE)
James Bridle : l’emballement pour l’IA comme porte d’entrée vers les intelligences animales, végétales, fongiques. - Regard théologique sur l’IA (La Foi prise au mot – KTO)
Un philosophe et un théologien jésuite sur ce que l’IA change à notre rapport au corps, à l’esprit, à la conscience.
Étape 6 — Créer et travailler : les tensions
Les mêmes outils écrivent, peignent, composent et codent. Les avis divergent nettement : outil, menace pour les créateurs, pillage des œuvres, transformation ou suppression des métiers. L’étape va de la musique et de l’image au travail, puis à la société.
- Why AI is Doomed to Fail the Musical Turing Test – Adam Neely
Adam Neely : la musique est une activité plus qu’un objet, ce qui condamne l’IA à échouer au test de Turing musical. - Les dangers de l’IA musicale (Laurent Couson, compositeur)
Le compositeur Laurent Couson montre l’efficacité troublante de l’IA musicale et appelle à réagir. - L’intelligence artificielle va-t-elle remplacer les artistes ? (Thomas Hammoudi)
Le photographe Thomas Hammoudi prend le contre-pied : l’IA est un outil, seule compte l’œuvre. - Le problème dont personne ne parle avec l’IA musicale : Suno (Florent Garcia)
Florent Garcia teste Suno et pose la question qu’on évite : sur quelles œuvres, avec quel consentement ? - Intelligence artificielle : Les machines peuvent-elles penser ? Conférence de Yann Ferguson
Yann Ferguson : plus que le remplacement, l’enjeu au travail est la transformation, et le risque de « domination passive ». - On ne paie plus les développeurs pour écrire du code
Quentin Adam (Clever Cloud) : une entreprise réorganisée autour des agents de code, où le code devient un sous-produit. - 50% des métiers vont disparaître. (Génération Do It Yourself)
Laurent Alexandre : l’école et la politique ne sont pas prêtes, et l’IA creusera les inégalités intellectuelles. - Intelligence artificielle : notre humanité en péril ? Éric Sadin (Thinkerview)
Éric Sadin, l’une des voix les plus critiques : que devient notre humanité quand des systèmes parlent et décident à notre place ?
Étape 7 — En écho : les textes de l’auteur
Le propriétaire du blog travaille avec l’IA. Il en parle d’abord en son nom : une pensée, une méditation, une présentation, une application. Viennent ensuite cinq textes de la rubrique « Pensées pour moi-même » qui portent, comme ils l’indiquent eux-mêmes, la mention « généré par IA » : des pastiches mis en scène plutôt qu’une prise de parole directe.
- IA, AI, KI
Une pensée d’une ligne : l’intelligence consiste à imaginer les questions qui ont un sens, plutôt qu’à répondre avec application aux « bonnes » questions. - La vie avant l’intelligence
Une méditation : l’intelligence est une fonction, mais une fonction sans le vivant qui s’en sert n’est qu’un jouet sans joueur. - A journey in ART.ificial Intelligence Creative Land
Une présentation sur l’IA et la création, préparée pour une table ronde en Bavière en 2024 (en anglais). - JamShack : jouer, improviser et explorer dans la bonne tonalité
JamShack, son application d’improvisation : l’IA écoute et suggère, la musique reste au musicien. - Le procès de l’IA
Le procès de l’IA : réquisitoire en sept péchés capitaux, plaidoirie du miroir, témoignage, chanson de l’accusé. - La Société de l’Algorithme
La Société de l’Algorithme, d’après Guy Debord : le spectacle devenu recommandation personnalisée. - The Hollow Employees
The Hollow Employees, d’après T. S. Eliot : des salariés mesurés, entre la tâche et le sens tombe l’algorithme. - A Specter Haunts the Earth — the Specter of Artificial Intelligence
D’après le Manifeste de Marx : le savoir commun capté par les modèles, et l’appel à une intelligence partagée. - I Have a Dream
I Have a Dream, d’après Martin Luther King : le rêve d’humains et d’agents partenaires plutôt que rivaux.
Autres introductions et compléments techniques
- L’IA générative en bref (Henrik Kniberg)
- Les modèles de diffusion, programmés de zéro (DeepFindr)
- Le retour du calcul analogique (Freethink – Hard Reset)
- Lenia, le jeu de la vie entre au XXIe siècle (Neat AI)
- Un test de Turing inversé (Tamulur)
- Programmer en C sur un Mac classique : THINK C (1Bit Fever Dreams)
Musique et IA
Images, vidéo, littérature
- L’intelligence artificielle va-t-elle mettre fin à la créativité humaine ? (Design Theory)
- Quand l’art rencontre l’intelligence artificielle (Körber-Stiftung, 2023)
- Sora, l’outil pour générer des vidéos par IA (Le dessous des images – ARTE)
- /IMAGINE, court métrage (Nikon Film Festival)
- Ce livre a été écrit par une IA (et ça pose plein de questions) (France Culture)
- The Race for AGI : cinq ans d’IA en une minute (MAX – X)
Travail, entreprise, développement
- Le futur du travail à l’heure de l’IA (Yann Ferguson)
- Conférence Icam – IA : peut-on en faire une alliée au service de nos pratiques professionnelles ?
- Vos agents travaillent seuls. Alors pourquoi êtes-vous encore devant l’écran ? (IA et Stratégie)
- Faites ceci avant d’utiliser l’IA (Vincent Luciani – GDIY)
- Architecte IA, un métier de l’IA (Jérôme Fortias – Le Lab IA)
- Petite demo Claude Code, ça casse sur des briques !
Société, politique, écologie
- 37es Rencontres de Pétrarque : Les révolutions de l’intelligence
- CAPITALISME, INTELLIGENCE ARTIFICIELLE & ÉCONOMIE NUMÉRIQUE… avec Gaël Giraud et Anne Alombert
- Intelligence artificielle, bullsh*t, pipotron ? Benjamin Bayart
- I.A., trou noir philosophique (La fourmi dans la coquille)
- I.A. : Le choc de l’intime ? Laurent Alexandre et Alexandre Tsicopoulos (Thinkerview)
- I.A. : L’humanité va-t-elle survivre ? Gilles Babinet (Thinkerview)
- IA et transition écologique : les liaisons dangereuses ? Guillaume Pitron (Thinkerview)
- Omniprésence de l’IA : sens, conséquences, impacts (Erwan Lauriot Prévost – RCF Hauts-de-France)
Un poème généré par IA
Voir aussi : la frise de l’informatique, musique et IA, le thème Intelligence artificielle.