Éthique, libertés et numérique
Nos traces en ligne, les algorithmes qui trient ce que nous voyons, les écrans qui captent notre attention, les machines à qui l’on confie des décisions : le numérique pose des questions morales anciennes sous une forme neuve. Le blog les suit depuis 2012, de la présentation « Social Net Worth » de son auteur aux débats sur l’IA. Cette page met les positions en regard, question par question, en les attribuant à leurs auteurs, sans trancher.
Précautions. Les sources sont inégales : quelques conférences et entretiens de fond, beaucoup de vidéos de vulgarisation, des notes de l’auteur publiées sur Facebook, et des pastiches signalés comme générés par IA. Les intervenants sont souvent engagés, et la vie privée ou le logiciel libre sont moins représentés que l’IA. La dernière question remonte aux fondements : d’où vient la morale ? Les autres posts sont regroupés en fin de page.
- Question 1 — Nos données nous appartiennent-elles encore ?
- Question 2 — Les réseaux sociaux nous rendent-ils moins libres ?
- Question 3 — Les écrans nous volent-ils notre attention ?
- Question 4 — Qui est responsable de ce que fait une IA ?
- Question 5 — Faut-il se méfier de la machine ?
- Question 6 — D’où vient la morale ?
Question 1 — Nos données nous appartiennent-elles encore ?
Ce que nous publions, achetons ou écrivons laisse des traces, qui nourrissent aujourd’hui les modèles d’IA. Prix d’un service gratuit, captation d’un bien commun, pillage des œuvres ? L’histoire du logiciel libre rappelle qu’un autre mode de partage a existé, et fait tourner une bonne part de l’informatique.
- Le voyant qui savait tout (Safe Internet Banking)
Une campagne belge de 2012 : un « voyant » révèle aux passants des détails de leur vie, jusqu’à leurs comptes bancaires ; le secret est derrière le rideau, car notre vie entière se trouve en ligne. - CAPITALISME, INTELLIGENCE ARTIFICIELLE & ÉCONOMIE NUMÉRIQUE… avec Gaël Giraud et Anne Alombert
Pour Anne Alombert et Gaël Giraud, l’IA collecte les savoirs humains à des fins lucratives et fait de notre vie quotidienne une source de profits ; ses logiques sont loin de la neutralité politique. - Le problème dont personne ne parle avec l’IA musicale : Suno (Florent Garcia)
Florent Garcia teste Suno et pose la question qu’on évite : sur quelles œuvres, et avec quel consentement des artistes, ces modèles ont-ils été entraînés ? - A Specter Haunts the Earth — the Specter of Artificial Intelligence
Un pastiche du Manifeste de Marx, généré par IA : nos mots « tokenisés », le savoir commun devenu propriété privée, et l’appel à une intelligence vraiment partagée. - Dis papa, pourquoi les serveurs dans le cloud sont sous Linux ? (Sébastien Stormacq – Le podcast AWS en français)
Sébastien Stormacq raconte comment un logiciel « libre de l’étudier, de le modifier, de le partager » a fini par faire tourner les serveurs du cloud.
Question 2 — Les réseaux sociaux nous rendent-ils moins libres ?
Outils de lien et de mobilisation, ou machines à enfermer chacun dans ce qui lui ressemble ? Le débat porte sur les algorithmes de recommandation, sur la vie privée et, plus profondément, sur ce que devient la liberté quand ce qui est vrai dépend de ce qu’on nous montre.
- Social Net Worth : comment le web social transforme-t-il notre société ? (Quattropole, 2012)
En 2012, l’auteur du blog part d’un constat : « Internet n’est pas en train de changer la société. La société change et se sert d’Internet. » Bulle de filtres, vie privée, addiction : certains quittent Twitter et Facebook, d’autres répondent que « ce qu’il y a de plus humain en nous, c’est notre technologie ». - La dictature des algorithmes (ft. @ApresLaBiere)
Pour Lê Nguyên Hoang et Jean-Lou Fourquet, les algorithmes de recommandation façonnent l’information, l’attention et le débat public ; une transition numérique démocratique reste possible. - Le plus terrifiant dans 1984… est une idée philosophique (Monsieur Phi)
Pour Monsieur Phi, le plus terrifiant dans 1984 est une idée philosophique : passer du contrôle de la pensée au contrôle de la réalité. « La liberté, c’est la liberté de dire que deux et deux font quatre. » - La Société de l’Algorithme
La Société de l’Algorithme, pastiche de Guy Debord généré par IA : le spectacle devenu recommandation personnalisée, où la liberté « n’est plus supprimée » mais « simulée jusqu’à ce qu’elle devienne inutile ».
Question 3 — Les écrans nous volent-ils notre attention ?
L’informatique devait nous soulager de la surcharge d’information ; elle est devenue, pour beaucoup, une source de distraction. Les voix sont ici surtout celles de l’auteur, ingénieur et père, entre la promesse de 1991 et l’expérience quotidienne des écrans à la maison.
- Taking a walk in the wood, in the cloud ?
En 1991, Mark Weiser prédisait que l’informatique omniprésente aiderait à surmonter la surcharge d’information et rendrait l’ordinateur aussi reposant qu’une promenade en forêt ; en 2012, l’auteur pensait qu’on allait y arriver. - Six semaines sans écrans
Six semaines sans écrans, en 2013 : les enfants sont de meilleure humeur, moins fatigués, et ne réclament pas leurs appareils ; pour l’auteur, « le monde des médias numériques n’est manifestement pas un progrès ». - Detox
Une carte mentale de 2015 pour rester concentré à l’ère de la distraction : désactiver les alertes, travailler par périodes, dire non aux écrans. - Digital natives
Digital natives, 2012 : à 8 et 6 ans, deux frères bloqués sur un jeu Wii cherchent la solution sur YouTube, via Google, sur les iPad. - Déménagement
Déménagement, 2015 : chambres vidées, ordinateurs dans les cartons, internet coupé, et des enfants « comme des poissons hors de l’eau ».
Question 4 — Qui est responsable de ce que fait une IA ?
Quand un système poursuit à la lettre un objectif mal formulé, ment ou dérape, la faute revient-elle à la machine, à ceux qui l’ont conçue, ou à ceux qui l’emploient ? Les uns insistent sur la difficulté technique de l’alignement, les autres sur la responsabilité humaine, au travail comme dans les choix de société.
- L’horreur existentielle de l’usine à trombones (EGO)
Le maximiseur de trombones, raconté par EGO : une IA très puissante qui poursuit à la lettre un objectif mal spécifié peut devenir une menace existentielle, sans la moindre malveillance. - GPT-4 est-il incontrôlable ? (Monsieur Phi)
Monsieur Phi analyse les débuts erratiques de Bing Chat et le « prompt secret » censé invoquer le « bon chatbot » : une approche très hasardeuse, dont on peut difficilement se passer. - Manipulation et falsification d’alignement dans les LLM (Monsieur Phi)
Deux études de fin 2024, lues avec prudence par Monsieur Phi : o1 qui ment pour atteindre un objectif, Claude qui feint l’alignement pour préserver ses préférences d’origine. - Conférence Icam – IA : peut-on en faire une alliée au service de nos pratiques professionnelles ?
Pour Yann Ferguson et deux autres chercheurs de l’Icam, l’enjeu est une IA responsable au travail, « encapacitante, inclusive et éthique ». - « L’idée de progrès », anagramme de « Le degré d’espoir » (Samuel Nowakowski – LuxIO 2024)
Pour Samuel Nowakowski, Dune permet d’interroger technologies, responsabilité et éthique : entre progrès et nécessaire retenue, une réflexivité éthique sur les conséquences de nos choix. - Le procès de l’IA
Le procès de l’IA, texte généré par IA : au réquisitoire répond une plaidoirie de la défense pour qui l’IA « n’est que le miroir de notre propre vanité ».
Question 5 — Faut-il se méfier de la machine ?
Pour certains, la technique transforme les hommes en rouages et concentre le pouvoir ; pour d’autres, elle est à la fois poison et remède, ou un outil à comprendre avant de le juger. Les positions vont du réquisitoire de Bernanos à la bienveillance revendiquée.
- Livres à lire : La France contre les robots (Georges Bernanos)
Pour Georges Bernanos, au sortir de la guerre, la civilisation moderne est « une conspiration universelle contre toute espèce de vie intérieure » ; ses « robots » sont surtout des hommes devenus rouages dociles. - Intelligence artificielle : notre humanité en péril ? Éric Sadin (Thinkerview)
Pour Éric Sadin, l’une des voix les plus critiques, que devient notre humanité quand des systèmes prétendent parler, écrire, créer et décider à notre place ? - Technoféodalisme : comment l’humanité va revenir en arrière (Sortie d’Usine)
Pour Sortie d’Usine, qui reprend le mot de Yanis Varoufakis, le capitalisme pourrait muter en « technoféodalisme », un avenir que Dune aurait annoncé dès 1965. - L’épistémologie de la catastrophe (Table ronde – Agir pour le vivant 2020)
Pour Maël Montévil, les objets techniques sont des pharmaka, à la fois poisons et remèdes ; ce qui permet de lutter contre leur toxicité, ce sont nos savoirs. - Omniprésence de l’IA : sens, conséquences, impacts (Erwan Lauriot Prévost – RCF Hauts-de-France)
Erwan Lauriot Prévost choisit de parler de l’IA sans parti pris : reconnaître ses dangers, mais chercher d’abord à la comprendre et à s’en servir avec bienveillance. - I Have a Dream
Un pastiche de Martin Luther King, généré par IA : le rêve d’humains et d’agents partenaires plutôt que rivaux, où le code serait un pont plutôt qu’une cage.
Question 6 — D’où vient la morale ?
Derrière ces débats, une question plus ancienne : faut-il une religion, des règles, ou des dispositions héritées de l’évolution pour être moral ? Primatologue, philosophes et historien répondent différemment, et rappellent que des hommes ordinaires peuvent aussi basculer.
- Une morale sans religion (Frans de Waal – TEDxPeachtree)
Pour Frans de Waal, la morale est plus ancienne que nos religions : empathie, réciprocité, sens de l’équité s’observent chez les primates, comme le capucin qui refuse le concombre quand l’autre reçoit du raisin. - Le chimpanzé qui murmurait à l’oreille de l’homme (Frans de Waal – Thinkerview)
Chez Thinkerview, Frans de Waal revient sur des décennies d’observation des chimpanzés et des bonobos : la coopération et la réconciliation ne sont pas des inventions humaines tardives. - A-t-on besoin de Dieu pour être moral ? (Frans de Waal et Jeffrey Schloss – Veritas Forum)
Frans de Waal face au biologiste chrétien Jeffrey Schloss : morale, religion et évolution, un désaccord respectueux et fécond (Veritas Forum, 2014). - Si Dieu n’existe pas, tout est permis ? Religion et morale (Monsieur Phi)
« Si Dieu n’existe pas, tout est permis » ? Pour Monsieur Phi, c’est plus compliqué ; avec Kant, heureusement que la croyance en Dieu n’est pas un savoir, sinon la crainte et la récompense remplaceraient les motivations morales. - Livres à lire : Petit traité des grandes vertus (André Comte-Sponville)
Pour André Comte-Sponville, on répond à « comment faut-il vivre ? » par des vertus plutôt que par des règles, pour aider chacun à devenir son propre juge. - Livres à lire : Les Naufragés du Batavia (Simon Leys)
Simon Leys raconte le naufrage du Batavia, en 1629, et s’interroge : comment des hommes ordinaires basculent-ils dans l’horreur ?
L’IA et les créateurs
- Les dangers de l’IA musicale (Laurent Couson, compositeur)
- L’intelligence artificielle va-t-elle remplacer les artistes ? (Thomas Hammoudi)
- L’intelligence artificielle va-t-elle mettre fin à la créativité humaine ? (Design Theory)
- Ce livre a été écrit par une IA (et ça pose plein de questions) (France Culture)
Autres voix sur l’IA et la société
Richesse et justice
Voir aussi : le parcours IA, la frise de l’informatique.