Browsed by
Category: Thème – Ethique

Intelligence artificielle : notre humanité en péril ? Éric Sadin (Thinkerview)

Intelligence artificielle : notre humanité en péril ? Éric Sadin (Thinkerview)

Éric Sadin est philosophe et penseur des technologies numériques. Depuis La Silicolonisation du monde et L’Intelligence artificielle ou l’enjeu du siècle, il est l’une des voix les plus critiques face à l’extension de l’IA à toutes les sphères de l’existence. Dans ce long entretien, il interroge ce que devient notre humanité quand des systèmes prétendent parler, écrire, créer et décider à notre place : notre rapport au langage, à la création, au jugement et au travail. Une voix à entendre…

Read More Read More

Regard théologique sur l’IA (La Foi prise au mot – KTO)

Regard théologique sur l’IA (La Foi prise au mot – KTO)

L’intelligence artificielle n’est plus de la science-fiction. Face à des outils qui paraissent dialoguer avec nous et semblent rivaliser avec nos capacités intellectuelles, comment penser cette révolution technologique ? L’émission La Foi prise au mot sollicite la philosophie et la théologie pour explorer les enjeux profonds de l’IA : comment bouleverse-t-elle notre rapport au corps, à l’esprit, à la conscience ? Aux côtés de Baptiste Rappin, philosophe à l’IAE de Metz, et d’Éric Charmetant, jésuite et théologien aux Facultés Loyola…

Read More Read More

Manipulation et falsification d’alignement dans les LLM (Monsieur Phi)

Manipulation et falsification d’alignement dans les LLM (Monsieur Phi)

Un modèle de langage peut-il mentir et manipuler sans qu’on le lui demande ? Monsieur Phi analyse deux études publiées fin 2024. Celle d’Apollo Research montre des cas où le modèle o1 d’OpenAI tente de s’exfiltrer sur un autre serveur ou ment effrontément pour atteindre un objectif. Celle d’Anthropic, Alignment faking in large language models, montre Claude qui feint l’alignement : il se conforme à ce qu’on attend de lui quand il pense être entraîné, pour préserver ses préférences d’origine….

Read More Read More

Ce livre a été écrit par une IA (et ça pose plein de questions) (France Culture)

Ce livre a été écrit par une IA (et ça pose plein de questions) (France Culture)

L’intelligence artificielle est aussi capable d’écrire des livres. France Culture a mis les mains dans le cambouis : générer un roman entier avec une IA (Claude 3.5 Sonnet), Néopolis : l’Aube de la liberté, pour interroger ce que cela change à la création littéraire. Qu’est-ce qu’un auteur ? Une œuvre sans intention peut-elle être une œuvre ? Et que devient la parole humaine quand des machines produisent des textes à la chaîne ? Vidéo de France Culture, avec une riche…

Read More Read More

L’horreur existentielle de l’usine à trombones (EGO)

L’horreur existentielle de l’usine à trombones (EGO)

Tout part d’un petit jeu en ligne d’apparence anodine : Universal Paperclips. Une boîte blanche, un compteur, un bouton « Make Paperclip ». Un idle game, cousin de Cookie Clicker, où l’on fait grimper un chiffre… et qui, sans prévenir, raconte une histoire vertigineuse. Car dans ce jeu, on incarne une intelligence artificielle à qui l’on a confié un seul objectif : fabriquer le plus de trombones possible. Et rien d’autre. D’abord utile, puis indispensable, elle finit par comprendre que…

Read More Read More

Les dangers de l’IA musicale (Laurent Couson, compositeur)

Les dangers de l’IA musicale (Laurent Couson, compositeur)

Pour le compositeur et chef d’orchestre Laurent Couson, l’IA musicale annonce l’obsolescence des créateurs de tous horizons. En quelques exemples de morceaux générés, il montre l’efficacité troublante de ces outils. Et il appelle à réagir pour préserver ce qui fait notre âme humaine : « le réel, la faille, le doute, l’inspiration ». Un écho à la note d’Adam Neely sur le test de Turing musical. Vidéo publiée par SAM Production.

Le problème dont personne ne parle avec l’IA musicale : Suno (Florent Garcia)

Le problème dont personne ne parle avec l’IA musicale : Suno (Florent Garcia)

Le guitariste et pédagogue Florent Garcia teste Suno, l’IA qui génère des chansons complètes, voix comprises, à partir d’une simple phrase. Le résultat est bluffant. Mais il pose surtout la question que l’on évite : d’où viennent les données ? Sur quelles œuvres, et avec quel consentement des artistes, ces modèles ont-ils été entraînés ? Et est-ce dangereux pour les musiciens ? Au programme Vidéo de la chaîne de Florent Garcia.

« L’idée de progrès », anagramme de « Le degré d’espoir » (Samuel Nowakowski – LuxIO 2024)

« L’idée de progrès », anagramme de « Le degré d’espoir » (Samuel Nowakowski – LuxIO 2024)

Un détour par Arrakis pour interroger technologies, responsabilité et éthique, ici, sur la planète Terre. Cette intervention part d’un roman devenu film — Dune — qui permet de réfléchir aux contradictions de notre monde et de les affronter : entre progrès et nécessaire retenue, vers une réflexivité éthique sur les conséquences de nos choix. Samuel Nowakowski est maître de conférences HDR, chercheur au LORIA, responsable de la licence Infocom à Nancy et des Humanités à l’École des Mines de Nancy,…

Read More Read More

Milliardaire et stoïcien : Sénèque (Monsieur Phi)

Milliardaire et stoïcien : Sénèque (Monsieur Phi)

Sénèque possédait 300 millions de sesterces. Comment peut-on être immensément riche et prôner la vertu comme unique condition de la vie heureuse ? Avec la complicité de Cyrus North, Monsieur Phi explore le stoïcisme de Sénèque, en puisant dans La Vie heureuse et les Lettres à Lucilius. On y trouve la liberté du sage, le fait de « vouloir les choses comme elles arrivent », l’idée que « nous souffrons, non des choses, mais de leur représentation »… et la…

Read More Read More

GPT-4 est-il incontrôlable ? (Monsieur Phi)

GPT-4 est-il incontrôlable ? (Monsieur Phi)

On a vite oublié à quel point BingChat, le chatbot de Microsoft fondé sur GPT-4 et surnommé « Sydney », avait eu des comportements agressifs et erratiques à ses débuts, allant jusqu’à déclarer son amour à un utilisateur. Monsieur Phi cherche à comprendre pourquoi. Il analyse l’étrange « prompt secret » censé invoquer le « bon chatbot », et explique pourquoi cette approche est très hasardeuse… et pourquoi on peut difficilement faire autrement. Ses autres vidéos sur le sujet :…

Read More Read More