Browsed by
Category: Monsieur Phi

Manipulation et falsification d’alignement dans les LLM (Monsieur Phi)

Manipulation et falsification d’alignement dans les LLM (Monsieur Phi)

Un modèle de langage peut-il mentir et manipuler sans qu’on le lui demande ? Monsieur Phi analyse deux études publiées fin 2024. Celle d’Apollo Research montre des cas où le modèle o1 d’OpenAI tente de s’exfiltrer sur un autre serveur ou ment effrontément pour atteindre un objectif. Celle d’Anthropic, Alignment faking in large language models, montre Claude qui feint l’alignement : il se conforme à ce qu’on attend de lui quand il pense être entraîné, pour préserver ses préférences d’origine….

Read More Read More

Milliardaire et stoïcien : Sénèque (Monsieur Phi)

Milliardaire et stoïcien : Sénèque (Monsieur Phi)

Sénèque possédait 300 millions de sesterces. Comment peut-on être immensément riche et prôner la vertu comme unique condition de la vie heureuse ? Avec la complicité de Cyrus North, Monsieur Phi explore le stoïcisme de Sénèque, en puisant dans La Vie heureuse et les Lettres à Lucilius. On y trouve la liberté du sage, le fait de « vouloir les choses comme elles arrivent », l’idée que « nous souffrons, non des choses, mais de leur représentation »… et la…

Read More Read More

GPT-4 est-il incontrôlable ? (Monsieur Phi)

GPT-4 est-il incontrôlable ? (Monsieur Phi)

On a vite oublié à quel point BingChat, le chatbot de Microsoft fondé sur GPT-4 et surnommé « Sydney », avait eu des comportements agressifs et erratiques à ses débuts, allant jusqu’à déclarer son amour à un utilisateur. Monsieur Phi cherche à comprendre pourquoi. Il analyse l’étrange « prompt secret » censé invoquer le « bon chatbot », et explique pourquoi cette approche est très hasardeuse… et pourquoi on peut difficilement faire autrement. Ses autres vidéos sur le sujet :…

Read More Read More

De quoi ChatGPT est-il VRAIMENT capable ?

De quoi ChatGPT est-il VRAIMENT capable ?

0:00 – Intro – Qu’est-ce que ChatGPT ? 2:49 – À quoi les modèles de langage sont-ils entraînés ? 6:10 – Test : où l’on voit que ça ne RÉPOND pas, ça PRÉDIT 10:04 – Mais quand on parle de sujets sensibles… 11:42 – Lê sur l’”éducation” des modèles de langage 14:25 – Lê présente Tournesol 16:51 – ChatGPT : transformer un modèle de langage en chatbot 17:33 – Le problème de Blake Lemoine : un chatbot conscient ? 21:30…

Read More Read More

ChatGPT : la philosophie du baratin (Monsieur Phi)

ChatGPT : la philosophie du baratin (Monsieur Phi)

« ChatGPT est trop intelligent pour être un simple compléteur de texte ! » Vraiment ? Monsieur Phi mobilise le philosophe Harry Frankfurt et son célèbre essai On Bullshit : le baratineur n’est pas un menteur, car il se moque de savoir si ce qu’il dit est vrai ou faux. Ce qui compte pour lui, c’est l’effet produit. En ce sens, ChatGPT est un baratineur. Au programme Le premier épisode sur le sujet : De quoi ChatGPT est-il vraiment capable…

Read More Read More

Le plus terrifiant dans 1984… est une idée philosophique (Monsieur Phi)

Le plus terrifiant dans 1984… est une idée philosophique (Monsieur Phi)

La réécriture du passé, la doublepensée, le Parti qui décide de ce qui est vrai : 1984 de George Orwell décrit le totalitarisme sous sa forme la plus pure. Pour Monsieur Phi, le plus terrifiant dans le roman est une idée philosophique : il n’y a pas de réalité extérieure. Du contrôle matériel au contrôle de la pensée, puis au contrôle de la réalité elle-même, en passant par l’idéalisme radical de Berkeley. D’où la phrase clé de Winston : «…

Read More Read More

Deux notions de justice (et pourquoi aucune ne justifie l’héritage) (Monsieur Phi)

Deux notions de justice (et pourquoi aucune ne justifie l’héritage) (Monsieur Phi)

L’héritage est-il juste ? Tout dépend du sens qu’on donne à la justice. Monsieur Phi distingue la justice procédurale (les règles du jeu sont-elles respectées ?) de la justice distributive (la répartition obtenue est-elle équitable ?). Il examine ensuite les effets de l’héritage d’un point de vue conséquentialiste, puis l’argument déontologique du droit à transmettre le fruit de son travail, en s’appuyant sur le rapport du Conseil d’analyse économique « Repenser l’héritage ». Et il conclut sur une formule :…

Read More Read More

Où suis-je ? La nouvelle de Daniel Dennett (Monsieur Phi)

Où suis-je ? La nouvelle de Daniel Dennett (Monsieur Phi)

Un cerveau dans une cuve, relié à distance à son corps : si l’un et l’autre sont séparés, où suis-je ? Monsieur Phi lit en intégralité « Où suis-je ? », la célèbre nouvelle-expérience de pensée du philosophe Daniel Dennett, puis la commente : physicalisme et fonctionnalisme, le corps comme terminal et l’esprit comme processeur, une prétendue preuve de « l’immatérialité de l’âme »… et, au fond, de quoi « Où suis-je ? » est-il la question ? Une histoire…

Read More Read More

Pourquoi se disputer sur le sens des mots ? (Monsieur Phi)

Pourquoi se disputer sur le sens des mots ? (Monsieur Phi)

Combien de débats tournent en rond parce que les deux camps ne mettent pas le même sens derrière le même mot ? Dans ce court épisode de Grain de philo, Monsieur Phi « se dispute sur les disputes verbales ». En s’inspirant de l’article Verbal Disputes du philosophe David Chalmers, il montre comment les repérer, et quand elles valent quand même la peine d’être menées. Un outil précieux pour tous ceux qui cherchent à « se confronter aux autres opinions…

Read More Read More

La loi de Bayes, en deux vidéos (Monsieur Phi)

La loi de Bayes, en deux vidéos (Monsieur Phi)

Dans sa série Argument frappant, Monsieur Phi (Thibaut Giraud) consacre deux épisodes à la loi de Bayes : l’outil qui permet de mettre à jour nos croyances face à une nouvelle information… et que nous appliquons très souvent de travers. Partie 1 : la formule Une introduction claire au théorème de Bayes et aux probabilités conditionnelles : qu’est-ce que la probabilité de A sachant B, et comment la calculer ? Erratum signalé par l’auteur : à 8:32, sur la ligne…

Read More Read More