On a vite oublié à quel point BingChat, le chatbot de Microsoft fondé sur GPT-4 et surnommé « Sydney », avait eu des comportements agressifs et erratiques à ses débuts, allant jusqu’à déclarer son amour à un utilisateur.

Monsieur Phi cherche à comprendre pourquoi. Il analyse l’étrange « prompt secret » censé invoquer le « bon chatbot », et explique pourquoi cette approche est très hasardeuse… et pourquoi on peut difficilement faire autrement.

Ses autres vidéos sur le sujet : De quoi ChatGPT est-il vraiment capable ? et ChatGPT : la philosophie du baratin.

Vidéo de la chaîne Monsieur Phi (Thibaut Giraud).