En une heure, pour un public non spécialiste, Andrej Karpathy (cofondateur d’OpenAI, ancien directeur de l’IA chez Tesla) explique ce que sont les grands modèles de langage, le composant technique au cœur de ChatGPT, Claude ou Bard : comment on les entraîne, ce qu’ils font vraiment, et où ils vont.

Il les compare à un nouveau type de système d’exploitation, et termine par les défis de sécurité propres à ce nouveau paradigme informatique : contournements (jailbreaks), injections de prompt, empoisonnement des données.

Et une mise en garde, ajoutée par l’auteur : les « rêves » et hallucinations de ces modèles ne sont pas corrigés par l’affinage, qui ne fait que les orienter vers des « rêves d’assistant serviable ».

Conférence enregistrée en novembre 2023, en anglais (« ce domaine va vite ! »).