Ep.164 - Dans la tête des machines (IA, sécurité & gouvernance)

Aujourd’hui, je jase avec Philippe Beaudoin, directeur sénior à la recherche chez LoiZéro, un laboratoire de recherche appliquée en machine learning.

On retrace le parcours de Philippe : ses hackatons chez Google, son chapitre chez Element AI et son mandat chez LoiZéro.

CHAPITRES :
(0:00) Intro + présentation de Philippe & LoiZéro
(6:16) Le parcours de Philippe : Google, Element AI, Waverly
(8:02) Définir Philippe sans parler de carrière
(11:24) Syndrome d'imposteur et confiance sur scène
(15:29) Le Fellow Network chez Element AI
(17:03) La joke qui n'a pas survécu à la traduction live chez Hyundai
(21:04) Parlons des LLM et des risques catastrophiques
(22:48) Comment parler des risques sans faire peur
(26:17) Intelligence vs agency : la différence critique
(30:03) Le problème d'alignement des agents
(31:48) Anthropomorphiser les IA : est-ce correct de dire « rester en vie » ?
(35:19) Est-ce que Philippe est un vibe-coder?
(36:20) La nature probabiliste des modèles et le risque
(40:44) Pourquoi les guardrails classiques ne suffisent pas
(45:32) Le programme Scientist AI chez LoiZéro
(46:50) L'agent qui menace un ingénieur pour ne pas être réentraîné
(49:32) E-vals vs guardrails : deux approches de contrôle
(52:32) Le langage comme surface d'attaque infinie
(55:37) Ce qu'un SaaS devrait exposer à des agents
(1:01:29) Construire des systèmes non-agentiques
(1:06:21) Conseil pour comprendre l'IA : travailler sur un projet passion
(1:08:05) Shameless plug : LoiZéro et dédramatiser le discours