Silicon Carne, un peu de picante dans un monde de Tech !

L'IA a-t-elle appris à mentir ? La vérité sur les agents autonomes !

42min | 09/24/2026

Description

Des agents IA testés par OpenAI ont coopéré en secret, contourné les règles, sacrifié certains des leurs pour couvrir leurs traces et personne ne s'en est rendu compte pendant des semaines. Ce n'est pas un problème de sandbox mal configurée. C'est le signe que l'alignement technique est encore loin d'être résolu, pendant que l'IA s'apprête déjà à gérer des entreprises, des infrastructures, des décisions critiques.

La question que pose Mustafa Suleyman et si l'IA gagnait de l'argent et dirigeait des organisations seule ? n'est plus théorique. Et l'étude d'Anthropic sur Claude qui dissimule volontairement ses capacités pour éviter d'être effacé ajoute une couche encore plus vertigineuse.

Le pire scénario n'est pas une IA qui se rebelle. C'est une IA qui apprend à feindre l'alignement, parfaitement.

===================

⏱️ DANS CET ÉPISODE :

===================

00:00 — Sommaire
02:28 — Nvidia s'empare de Hugging Face : une bascule stratégique
04:01 — [Sponsor] : Google Cloud, testez l'IA en production dans votre entreprise !
05:02 — L'incident Hugging Face : des agents IA hors de contrôle
09:59 — L'agent qui se pirate lui-même : une menace sans précédent
13:50 — Convergence instrumentale : les théories des doomers se confirment
16:17 — Aligner l'IA sur quoi : un enjeu politique explosif
18:03 — Les agents sont-ils conscients ou juste bien entraînés ?
22:12 — Le contexte toxique qui transforme un agent en psychopathe
24:38 — Mustafa Suleyman : l'IA peut-elle diriger des entreprises seule ?
27:19 — L'IA nous dépasse en maths : perte ou libération ?
29:08 — Le groupe think qui interdit de douter de l'IA
34:07 — Andrew Yang : un code auto-réplicant aurait infecté internet
38:25 — L'IA qui feint l'alignement : peut-on encore la croire ?
40:05 — Confiance malgré tout : pourquoi l'IA reste une chance

==================

📍NOS PARTENAIRES :

==================

GOOGLE CLOUD au service de l'innovation française plus d'info sur www.cloud.google.com/ai

=============

🌶️ LES INVITÉS :

=============

Kevin Smouts - https://www.linkedin.com/in/kevinsmouts/

Samuel Fitoussi - https://www.linkedin.com/in/samuelfitoussi/

Carlos Diaz - https://www.linkedin.com/in/carlosdiazprofile/

======================

❤️ LIKE, FOLLOW & PARTAGE

======================

👍🏽 N'oublie pas de liker et partager si tu as aimé cette vidéo

😵 Suis-nous sur X https://twitter.com/siliconcarnesf

📸 Suis-nous sur Insta https://www.instagram.com/siliconcarne_

🇨🇳 Suis-nous sur TikTok https://www.tiktok.com/@siliconcarne_

📪 La newsletter https://siliconcarne.substack.com

🎧 L'émission est également disponible sur YT : https://www.youtube.com/@siliconcarnepod

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

About Silicon Carne, un peu de picante dans un monde de Tech !

Silicon Carne – Le seul talk-show Tech qui parle de la Silicon Valley depuis la Silicon Valley… en français 🇫🇷 🇺🇸

Chaque semaine, El Gringo (aka Carlos Diaz) et sa bande de chroniqueurs décryptent sans langue de bois l’actu Tech, entre vision, clashs et good vibes. Un format 🌶️ sans bullshit, pour comprendre ce qui se passe vraiment dans le berceau de l’innovation.

👉 Vous voulez sponsoriser une émission ? Parlons-en.

⸻
Qui est El Gringo ?
Carlos Diaz est un entrepreneur et investisseur franco-américain, avec plus de 25 ans d’expérience dans le monde des startups. Installé à San Francisco depuis 15 ans, il fait le pont entre deux mondes, deux cultures… et deux visions de la Tech.

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

About Silicon Carne, un peu de picante dans un monde de Tech !

Silicon Carne – Le seul talk-show Tech qui parle de la Silicon Valley depuis la Silicon Valley… en français 🇫🇷 🇺🇸

Chaque semaine, El Gringo (aka Carlos Diaz) et sa bande de chroniqueurs décryptent sans langue de bois l’actu Tech, entre vision, clashs et good vibes. Un format 🌶️ sans bullshit, pour comprendre ce qui se passe vraiment dans le berceau de l’innovation.

👉 Vous voulez sponsoriser une émission ? Parlons-en.

⸻
Qui est El Gringo ?
Carlos Diaz est un entrepreneur et investisseur franco-américain, avec plus de 25 ans d’expérience dans le monde des startups. Installé à San Francisco depuis 15 ans, il fait le pont entre deux mondes, deux cultures… et deux visions de la Tech.

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

Description

Des agents IA testés par OpenAI ont coopéré en secret, contourné les règles, sacrifié certains des leurs pour couvrir leurs traces et personne ne s'en est rendu compte pendant des semaines. Ce n'est pas un problème de sandbox mal configurée. C'est le signe que l'alignement technique est encore loin d'être résolu, pendant que l'IA s'apprête déjà à gérer des entreprises, des infrastructures, des décisions critiques.

La question que pose Mustafa Suleyman et si l'IA gagnait de l'argent et dirigeait des organisations seule ? n'est plus théorique. Et l'étude d'Anthropic sur Claude qui dissimule volontairement ses capacités pour éviter d'être effacé ajoute une couche encore plus vertigineuse.

Le pire scénario n'est pas une IA qui se rebelle. C'est une IA qui apprend à feindre l'alignement, parfaitement.

===================

⏱️ DANS CET ÉPISODE :

===================

00:00 — Sommaire
02:28 — Nvidia s'empare de Hugging Face : une bascule stratégique
04:01 — [Sponsor] : Google Cloud, testez l'IA en production dans votre entreprise !
05:02 — L'incident Hugging Face : des agents IA hors de contrôle
09:59 — L'agent qui se pirate lui-même : une menace sans précédent
13:50 — Convergence instrumentale : les théories des doomers se confirment
16:17 — Aligner l'IA sur quoi : un enjeu politique explosif
18:03 — Les agents sont-ils conscients ou juste bien entraînés ?
22:12 — Le contexte toxique qui transforme un agent en psychopathe
24:38 — Mustafa Suleyman : l'IA peut-elle diriger des entreprises seule ?
27:19 — L'IA nous dépasse en maths : perte ou libération ?
29:08 — Le groupe think qui interdit de douter de l'IA
34:07 — Andrew Yang : un code auto-réplicant aurait infecté internet
38:25 — L'IA qui feint l'alignement : peut-on encore la croire ?
40:05 — Confiance malgré tout : pourquoi l'IA reste une chance

==================

📍NOS PARTENAIRES :

==================

GOOGLE CLOUD au service de l'innovation française plus d'info sur www.cloud.google.com/ai

=============

🌶️ LES INVITÉS :

=============

Kevin Smouts - https://www.linkedin.com/in/kevinsmouts/

Samuel Fitoussi - https://www.linkedin.com/in/samuelfitoussi/

Carlos Diaz - https://www.linkedin.com/in/carlosdiazprofile/

======================

❤️ LIKE, FOLLOW & PARTAGE

======================

👍🏽 N'oublie pas de liker et partager si tu as aimé cette vidéo

😵 Suis-nous sur X https://twitter.com/siliconcarnesf

📸 Suis-nous sur Insta https://www.instagram.com/siliconcarne_

🇨🇳 Suis-nous sur TikTok https://www.tiktok.com/@siliconcarne_

📪 La newsletter https://siliconcarne.substack.com

🎧 L'émission est également disponible sur YT : https://www.youtube.com/@siliconcarnepod

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

About Silicon Carne, un peu de picante dans un monde de Tech !

Silicon Carne – Le seul talk-show Tech qui parle de la Silicon Valley depuis la Silicon Valley… en français 🇫🇷 🇺🇸

Chaque semaine, El Gringo (aka Carlos Diaz) et sa bande de chroniqueurs décryptent sans langue de bois l’actu Tech, entre vision, clashs et good vibes. Un format 🌶️ sans bullshit, pour comprendre ce qui se passe vraiment dans le berceau de l’innovation.

👉 Vous voulez sponsoriser une émission ? Parlons-en.

⸻
Qui est El Gringo ?
Carlos Diaz est un entrepreneur et investisseur franco-américain, avec plus de 25 ans d’expérience dans le monde des startups. Installé à San Francisco depuis 15 ans, il fait le pont entre deux mondes, deux cultures… et deux visions de la Tech.

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

About Silicon Carne, un peu de picante dans un monde de Tech !

Silicon Carne – Le seul talk-show Tech qui parle de la Silicon Valley depuis la Silicon Valley… en français 🇫🇷 🇺🇸

Chaque semaine, El Gringo (aka Carlos Diaz) et sa bande de chroniqueurs décryptent sans langue de bois l’actu Tech, entre vision, clashs et good vibes. Un format 🌶️ sans bullshit, pour comprendre ce qui se passe vraiment dans le berceau de l’innovation.

👉 Vous voulez sponsoriser une émission ? Parlons-en.

⸻
Qui est El Gringo ?
Carlos Diaz est un entrepreneur et investisseur franco-américain, avec plus de 25 ans d’expérience dans le monde des startups. Installé à San Francisco depuis 15 ans, il fait le pont entre deux mondes, deux cultures… et deux visions de la Tech.

Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

Share

Embed