Transcription

• Speaker #0

  Depuis un petit temps, je me suis rappelé des livres qui m'ont marqué depuis la fin de la rétho. La rhétorique, c'est le bac pour les français. J'ai récupéré mon compte Goodreads, et ma mémoire m'est revenue avec des livres que j'avais lus, et dont j'avais oublié l'existence. Au milieu de tous ces livres, je me suis rappelé de mon premier livre en anglais, The Brave New World, d'Aldo Huxley, que j'ai dû expliquer à mon examen d'oral d'anglais, que j'ai détesté lire, et que j'ai argumenté à ma prof d'anglais de l'époque. sans savoir que c'était son livre préféré. Mais malgré tout, ce livre a laissé une trace, comme tu peux le voir. Et je te fais ici la comparaison avec le monde d'aujourd'hui. Bienvenue dans Compliance Without Coma, le podcast où on parle cyber, gouvernance et cette fois-ci dystopie, sans t'endormir avant le premier café. Aujourd'hui, on fait un détour par 1932, mais reste avec moi, parce que Huxley avait déjà deviné TikTok et il avait peut-être aussi deviné ChatGPT. Donc section 1, le Soma version AI. Dans le meilleur des mondes, le Soma, c'est la pilule magique. Tu stresses ? Soma. Tu doutes ? Soma. Tu penses trop ? Soma. Aujourd'hui, on n'a pas de pilule, mais on a des IA qui nous disent quoi regarder, quoi acheter, quoi penser, quoi liker. Et ça marche, parce que ça simplifie tout. Ça enlève la friction, ça enlève l'incertitude, ça enlève l'effort, ça nous évite d'utiliser notre cerveau de type 2 de Daniel Kahneman, que du cerveau de type 1, celui du bonheur. Le confort numérique, c'est notre soma. On n'a même plus besoin de chercher l'info. Elle arrive, bien emballée. déjà filtrée pour ne pas trop nous déranger. Section 2, le conditionnement en version algorithmique. Dans Huxley, le conditionnement commence à la naissance. Dans notre monde, il commence à la première connexion. À 8 ans, tu sais déjà que YouTube Kids a compris ton cerveau mieux que tes parents. À 10, tes filles répètent leur premier kata de karaté avec YouTube. Disons que je leur donne le goût d'apprendre différemment. C'est ma pédagogie avancée. À 15 ans, ton feed TikTok décide qui tu es. A 25, tu fais confiance aux recommandations les yeux fermés d'Amazon. Plus qu'à ton meilleur ami d'ailleurs. Et à 35, on est conditionné, pas par la génétique, par les boucles de renforcement algorithmiques. Le centre d'incubation de Romain, aujourd'hui, c'est ton smartphone. Section 3, la stabilité à tout prix. Dans le livre, la société déteste le chaos. Elle adore la stabilité. Même si ça veut dire sacrifier la liberté. Ça ne te rappelle rien ? Dans nos organisations, c'est pareil. Quand tu introduis de l'IA, on te dit « Enfin moins d'erreurs humaines. Enfin des décisions cohérentes. Enfin de la standardisation. » Mouais, ça reste des probas, tout ça. Mais on oublie qu'on standardise aussi la pensée. C'est pratique. Plus personne ne dérange le système. Mais à force de chercher la stabilité, on fabrique des organisations incapables d'improviser. Exactement comme chez Huxley. Section 4 La mort du « je pense » . Il y a une phrase que j'entends de plus en plus souvent dans les boîtes, l'IA a dit non. C'est presque religieux, on ne discute plus, on ne challenge plus, on ne contextualise plus, on exécute. Et ça c'est flippant, parce que dans le meilleur des mondes, la pensée individuelle a disparu. Chez nous, la pensée critique se délègue. Pas le temps de réfléchir, l'IA va plus vite, le modèle a raison. Section 5, la liberté contre le plaisir. La dystopie de Huxley n'est pas violente, elle est séduisante, confortable, efficace et addictif. Comme l'IA. On échange la liberté contre la facilité, l'optimisation, la personnalisation, l'absence de friction. La liberté c'est fatigant, l'IA non. Et c'est pour ça qu'on l'adopte si vite. Alors, est-ce qu'on vit dans le meilleur des mondes ? Non, pas encore. Mais on avance dans une direction qui mériterait quelques points de contrôle ISO, soyons honnêtes. Et c'est là que la gouvernance... La régulation, la transparence des modèles et l'esprit critique deviennent essentiels. L'IA n'est pas un SOMA, mais elle peut en devenir un, si on arrête de penser. Merci d'avoir écouté cet épisode, un peu philo, un peu dystopique et très 2025. Si ça t'a plu, partage-le, et c'est surtout, il faut que tu gardes une chose en tête, le confort algorithmique, c'est cool, mais ton cerveau mérite quand même de rester allumé. Sans SOMA, euh pardon, sans coma, bien sûr.