Description
On entend parler d'IA générative partout, entre ceux qui assurent qu'elle va tout remplacer et ceux qui la limitent à un simple perroquet stochastique. Mais comment ça marche vraiment sous le capot ? On revient aux bases pour comprendre ce qui se cache derrière ChatGPT et consorts, loin des discours extrêmes.
Avec Lulu, on décortique le fonctionnement des LLM (les larges modèles de langage). On fait un petit bond en arrière jusqu'en 2016 avec la victoire inattendue d'AlphaGo, un moment qui a complètement changé la donne dans l'informatique. Fini le temps où chaque ligne de code était écrite par un humain avec des règles strictes. Aujourd'hui, on fait face à des modèles qui apprennent de manière autonome, capables de faire des déductions et d'avoir une certaine forme d'abstraction.
On aborde l'ingestion d'immenses corpus de textes, les calculs de probabilités, mais aussi la fameuse technologie Transformer (le "T" de GPT) qui donne à la machine cette capacité de garder un contexte global. C'est plus compliqué qu'un simple programme d'autocomplétion façon vieux téléphone T9, mais ça ne fait pas de l'IA une entité dotée d'une conscience. D'ailleurs, même pour les personnes qui développent ces modèles, le cheminement exact des données reste en grande partie une boîte noire.
Un épisode pensé pour poser des bases saines et comprendre concrètement les outils qu'on utilise au quotidien.
Source :
La parole aux machines de Thibaut Giraud
https://www.grasset.fr/livre/la-parole-aux-machines-9782246841654/
00:00 - Introduction
02:57 - 2016 et AlphaGo : la fin de l'informatique classique déterministe
11:21 - Des jeux de plateau aux modèles de langage (LLM) et le "Transformer"
20:50 - La mémoire de l'IA : mécanisme d'attention et fenêtre de contexte
26:21 - Les couches d'apprentissage et le fine-tuning des modèles
45:38 - Peut-on faire confiance à l'IA ? Déterminisme et température
55:23 - Le problème des hallucinations : pourquoi les LLM "baratinent"
01:04:33 - La boîte noire de l'IA et les comportements inattendus
01:16:33 - Les limites actuelles et la quête de l'AGI (IA générale)
01:21:03 - Conclusion et teasing du prochain épisode
Retrouvez nous sur :
https://www.instagram.com/ledernierclic/
https://www.linkedin.com/in/emmanuel-fernandez-b28740180/
https://www.linkedin.com/in/lucile-mothiron/
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
