Tu demandes du JSON à un LLM. 19 fois sur 20, c'est parfait. La 20e fois, une accolade manque, et ton appli crashe. Aucun prompt ne réglera jamais ça à 100% — parce qu'un LLM ne "respecte" pas un format, il échantillonne des probabilités token par token. La vraie solution est une technique d'ingénierie LLM sous-estimée : le **constrained decoding** (décodage contraint). Dans cette vidéo, on décortique le mécanisme exact — le logit masking — qui rend une sortie invalide littéralement impossible à générer. Pas de maths, pas besoin d'être ingénieur. Juste la mécanique, expliquée clairement. 📚 Ressources : la lib Outlines (.txt team), la grammaire GBNF de llama.cpp, le structured output d'OpenAI & d'Anthropic. ▶ Si tu n'as pas vu comment un LLM choisit ses mots, regarde notre deep-dive sur l'architecture Transformer en premier. 🔔 Abonne-toi à Projets IA pour les prochaines vidéos sur l'ingénierie LLM, les agents et la mise en production. #ConstrainedDecoding #StructuredOutput #LLM #JSON #IA #IntelligenceArtificielle #FunctionCalling #Outlines #llamacpp #MachineLearning #VulgarisationIA #ProjetsIA #IngénierieIA --- ## 📚 SOURCES - **Outlines** (dottxt-ai) — lib Python de structured generation : JSON Schema → automate, logit masking. Référence d'implémentation open source. - **GBNF** (GGML BNF) — format de grammaire de llama.cpp pour contraindre la génération locale. - **OpenAI** — docs Structured Outputs / JSON mode / function calling. - **Anthropic** — docs tool use / JSON output. - Concept général : automates à états finis & grammaires context-free appliqués au décodage LLM (logit masking entre logits et softmax). Hosted on Ausha. See ausha.co/privacy-policy for more information.

À chaque pas d'entraînement, un réseau de neurones doit savoir, pour chacun de ses paramètres — parfois des centaines de milliards — dans quel sens le bouger pour se tromper un peu moins. Et il calcule tout ça d'un coup, en un seul passage. L'algorithme derrière, c'est la backpropagation. Dans cette vidéo, on dissèque le CALCUL du gradient lui-même : ce que c'est, pourquoi la règle de la chaîne le rend possible, et comment PyTorch le fait automatiquement pour toi. Sans une seule équation intimidante. (Note : ici on parle du *calcul* du gradient — la backprop. Pas de la descente de gradient, l'optimisation, qui a sa propre vidéo sur la chaîne.) 🔔 Abonne-toi à Projets IA pour les prochaines vidéos sur l'entraînement des réseaux, l'optimisation et le hands-on micrograd en français. 📚 Ressources : micrograd d'Andrej Karpathy · Stanford CS231n (notes sur la backprop) · papier original Rumelhart, Hinton & Williams (1986). #Backpropagation #IA #DeepLearning #MachineLearning #PyTorch #ReseauxDeNeurones #Gradient #VulgarisationIA #IntelligenceArtificielle #ProjetsIA --- ## SOURCES - **Rumelhart, Hinton & Williams (1986)** — "Learning representations by back-propagating errors", Nature. Papier fondateur. - **Stanford CS231n** — notes de cours sur la backpropagation et les graphes de calcul (référence pédagogique de l'analogie engrenages / circuits). - **Andrej Karpathy — micrograd / "The spelled-out intro to backpropagation"** — autograd minimal en ~100 lignes Python, construction du graphe et `backward()` à la main. - **Documentation PyTorch Autograd** — `requires_grad`, `loss.backward()`, graphe dynamique, stockage des activations. - **Gradient checkpointing** (mention) — `torch.utils.checkpoint`, compromis mémoire/calcul. --- ## HASHTAGS #Backpropagation #IA #DeepLearning #MachineLearning #PyTorch #ReseauxDeNeurones #Gradient #ChainRule #Autograd #VulgarisationIA #IntelligenceArtificielle #ProjetsIA --- ## CONCEPTS MATH VULGARISÉS (compteur — plafond 5-6) 1. **Loss / fonction de coût** — un seul chiffre qui mesure l'erreur du modèle. 2. **Dérivée / pente** — de combien la sortie bouge si je bouge un peu l'entrée ; positive = monte, négative = descend. 3. **Dérivée partielle** — la pente dans une seule direction, tous les autres poids figés. 4. **Gradient** — la liste de toutes les pentes, une par poids ; boussole vers la montée la plus raide. 5. **Composition de fonctions** — fonctions emboîtées comme des poupées russes. 6. **Règle de la chaîne** — multiplier les petites pentes locales le long de la chaîne (engrenages). Hosted on Ausha. See ausha.co/privacy-policy for more information.

🔬 Q × K × V — l'opération qui fait fonctionner ChatGPT, Claude, et tous les Transformers. Aujourd'hui, on regarde au microscope. Dans cette vidéo, on décortique : — Pourquoi chaque mot doit "regarder" tous les autres (et pourquoi RNN et CNN ne suffisaient pas) — Q, K, V comme trois projections du même vecteur (Query, Key, Value) — Le produit Q × K transposé → softmax → scores de pertinence — La somme pondérée des V → représentation contextuelle enrichie — Pourquoi multi-head : 12 versions parallèles pour capturer différents aspects sémantiques Q, K, V, c'est trois façons de regarder le même mot. Question, étiquette, contenu. 📚 Sources et ressources — Vaswani et al. 2017 — *Attention Is All You Need* (arXiv:1706.03762) — Jay Alammar — *The Illustrated Transformer* : jalammar.github.io/illustrated-transformer — BertViz : visualiser les têtes d'attention : github.com/jessevig/bertviz — Stanford CS224N — Lecture sur l'attention 👉 Projets IA — pour comprendre l'IA sans bullshit, un concept par vidéo. 🔔 Abonne-toi ! #IntelligenceArtificielle #MachineLearning #DeepLearning #Attention #Transformer #QKV #MultiHead #IAExpliquée #ProjetsIA Hosted on Ausha. See ausha.co/privacy-policy for more information.

🤗 Aujourd'hui, télécharger un modèle d'IA prend dix secondes. En 2018, ça prenait des heures. Voici ce qui a changé. Dans cette vidéo, on décortique l'écosystème Hugging Face : — Pourquoi en 2018 chaque labo distribuait ses modèles en silo (4 frameworks, 4 conventions, poids sur Google Drive) — Comment la lib `transformers` et `from_pretrained()` ont standardisé l'interface (200+ architectures aujourd'hui) — Pourquoi le Hub est basé sur Git LFS — et ce que ça change pour le versioning des poids — Le rôle des model cards (Mitchell 2019) pour rendre les modèles traçables — Le format `.safetensors` : sécurité, zero-copy, lazy loading — L'effet réseau enclenché par `datasets`, Spaces et l'Inference API Hugging Face n'a pas inventé un nouveau modèle. Ils ont inventé la plomberie. 📚 Sources — Wolf et al. 2019 — *HuggingFace's Transformers: State-of-the-Art Natural Language Processing* (arXiv:1910.03771) — Mitchell et al. 2019 — *Model Cards for Model Reporting* (FAccT 2019) — `safetensors` repo + spec : github.com/huggingface/safetensors — Doc Hugging Face Hub : huggingface.co/docs/hub — Git LFS : git-lfs.com 👉 Projets IA — pour comprendre l'IA sans bullshit, un concept par vidéo. 🔔 Abonne-toi ! #IntelligenceArtificielle #MachineLearning #DeepLearning #HuggingFace #Transformers #OpenSource #MLOps #SafeTensors #ModelCards #GitLFS #IAExpliquée #ProjetsIA #IA --- ## HASHTAGS #IntelligenceArtificielle #MachineLearning #DeepLearning #HuggingFace #Transformers #OpenSource #MLOps #SafeTensors #ModelCards #GitLFS #IAExpliquée #ProjetsIA #IA Hosted on Ausha. See ausha.co/privacy-policy for more information.

🔧 Adapter un LLM à TES données pour 10€ au lieu de 100 000€. Et pourquoi 9 fois sur 10, RAG suffit. Dans cette vidéo, on décortique : — Pourquoi RAG est presque toujours le bon premier réflexe (et quand non) — Comment fonctionne LoRA — geler le modèle, ajouter 2 petites matrices, entraîner 0,2 % des paramètres — Pourquoi QLoRA permet de fine-tuner Llama 70B sur un GPU consumer à 1500€ — Quand le full fine-tuning reste pertinent (spoiler : rarement) — Une matrice de décision claire : RAG / QLoRA / LoRA / Full FT selon ton cas 📚 Sources — LoRA: Low-Rank Adaptation of Large Language Models — Hu et al., Microsoft Research 2021 — QLoRA: Efficient Finetuning of Quantized LLMs — Dettmers et al., U. Washington 2023 — Hugging Face PEFT library — github.com/huggingface/peft — Guides Axolotl 👉 Projets IA — pour comprendre l'IA sans bullshit, un concept par vidéo. 🔔 Abonne-toi ! #IntelligenceArtificielle #MachineLearning #DeepLearning #FineTuning #LoRA #QLoRA #LLM #Llama #HuggingFace #IAExpliquée #ProjetsIA #IA Hosted on Ausha. See ausha.co/privacy-policy for more information.

Tu donnes à une IA un document qu'elle n'a jamais vu. Et elle répond parfaitement à toutes tes questions dessus. Comment c'est possible ? La réponse s'appelle le RAG, pour Retrieval Augmented Generation. C'est la technique utilisée par toutes les boîtes qui déploient de l'IA en 2026 — de la startup au grand groupe. Dans cette vidéo, on va voir comment ça marche, étape par étape, sans une seule ligne de code. Et surtout pourquoi le RAG basique se plante en production — et comment les ingénieurs le rendent enfin fiable. 🔔 Abonne-toi à Projets IA pour les prochaines vidéos sur les agents IA, les bases de données vectorielles et la mise en pratique du RAG. #RAG #IA #IntelligenceArtificielle #LLM #ChatGPT #MachineLearning #VulgarisationIA #ProjetsIA Hosted on Ausha. See ausha.co/privacy-policy for more information.

Quand tu tapes une phrase dans ChatGPT, que se passe-t-il exactement dans les 0,3 secondes qui suivent ? Tokenisation, embeddings, attention, MLP, softmax — on décortique TOUT, dans l'ordre, étape par étape. 🧠 Dans cette vidéo, tu vas suivre le voyage d'une phrase à travers GPT-2 de bout en bout. Comprends pourquoi les RNN — les réseaux récurrents — ont atteint leurs limites. Découvre le mécanisme Query/Key/Value qui permet à chaque mot de contextualiser les autres. Apprends pourquoi le masque causal empêche le modèle de "tricher". Et maîtrise la façon dont la température, top-k et top-p contrôlent la créativité du modèle. Sans équations. Sans jargon. Juste la mécanique, expliquée clairement. 🎯 CE QUE TU VAS MAÎTRISER — Ce qu'est un vecteur et pourquoi c'est la brique de base de tout le système — Pourquoi les RNN échouaient sur les textes longs — Les 4 sous-étapes de l'embedding (tokenisation → vecteur final) — Comment Query, Key et Value permettent à chaque mot de "chercher" dans le contexte — Ce qu'est le masque causal et pourquoi il est indispensable — Comment température, top-k et top-p contrôlent la créativité du modèle ChatGPT ne "comprend" pas — il prédit le mot suivant, encore et encore, à travers 12 couches de la même mécanique. Et maintenant tu sais exactement comment elle fonctionne. 💬 Quelle étape t'a semblé la plus contre-intuitive ? Query/Key/Value ? Le masque causal ? Dis-le moi en commentaire ! 🔔 Abonne-toi à Projets IA pour comprendre l'IA sans bullshit, un concept par vidéo. 🔗 Ressource interactive mentionnée dans la vidéo : Transformer Explainer — poloclub.github.io/transformer-explainer (joue avec tes propres phrases, vois l'attention en temps réel) 🎬 Autres vidéos pour aller plus loin : — L'Attention en détail : Q, K, V avec des schémas et des vrais chiffres — Les Embeddings : comment l'IA encode le sens des mots — RLHF : comment des humains ont éduqué ChatGPT après l'entraînement #Transformer #IA #IntelligenceArtificielle #ChatGPT #GPT2 #MachineLearning #DeepLearning #LLM #AttentionMechanism #NLP #IAExpliquée #Vulgarisation #Tech #ProjetsIA #NeuralNetwork Hosted on Ausha. See ausha.co/privacy-policy for more information.