Description
Sur ton ordinateur, il y a déjà un processeur ultra-puissant : le CPU. Et pourtant, pour faire de l'IA, il est presque inutile. On branche à côté une carte conçue, au départ, pour les jeux vidéo. Pourquoi ? Et pourquoi NVIDIA, le fabricant de ces cartes, vaut désormais plus de 3 000 milliards de dollars ?
Dans cette vidéo, on décortique en profondeur pourquoi toute l'IA moderne tourne sur des GPU et pas des CPU. Sans maths, sans bagage technique. On va voir l'architecture matérielle, les Tensor Cores, la bande passante mémoire, et le vrai moat de NVIDIA — qui n'est pas du tout celui qu'on croit.
🔗 Ressources : "GPU Puzzles" de Sasha Rush (open source) · blog technique NVIDIA (architecture Hopper / H100).
🔔 Abonne-toi à Projets IA pour les prochaines vidéos sur la VRAM, la quantization et l'inférence des LLM.
Tu pensais que le GPU gagnait juste parce qu'il calcule plus vite ? Dis-moi en commentaire la partie qui t'a le plus surpris.
#GPU #NVIDIA #IA #IntelligenceArtificielle #CUDA #TensorCores #DeepLearning #MachineLearning #Hardware #LLM #VulgarisationIA #ProjetsIA
---
## 🔗 SOURCES
- NVIDIA — documentation architecture Hopper (H100) : Tensor Cores 4ᵉ génération, ~80 Go HBM3, bande passante mémoire 3 To/s, performance Tensor 1 000 TFLOPs (selon précision).
- NVIDIA — historique CUDA (lancement 2007) et écosystème (cuDNN, cuBLAS).
- Krizhevsky, Sutskever, Hinton (2012) — AlexNet entraîné sur 2× GTX 580 : bascule GPU pour le deep learning.
- Littérature inférence LLM : caractère memory-bound de la phase de génération (decode) vs compute-bound de la phase de prefill ; rôle de la bande passante mémoire.
- Sasha Rush — "GPU Puzzles" (ressource pédagogique open source sur la programmation parallèle GPU).
Dans cette vidéo, on décortique en profondeur pourquoi toute l'IA moderne tourne sur des GPU et pas des CPU. Sans maths, sans bagage technique. On va voir l'architecture matérielle, les Tensor Cores, la bande passante mémoire, et le vrai moat de NVIDIA — qui n'est pas du tout celui qu'on croit.
🔗 Ressources : "GPU Puzzles" de Sasha Rush (open source) · blog technique NVIDIA (architecture Hopper / H100).
🔔 Abonne-toi à Projets IA pour les prochaines vidéos sur la VRAM, la quantization et l'inférence des LLM.
Tu pensais que le GPU gagnait juste parce qu'il calcule plus vite ? Dis-moi en commentaire la partie qui t'a le plus surpris.
#GPU #NVIDIA #IA #IntelligenceArtificielle #CUDA #TensorCores #DeepLearning #MachineLearning #Hardware #LLM #VulgarisationIA #ProjetsIA
---
## 🔗 SOURCES
- NVIDIA — documentation architecture Hopper (H100) : Tensor Cores 4ᵉ génération, ~80 Go HBM3, bande passante mémoire 3 To/s, performance Tensor 1 000 TFLOPs (selon précision).
- NVIDIA — historique CUDA (lancement 2007) et écosystème (cuDNN, cuBLAS).
- Krizhevsky, Sutskever, Hinton (2012) — AlexNet entraîné sur 2× GTX 580 : bascule GPU pour le deep learning.
- Littérature inférence LLM : caractère memory-bound de la phase de génération (decode) vs compute-bound de la phase de prefill ; rôle de la bande passante mémoire.
- Sasha Rush — "GPU Puzzles" (ressource pédagogique open source sur la programmation parallèle GPU).
Hosted on Ausha. See ausha.co/privacy-policy for more information.
