Description
Objectif général de la formation : Acquérir les connaissances et compétences nécessaires pour exploiter les supercalculateurs dans des projets d’apprentissage profond, notamment en utilisant des accélérations par GPU. Modalité : Toutes les modalités (présentiel, classe virtuelle et hybride) sont possibles Lieu possible de réalisation : Locaux du bénéficiaire ou locaux d’Ascent Formation, en France métropolitaine et dans les DROM-COM Nombre maximal de participants : 20 Niveau SAME : Application (A) Compétences visées : Identifier les spécificités techniques du calcul haute performance (HPC) dans le cadre de l’apprentissage profond. Exploiter les accélérations par GPU dans les frameworks spécialisés (notamment Nvidia CUDA et TensorRT). Configurer et optimiser un environnement HPC pour des projets de deep learning. Déployer des modèles sur des architectures de supercalculateurs.
Objectifs pédagogiques
- Comprendre le rôle des supercalculateurs et des GPU dans l’optimisation des projets IA.
- Savoir configurer un environnement de deep learning sur des supercalculateurs.
- Utiliser efficacement les outils Nvidia pour l’accélération GPU.
- Optimiser les pipelines de deep learning pour des performances maximales.
Public concerné
Prérequis
Déroulé du programme
Jour 1 : Introduction et fondamentaux (6 heures)
- Introduction au HPC pour le deep learning (2 heures)
Concepts de base des architectures HPC.
Différences entre CPU et GPU dans le calcul IA.
Étude de cas : application des supercalculateurs dans des projets IA.
- Cadre technologique Nvidia pour l’IA (2 heures)
Présentation de CUDA, TensorRT et autres outils Nvidia.
Fonctionnement et cas d’utilisation.
- Configuration d’un environnement HPC pour l’IA (2 heures)
Installation et configuration des bibliothèques nécessaires.
Exploration d’un supercalculateur (ex. : SLURM, allocation de ressources).
Travaux pratiques : Mise en place d’un environnement sur un serveur HPC.
Jour 2 : Développement et optimisation (6 heures)
- Formation à l’accélération par GPU (2 heures)
Concepts d’optimisation GPU (mémoire, parallélisation, etc.).
Utilisation avancée de CUDA pour les projets IA.
- Optimisation des modèles de deep learning (2 heures)
Adaptation des architectures pour le calcul distribué.
Réduction des temps d’entraînement grâce à l’accélération GPU.
Travaux pratiques : Accélérer l’entraînement d’un modèle avec TensorFlow sur GPU.
- Frameworks Nvidia pour la production IA (2 heures)
Introduction à TensorRT et Triton Inference Server.
Techniques de quantification et compression des modèles.
Travaux pratiques : Optimisation et déploiement d’un modèle avec TensorRT.
Jour 3 : Avancées et études de cas (6 heures)
- Calcul distribué et parallélisation (2 heures)
Concepts avancés de parallélisation sur plusieurs nœuds.
Optimisation des communications entre GPU.
- Étude de cas : pipeline IA optimisé sur HPC (2 heures)
De l’entraînement à l’inférence sur HPC.
Étude d’un cas concret de projet IA à grande échelle.
- Conclusion et perspectives (2 heures)
Challenges et bonnes pratiques pour les projets IA sur HPC.
Évaluation des acquis (quiz, Q&A).
Informations
Durée
3 jour(s)
18h
Sur demande
Formations similaires
Migration vers le Cloud
Sur demande
Agents IA — Concevoir des systèmes autonomes avec LangChain et LangGraph - Avancé
Sur demande
AI Act européen — Comprendre vos obligations et vous mettre en conformité - Niveau débutant
Sur demande
Analyse bayésienne (4-107)
Sur demande