Description
Cette formation de trois jours permet aux participants de déployer, administrer et exploiter Nutanix Enterprise AI (NAI), la plateforme d'inférence GenAI de Nutanix permettant de déployer des modèles de langage sur site ou en cloud, tout en gardant le contrôle des données et de l'infrastructure. Elle couvre la préparation de l'environnement Kubernetes et GPU, l'installation de NAI, les tâches d'administration courantes (gestion des utilisateurs, import de modèles, configuration des endpoints, gestion des clés API), ainsi que la supervision, l'audit et le dépannage. Une attention particulière est portée aux scénarios de déploiement en environnement déconnecté (dark site / air-gapped), pertinents pour les organisations soumises à de fortes exigences de souveraineté et de sécurité des données.
Objectifs pédagogiques
- À l'issue de la formation, les participants seront en mesure de :
- Comprendre l'architecture et le positionnement de Nutanix Enterprise AI
- Identifier les exigences, limitations et prérequis de licence de la plateforme
- Sélectionner les versions de Kubernetes et les configurations GPU adaptées
- Préparer un environnement Kubernetes compatible avec NAI (stockage, DNS, certificats, registry)
- Déployer la plateforme sur un environnement de référence, et comprendre les variantes de déploiement sur NKP, EKS, AKS et GKE
- Installer NAI et réaliser les tâches d'administration essentielles
- Gérer les utilisateurs, importer des modèles, configurer les endpoints et les clés API
- Superviser les performances à l'aide de métriques en temps réel et exploiter les outils d'audit
- Diagnostiquer et résoudre les problèmes courants
- Comprendre les spécificités d'un déploiement en environnement déconnecté
Public concerné
Prérequis
Déroulé du programme
Jour 1 · Architecture, prérequis et environnement (7 heures)
Module 1 — Introduction à Nutanix Enterprise AI (1h30)
• Positionnement de NAI comme plateforme d'inférence GenAI d'entreprise
• Concepts : entraînement, fine-tuning et inférence
• Architecture de la plateforme et composants
• Cas d'usage en entreprise et en environnement souverain
• Intégration avec les fournisseurs de modèles (NVIDIA NIM, Hugging Face)
Module 2 — Exigences, licences et préparation de l'environnement (3h00)
• Exigences et limitations de NΑΙ
• Licences et droits d'accès, fichiers produits (product files)
• DNS, URL et certificats
• Registry et Nutanix Docker Hub private repository
• Stockage RWX et classes de stockage
• Prérequis GPU et drivers
• Choix des versions de Kubernetes et configurations GPU adaptées à l'inférence
Module 3 — Environnement Kubernetes de référence et variantes de déploiement (2h00)
• Préparation d'un environnement Kubernetes compatible avec NAI
• Déploiement sur Nutanix Kubernetes Platform (NKP)
• Variantes de déploiement sur Amazon EKS, Azure AKS et Google GKE (présentation comparée)
• Points de vigilance transverses : stockage, GPU, DNS, certificats, registry, tokens
• TP: préparation et vérification d'un cluster de référence
Jour 2 — Installation et administration de NAI (7 heures)
Module 4 — Installation de NAI (2h30)
• Distinction entre installation manuelle, installation sur NKP et installation sur cluster Kubernetes existant
• Processus d'installation de la plateforme
• Vérification et validation du déploiement
• Configuration initiale
• TP : installation guidée de NAI sur un environnement préparé
Module 5 — Administration des utilisateurs et des accès (2h00)
• Gestion des utilisateurs
• Contrôle d'accès basé sur les rôles (RBAC)
• Bonnes pratiques de gestion des accès
• TP: configuration des utilisateurs et des rôles
Module 6 — Gestion des modèles et des endpoints (2h30)
• Import de modèles
• Ajout et gestion des access tokens Hugging Face et NVIDIA NGC
• Accès aux modèles gated Hugging Face et autorisations spécifiques
• Configuration des endpoints
• Gestion des clés API
• Déploiement et exposition de modèles GenAI
• TP : import d'un modèle, ajout d'un token et configuration d'un endpoint
Jour 3 — Supervision, déploiement déconnecté et dépannage (7 heures)
Module 7 — Supervision, audit et exploitation (2h30)
• Monitoring des modèles, des API, des endpoints et de l'infrastructure
• Kubernetes Resource Monitoring et GPU Usage Monitoring
• Audit des événements (Event Auditing) et traçabilité
• Sélection d'un LLM selon qualité, performance et coût
• Connexion d'une application consommatrice à un endpoint NΑΙ
• TP : supervision d'une instance et connexion d'une application
Module 8 — Déploiement en environnement déconnecté (1h30)
• Principes des déploiements dark site / air-gapped
• Bundle dark site et conditions de licence/support
• Contraintes et points d'attention
• Pertinence pour les organisations soumises à des exigences de souveraineté
• TP : préparation d'un scénario de déploiement déconnecté
Module 9 — Dépannage (2h30)
• Méthodologie de dépannage
• Échec de prérequis, erreurs DNS et certificats
• Problèmes d'accès au registry
• Échec d'import de modèle, endpoint non créé, clé API invalide
• Ressources GPU insuffisantes et erreurs de performance
• Problèmes de santé du cluster (health checks)
• TP de synthèse : résolution de scénarios
Synthèse et clôture (30 min)
• Récapitulation des acquis
• Échanges et questions
Informations
Durée
3 jour(s)
21h
Sur demande
Formations similaires
Migration vers le Cloud
Sur demande
Agents IA — Concevoir des systèmes autonomes avec LangChain et LangGraph - Avancé
Sur demande
AI Act européen — Comprendre vos obligations et vous mettre en conformité - Niveau débutant
Sur demande
Analyse bayésienne (4-107)
Sur demande