Retour aux formations
IA & Data
Fine-tuning de LLM — Adapter un modèle à vos données métier - Avancé
3 jours • 21 heures
Description
Maîtriser les techniques avancées de spécialisation des grands modèles de langage open-source afin d’adapter un LLM à un domaine métier spécifique. La formation permet de construire un pipeline complet de fine-tuning incluant la sélection du modèle, la préparation des données, l’entraînement avec les méthodes PEFT (LoRA, QLoRA), l’évaluation des performances et le déploiement d’un modèle spécialisé.
Objectifs pédagogiques
- Comprendre les architectures et limites des principaux LLM open-source
- Choisir une stratégie d’adaptation adaptée à un cas d’usage métier
- Préparer un dataset d’entraînement pour un LLM spécialisé
- Mettre en œuvre un fine-tuning avec Hugging Face Transformers et PEFT
- Utiliser les techniques LoRA et QLoRA pour optimiser l’entraînement
- Évaluer les performances d’un modèle fine-tuné
- Déployer un modèle spécialisé dans un environnement applicatif
Public concerné
Data Scientists
Machine Learning Engineers
NLP Engineers
AI Engineers
Architectes Data / IA
Développeurs spécialisés en IA générative
Prérequis
Bonne maîtrise de Python
Connaissances en machine learning et deep learning
Expérience avec les architectures Transformers
Familiarité avec l’écosystème Hugging Face
Déroulé du programme
Informations
Durée
3 jours
21 heures
Tarif
Sur demande
Formations similaires
IA & Data
Elasticsearch, administration et exploitation (4-084)
3 jours
2200€
IA & Data
Intelligence artificielle - Deep Learning par la pratique (4-024)
3 jours
2200€
IA & Data
Architectures Data modernes — Data Mesh, Lakehouse et Data Fabric
2 jours
Sur demande
IA & Data
MLOps — Avancé : pipelines, monitoring et scaling
3 jours
Sur demande