Formation en IA & Data: NLP avec les Transformers – Initiation : Comprendre et utiliser BERT et GPT - Ascent Formation
Retour aux formations
IA & Data

NLP avec les Transformers – Initiation : Comprendre et utiliser BERT et GPT

3 jour(s)21h

Description

Comprendre les bases du NLP moderne et des modèles Transformers, et être capable d’utiliser des modèles pré-entraînés pour des cas d’usage simples en entreprise.

Objectifs pédagogiques

  • Comprendre les fondamentaux du NLP
  • Identifier le rôle des modèles Transformers
  • Utiliser des modèles pré-entraînés pour des tâches simples
  • Prendre en main la librairie Hugging Face
  • Réaliser une première adaptation de modèle
  • Interpréter les résultats d’un modèle NLP
  • Identifier des cas d’usage métier pertinents

Public concerné

Data analysts
développeurs
ingénieurs IT
chefs de projet data souhaitant découvrir le NLP moderne

Prérequis

Bases en Python
Notions générales en data (manipulation de données)
Aucune expérience préalable en NLP avancé requise

Déroulé du programme

1

JOUR 1- Module 1 – Fondamentaux du NLP (3h)

3h
  • Définition et enjeux du NLP en entreprise
  • Cas d’usage : classification, chatbot, analyse de sentiment
  • Notions clés : tokens, corpus, embeddings
  • Limites des approches classiques
  • Activité pratique : Exploration d’un cas NLP simple
2

Analyse d’un dataset texte (emails ou avis clients)

3

Identification des problématiques métier associées

4

JOUR 1- Module 2 – Introduction aux Transformers (4h)

4h
  • Pourquoi les Transformers ont révolutionné le NLP
  • Principe simplifié de l’attention
  • Différence entre modèles classiques et Transformers
  • Vue d’ensemble de BERT et GPT
  • Activité pratique : Visualisation du mécanisme d’attention
5

Analyse simplifiée des relations entre mots dans une phrase

6

Utilisation d’outils de visualisation de l’attention

7

JOUR 2- Module 3 – Prise en main de Hugging Face (3h)

3h
  • Présentation de Hugging Face et du Hub
  • Utilisation des pipelines NLP
  • Tokenisation et préparation des textes
  • Exécution de modèles prêts à l’emploi
  • Activité pratique : Premiers modèles NLP
8

Utilisation d’un pipeline de classification de texte

9

Test sur différents jeux de données

10

JOUR 2- Module 4 – Cas d’usage avec BERT (4h)

4h
  • Présentation simplifiée de BERT
  • Tâches principales : classification, NER, QA
  • Lecture et interprétation des résultats
  • Introduction au fine-tuning (conceptuel)
  • Activité pratique : Classification de textes avec BERT
11

Utilisation d’un modèle BERT pré-entraîné

12

Analyse des prédictions sur données métier

13

JOUR 3- Module 5 – Introduction aux modèles GPT (3h)

3h
  • Fonctionnement simplifié des modèles génératifs
  • Différences entre BERT et GPT
  • Cas d’usage : génération, résumé, chatbot
  • Introduction au prompt engineering
  • Activité pratique : Génération de texte simple
14

Création de prompts pour générer du contenu

15

Comparaison de différents outputs

16

JOUR 3- Module 6 – Évaluation et bonnes pratiques (4h)

4h
  • Introduction aux métriques : précision, rappel, F1
  • Comprendre les limites des modèles
  • Biais et qualité des données
  • Bonnes pratiques d’intégration en entreprise
  • Activité pratique : Analyse des performances d’un modèle
17

Évaluation simple d’un modèle de classification

18

Identification des erreurs et axes d’amélioration

Informations

Durée

3 jour(s)

21h

Tarif

Sur demande