IA responsable — Détecter et atténuer les biais dans les systèmes IA - Niveau intermédiaire

L'objectif de cette formation est de permettre aux participants d’identifier les sources de biais dans les données, les variables, les modèles et les usages d’un système d’IA, de mesurer l’équité à l’aide de métriques adaptées, d’expliquer les décisions produites par les modèles, puis de définir et mettre en œuvre des stratégies d’atténuation et de gouvernance applicables en contexte d’entreprise.

• Repérer les biais susceptibles d’apparaître à chaque étape d’un cycle de vie IA, depuis la collecte des données jusqu’aux boucles de feedback en production
• Distinguer les principales familles de biais : biais de sélection, de mesure, algorithmique et de rétroaction
• Choisir et interpréter des métriques d’équité adaptées à un cas d’usage, notamment demographic parity et equalized odds
• Utiliser des outils spécialisés pour analyser l’équité d’un système IA : Fairlearn, AI Fairness 360 et What-If Tool
• Mobiliser des techniques d’explicabilité pour détecter les variables influentes et les décisions potentiellement discriminatoires, avec SHAP, LIME et la visualisation d’attention
• Définir des actions correctrices sur les données, le modèle ou les seuils de décision
• Intégrer les résultats d’un audit de biais dans un processus de validation, de gouvernance et de suivi
• Produire une grille d’analyse et un plan d’atténuation réutilisables dans un projet IA en entreprise