Formation en Autre: Context Engineering pour les LLM : Du Prompt à l'Agent - Ascent Formation
Retour aux formations
Autre

Context Engineering pour les LLM : Du Prompt à l'Agent

3 jour(s) • 15h

Description

Maîtriser les principes avancés du Context Engineering pour optimiser les interactions avec les Large Language Models (LLM). Structurer des contextes robustes et efficaces pour améliorer la pertinence et la fiabilité des réponses des LLM. Intégrer des mécanismes de récupération d'information (RAG) et de gestion d'outils pour créer des agents intelligents. Concevoir et évaluer des architectures d'agents complexes, incluant la gestion de l'état, de la mémoire et des tâches longues. Sécuriser et optimiser les systèmes basés sur les LLM en identifiant et en atténuant les risques.

Objectifs pédagogiques

  • Comprendre le Context Engineering (2h30)
  • Structurer un contexte robuste (3h)
  • Fournir les bonnes informations : Retrieval et RAG (3h)
  • Concevoir le contexte d’un agent : outils, état et mémoire (3h)
  • Gérer les tâches longues et les architectures agentiques (3h)
  • Évaluer, sécuriser et optimiser le Context Engineering (3h30)

Public concerné

Professionnels disposant des fondamentaux des LLM.
Développeurs et architectes ayant une première expérience de développement.
Toute personne souhaitant optimiser l'utilisation des LLM au-delà du simple Prompt Engineering.

Prérequis

Connaissance du fonctionnement général d'un LLM et de la fenêtre de contexte.
Principes de base du Prompt Engineering.
Expérience des appels d'API.
Notions de base en Python.
Compréhension générale de la recherche documentaire et des embeddings.

Déroulé du programme

1

Comprendre le Context Engineering (2h30)** ---

2h
  • Différence entre Prompt Engineering et Context Engineering
  • Comprendre la fenêtre de contexte et le budget de tokens
  • Identifier les différentes composantes du contexte :
  • instructions ;
  • requête utilisateur ;
  • historique ;
  • exemples ;
  • données externes ;
  • mémoire ;
  • outils et résultats d’outils.
  • Qualité, pertinence et fraîcheur de l’information
  • Identifier le bruit et les contradictions
  • Principe du **contexte minimal utile**
2

Structurer un contexte robuste pour un LLM (3h)** ---

3h
  • Définir clairement rôle, objectif et contraintes
  • Structurer les instructions système
  • Séparer instructions, données et exemples
  • Définir les formats de sortie
  • Utiliser les exemples de manière ciblée
  • Gérer les informations permanentes et temporaires
  • Réduire le rapport bruit / information utile
  • Éviter les prompts trop complexes et fragiles
  • Identifier ce qui doit rester hors du contexte
3

Fournir les bonnes informations : Retrieval et RAG (3h)** ---

3h
  • Comprendre quand utiliser du RAG
  • Distinguer contexte statique et récupération dynamique
  • Préparer et découper les documents
  • Utiliser les métadonnées
  • Principes de recherche sémantique
  • Recherche hybride : positionnement
  • Sélection des résultats pertinents
  • Reranking : principe et cas d’usage
  • Contextual Retrieval : principe
  • Limiter le nombre et la taille des documents injectés
  • Approche « just-in-time »
4

*(Le reranking et le Contextual Retrieval sont abordés comme des techniques d’amélioration)*

5

Concevoir le contexte d’un agent : outils, état et mémoire (3h)** ---

3h
  • Différence entre workflow et agent
  • Comprendre la boucle d’un agent
  • Définir les outils réellement nécessaires
  • Concevoir des descriptions d’outils explicites
  • Définir des paramètres compréhensibles par le modèle
  • Structurer les résultats retournés
  • Éviter les outils redondants
  • Gérer l’état d’avancement d’une tâche
  • Distinguer historique et mémoire
  • Mémoire de session et mémoire persistante
  • Définir ce qui mérite réellement d’être mémorisé
6

Gérer les tâches longues et les architectures agentiques (3h)** ---

3h
  • Comprendre la dégradation d’un contexte long
  • Identifier les informations devenues inutiles
  • Nettoyer les anciens résultats d’outils
  • Résumer et compacter le contexte
  • Utiliser des notes structurées
  • Conserver l’état d’un projet hors de la fenêtre de contexte
  • Comprendre les architectures à sous-agents
  • Transmettre uniquement le contexte nécessaire
  • Séparer les responsabilités
  • Consolider les résultats produits par plusieurs agents
7

Évaluer, sécuriser et optimiser le Context Engineering (3h30)** ---

3h
  • Identifier les principales causes d’échec (contexte insuffisant/obsolète/volumineux, instructions contradictoires, mauvaise récupération, mauvais outil, mémoire erronée).
  • Construire des cas de test reproductibles et définir des critères d’évaluation.
  • Mesurer : qualité, fiabilité, consommation de tokens, latence, coût.
  • Comparer différentes architectures.
  • Gérer les données sensibles et limiter l’accès aux informations.
  • Traiter les contenus non fiables et introduire des contrôles humains.
  • Journaliser les appels d’outils et décisions principales.
  • Identifier les risques de Prompt Injection.

Informations

Durée

3 jour(s)

15h

Tarif

Sur demande