Prenez contact avec nous

Plan du cours

Fondements des systèmes agentiques en production

  • Architectures agentiques : boucles, outils, mémoire et couches d'orchestration
  • Cycle de vie des agents : développement, déploiement et opération continue
  • Défis de la gestion des agents à l'échelle de la production

Infrastructures et modèles de déploiement

  • Déploiement des agents dans des environnements conteneurisés et cloud
  • Modèles de mise à l'échelle : horizontal vs vertical, concurrence et régulation du débit
  • Orchestration multi-agents et équilibrage des charges

Surveillance et observabilité

  • Métriques clés : latence, taux de réussite, utilisation de la mémoire et profondeur des appels d'agents
  • Tracage de l'activité des agents et des graphes d'appels
  • Instrumentation de l'observabilité à l'aide de Prometheus, OpenTelemetry et Grafana

Journalisation, audit et conformité

  • Journalisation centralisée et collecte structurée des événements
  • Conformité et auditabilité dans les flux de travail agentiques
  • Conception de pistes d'audit et de mécanismes de rejouage pour le débogage

Optimisation des performances et des ressources

  • Réduction de la surcharge d'inférence et optimisation des cycles d'orchestration des agents
  • Mise en cache des modèles et embeddings légers pour une récupération plus rapide
  • Tests de charge et scénarios de stress pour les pipelines d'IA

Maîtrise des coûts et gouvernance

  • Comprendre les facteurs de coût des agents : appels d'API, mémoire, calcul et intégrations externes
  • Suivi des coûts au niveau des agents et mise en œuvre de modèles de facturation interne (chargeback)
  • Politiques d'automatisation pour prévenir la prolifération d'agents et la consommation de ressources à l'arrêt

Stratégies de CI/CD et de déploiement pour les agents

  • Intégration des pipelines d'agents dans les systèmes CI/CD
  • Tests, versionnement et stratégies de retour arrière pour les mises à jour itératives des agents
  • Déploiements progressifs et mécanismes de déploiement sécurisé

Récupération d'erreurs et ingénierie de la fiabilité

  • Conception pour la tolérance aux pannes et la dégradation gracieuse
  • Modèles de retry, d'expiration et de circuit breaker pour la fiabilité des agents
  • Réponse aux incidents et cadres de rétrospective pour les opérations IA

Projet de synthèse

  • Construire et déployer un système d'IA agentique avec une surveillance complète et un suivi des coûts
  • Simuler la charge, mesurer les performances et optimiser l'utilisation des ressources
  • Présenter l'architecture finale et le tableau de bord de surveillance aux pairs

Résumé et prochaines étapes

Pré requis

  • Solide compréhension du MLOps et des systèmes d'apprentissage automatique en production
  • Expérience des déploiements conteneurisés (Docker/Kubernetes)
  • Familiarité avec l'optimisation des coûts cloud et les outils d'observabilité

Public cible

  • Ingénieurs MLOps
  • Ingénieurs de fiabilité des sites (SRE)
  • Chefs de projet d'ingénierie supervisant l'infrastructure d'IA
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (3)

Cours à venir

Catégories Similaires