Prenez contact avec nous
 Durée 21 heures

Plan du cours

Fondements : Modèles de menaces pour l'IA agentique

  • Types de menaces agentiques : abus d'usage, escalade de privilèges, fuites de données et risques liés à la chaîne d'approvisionnement.
  • Profils d'adversaires et capacités des attaquants spécifiques aux agents autonomes.
  • Cartographie des actifs, des limites de confiance et des points de contrôle critiques pour les agents.

Gouvernance, politique et gestion des risques

  • Cadres de gouvernance pour les systèmes agentiques (rôles, responsabilités, points de validation).
  • Conception des politiques : usage acceptable, règles d'escalade, traitement des données et capacité d'audit.
  • Considérations de conformité et collecte de preuves pour les audits.

Identité et authentification non humaines pour les agents

  • Conception des identités pour les agents : comptes de service, JWT et identifiants à durée de vie courte.
  • Modèles d'accès selon le principe du moindre privilège et émission d'identifiants just-in-time.
  • Cycle de vie des identités, rotation, délégation et stratégies de révocation.

Contrôles d'accès, secrets et protection des données

  • Modèles de contrôle d'accès granulaire et patterns basés sur les capacités pour les agents.
  • Gestion des secrets, chiffrement en transit et au repos, et minimisation des données.
  • Protection des sources de connaissances sensibles et des données personnelles (PII) contre l'accès non autorisé des agents.

Observabilité, audit et réponse aux incidents

  • Conception de la télémétrie pour le comportement des agents : traçage des intentions, journaux de commandes et traçabilité des origines.
  • Intégration SIEM, seuils d'alerte et préparation à la forensic.
  • Procédures standardisées (runbooks) et scénarios opérationnels (playbooks) pour les incidents liés aux agents et leur confinement.

Red-teaming des systèmes agentiques

  • Planification des exercices de red-teaming : périmètre, règles d'engagement et bascule de sécurité.
  • Techniques adversariales : injection de prompt, abus des outils, manipulation de la chaîne de raisonnement et abus des API.
  • Exécution d'attaques contrôlées et mesure de l'exposition et de l'impact.

Renforcement et atténuation des risques

  • Contrôles d'ingénierie : limitation de débit des réponses, restriction des capacités et exécution dans des environnements isolés (sandboxing).
  • Contrôles de politique et d'orchestration : flux de validation, intervention humaine (human-in-the-loop) et accroches de gouvernance.
  • Défenses au niveau du modèle et du prompt : validation des entrées, normalisation et filtres de sortie.

Opérationnalisation des déploiements sûrs d'agents

  • Modèles de déploiement : environnement de staging, déploiement canari et déploiement progressif pour les agents.
  • Maîtrise des changements, pipelines de tests et vérifications de sécurité avant déploiement.
  • Gouvernance inter-fonctionnelle : scénarios opérationnels pour la sécurité, le juridique, le produit et les opérations.

Projet de synthèse : Exercice Red-Team / Blue-Team

  • Exécuter une attaque de red-teaming simulée contre un environnement d'agent isolé (sandbox).
  • Défendre, détecter et remédier en tant que équipe blue-team en utilisant les contrôles et la télémétrie.
  • Présenter les constatations, le plan de remédiation et les mises à jour des politiques.

Synthèse et prochaines étapes

Pré requis

  • Solides connaissances en ingénierie de la sécurité, en administration système ou en opérations cloud.
  • Familiarité avec les concepts d'IA/ML et le comportement des grands modèles de langage (LLM).
  • Expérience en gestion des identités et de l'accès (IAM) et en conception de systèmes sécurisés.

Public cible

  • Ingénieurs de la sécurité et spécialistes du red-teaming.
  • Ingénieurs en opérations IA et en plateformes.
  • Responsables de la conformité et de la gestion des risques.
  • Chefs de projet d'ingénierie responsables du déploiement d'agents.

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires