Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Durée 21 heures
Plan du cours
Fondements : Modèles de menaces pour l'IA agentique
- Types de menaces agentiques : abus d'usage, escalade de privilèges, fuites de données et risques liés à la chaîne d'approvisionnement.
- Profils d'adversaires et capacités des attaquants spécifiques aux agents autonomes.
- Cartographie des actifs, des limites de confiance et des points de contrôle critiques pour les agents.
Gouvernance, politique et gestion des risques
- Cadres de gouvernance pour les systèmes agentiques (rôles, responsabilités, points de validation).
- Conception des politiques : usage acceptable, règles d'escalade, traitement des données et capacité d'audit.
- Considérations de conformité et collecte de preuves pour les audits.
Identité et authentification non humaines pour les agents
- Conception des identités pour les agents : comptes de service, JWT et identifiants à durée de vie courte.
- Modèles d'accès selon le principe du moindre privilège et émission d'identifiants just-in-time.
- Cycle de vie des identités, rotation, délégation et stratégies de révocation.
Contrôles d'accès, secrets et protection des données
- Modèles de contrôle d'accès granulaire et patterns basés sur les capacités pour les agents.
- Gestion des secrets, chiffrement en transit et au repos, et minimisation des données.
- Protection des sources de connaissances sensibles et des données personnelles (PII) contre l'accès non autorisé des agents.
Observabilité, audit et réponse aux incidents
- Conception de la télémétrie pour le comportement des agents : traçage des intentions, journaux de commandes et traçabilité des origines.
- Intégration SIEM, seuils d'alerte et préparation à la forensic.
- Procédures standardisées (runbooks) et scénarios opérationnels (playbooks) pour les incidents liés aux agents et leur confinement.
Red-teaming des systèmes agentiques
- Planification des exercices de red-teaming : périmètre, règles d'engagement et bascule de sécurité.
- Techniques adversariales : injection de prompt, abus des outils, manipulation de la chaîne de raisonnement et abus des API.
- Exécution d'attaques contrôlées et mesure de l'exposition et de l'impact.
Renforcement et atténuation des risques
- Contrôles d'ingénierie : limitation de débit des réponses, restriction des capacités et exécution dans des environnements isolés (sandboxing).
- Contrôles de politique et d'orchestration : flux de validation, intervention humaine (human-in-the-loop) et accroches de gouvernance.
- Défenses au niveau du modèle et du prompt : validation des entrées, normalisation et filtres de sortie.
Opérationnalisation des déploiements sûrs d'agents
- Modèles de déploiement : environnement de staging, déploiement canari et déploiement progressif pour les agents.
- Maîtrise des changements, pipelines de tests et vérifications de sécurité avant déploiement.
- Gouvernance inter-fonctionnelle : scénarios opérationnels pour la sécurité, le juridique, le produit et les opérations.
Projet de synthèse : Exercice Red-Team / Blue-Team
- Exécuter une attaque de red-teaming simulée contre un environnement d'agent isolé (sandbox).
- Défendre, détecter et remédier en tant que équipe blue-team en utilisant les contrôles et la télémétrie.
- Présenter les constatations, le plan de remédiation et les mises à jour des politiques.
Synthèse et prochaines étapes
Pré requis
- Solides connaissances en ingénierie de la sécurité, en administration système ou en opérations cloud.
- Familiarité avec les concepts d'IA/ML et le comportement des grands modèles de langage (LLM).
- Expérience en gestion des identités et de l'accès (IAM) et en conception de systèmes sécurisés.
Public cible
- Ingénieurs de la sécurité et spécialistes du red-teaming.
- Ingénieurs en opérations IA et en plateformes.
- Responsables de la conformité et de la gestion des risques.
- Chefs de projet d'ingénierie responsables du déploiement d'agents.
Nos clients témoignent (1)
inventorier et identifier les différentes expositions aux risques au sein de l'IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Formation - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traduction automatique