Plan du cours
Jour 1
Anatomie d'un agent IA moderne
Beyond les chatbots : les agents en tant que systèmes autonomes de raisonnement et d'action
Paradigmes des agents réactifs, proactifs, hybrides et dirigés par un objectif
Composants clés : perception, planification, mémoire, utilisation d'outils, action
Compromis de conception entre agents uniques et multi-agents
Cadres d'agents et pile technologique moderne
LangChain, LlamaIndex, AutoGen, CrewAI et leurs compromis respectifs
Comparaison avec les frameworks classiques tels que JADE et SPADE
Choix d'un framework en fonction des exigences de production
Appel d'outils, appel de fonctions et sorties structurées
Pratique : échafaudage d'un agent Python unique avec des appels d'outils
Architectures de systèmes multi-agents
Conceptions centralisées, décentralisées, hybrides et en couches des systèmes MAS
FIPA ACL, messagerie et équivalents modernes
Modèles de coordination : planification, négociation, synchronisation
Comportements émergents et auto-organisation au sein des populations d'agents
Prise de décision et apprentissage chez les agents
Théorie des jeux pour les interactions coopératives et concurrentielles entre agents
Apprentissage par renforcement dans les environnements multi-agents
Transfert d'apprentissage et partage de connaissances entre agents
Résolution des conflits et confiance entre agents coordonnés
Jour 2
Fondations multimodales pour les agents
L'IA multimodale comme flux de travail unifié couvrant le texte, l'image, la parole et la vidéo
Modèles multimodaux de pointe : GPT-4 Vision, Gemini, Claude, Whisper
Techniques de fusion pour combiner les modalités au sein de la boucle de raisonnement de l'agent
Compromis entre latence, coût et précision dans les pipelines multimodaux
Construction de la couche de perception
>Traitement d'image pour les agents : classification, légendage, détection d'objets
Reconnaissance vocale avec Whisper ASR et transcription en streaming
Synthèse text-to-speech et interaction vocale naturelle
Connexion des sorties de perception au raisonnement piloté par LLM et à la sélection d'outils
Pratique - Construction d'un agent multimodal en Python
Définition de la tâche de l'agent, de la fenêtre contextuelle et de l'inventaire des outils
Connecter les API GPT-4 Vision et Whisper de bout en bout
Mise en œuvre de la gestion de la mémoire, de l'état et de la conversation
Ajout d'appels d'outils produisant des effets secondaires dans le monde réel de manière sécurisée
Pratique - Orchestration d'un système multi-agents
Composition d'agents spécialisés avec AutoGen ou CrewAI
Définition des rôles, responsabilités et protocoles de communication inter-agents
Allocation des ressources et coordination dans un environnement simulé
Journalisation du raisonnement des agents, des appels d'outils et des décisions pour inspection et audit
Jour 3
Surface de menace des agents IA en production
Ce qui rend l'IA agentic unique par rapport aux logiciels traditionnels
Surface d'attaque : données, modèle, prompt, outil, sortie et interfaces
Modélisation des menaces pour les systèmes basés sur des agents avec utilisation autonome d'outils
Comparaison des pratiques de cybersécurité IA avec la cybersécurité traditionnelle
Pratique - Attaques adverses
Exemples adverses et méthodes de perturbation : FGSM, PGD, DeepFool
Scénarios d'attaques en boîte blanche versus boîte noire
>Attaques d'inversion de modèle et d'inférence d'appartenance
Poisonnement des données et injection de portes dérobées lors de l'entraînement
>Injection de prompts, jailbreak et mauvaise utilisation des outils dans les agents basés sur LLM
Techniques défensives et durcissement des modèles
>Entraînement adversaire et stratégies d'augmentation des données
>Distillation défensive et autres techniques de robustesse
>Prétraitement des entrées, masquage des gradients et régularisation
>Vie privée différentielle, injection de bruit et budgets de confidentialité
>Apprentissage fédéré et agrégation sécurisée pour l'entraînement distribué
Pratique avec l'Adversarial Robustness Toolbox
>Simulation d'attaques contre l'agent multimodal construit au jour 2
>Mesure de la robustesse sous perturbation et quantification de la dégradation
>Application itérative des défenses et réévaluation des taux de réussite des attaques
>Tests de charge sur les chemins d'appels d'outils et les vecteurs d'injection de prompts
Jour 4
Cadres de gestion des risques pour l'IA
>Cadre NIST AI Risk Management : gouverner, cartographier, mesurer, gérer
>ISO/IEC 42001 et normes émergentes spécifiques à l'IA
>Cartographie des risques IA sur les cadres GRC d'entreprise existants
>Responsabilité de l'IA, traçabilité et exigences de documentation
Conformité réglementaire pour les systèmes agentic
>AI Act européen : niveaux de risque, utilisations interdites et obligations pour les systèmes à haut risque
>Implications du RGPD et du CCPA pour les pipelines de données des agents
>Décret exécutif américain sur une IA sûre, sécurisée et digne de confiance
>Lignes directrices sectorielles pour la finance, la santé et les services publics
>Risque tiers et utilisation des outils IA par les fournisseurs
Éthique, biais et explicabilité
>Détection et atténuation des biais dans la perception et le raisonnement de l'agent
>Explicabilité et transparence en tant que propriétés pertinentes pour la sécurité
>Équité, préjudices indirects et déploiement responsable
>Conception de comportements d'agents inclusifs et auditables
Déploiement en production, surveillance et réponse aux incidents
>Modes de déploiement sécurisés pour les systèmes à agent unique et multi-agents
>Surveillance continue des dérive, anomalies et abus
>Journalisation, traces d'audit et préparation aux analyses forensiques pour les actions des agents
>Plans de réponse aux incidents de sécurité IA et récupération
>Études de cas de violations réelles de l'IA et leçons apprises
Jalon final et synthèse
>Revue du système multi-agent multimodal construit tout au long du cours
>Revue du pipeline de bout en bout : conception, construction, sécurisation, gouvernance, déploiement
>Auto-évaluation du système par rapport aux fonctions du NIST AI RMF
>Perspective sur les tendances émergentes dans l'IA agentic et la sécurité IA
Résumé et prochaines étapes
Pré requis
Audience cible
Ingénieurs en IA et architectes construisant des systèmes agentic pour une utilisation en production. Professionnels de la cybersécurité, des risques et de la conformité responsables de l'assurance de l'IA dans les industries réglementées telles que la finance, la santé et le conseil. Développeurs senior et chefs de solution intégrant des capacités multimodales et multi-agents dans des plateformes d'entreprise.
Nos clients témoignent (3)
Le formateur est patient et très aidant. Il maîtrise bien le sujet.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Formation - Agentic AI for Business Automation: Use Cases & Integration
Traduction automatique
Bon mélange de connaissances et de pratique
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Agentic AI for Enterprise Applications
Traduction automatique
Le mélange de théorie et de pratique, ainsi que des perspectives de haut niveau et de bas niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Autonomous Decision-Making with Agentic AI
Traduction automatique
