Formation Conception d'applications LLM sécurisées et responsables

Aperçu de l'architecture des LLM et de la surface d'attaque

• Comment les LLM sont construits, déployés et accessibles via des API
• Composants clés des piles d'applications LLM (par ex. prompts, agents, mémoire, API)
• Où et comment les problèmes de sécurité surviennent dans des cas d'utilisation réels

Attaques par injection de prompts et contournement des restrictions (jailbreak)

• Qu'est-ce que l'injection de prompts et pourquoi elle est dangereuse
• Scénarios d'injection directe et indirecte de prompts
• Techniques de jailbreak pour contourner les filtres de sécurité
• Stratégies de détection et d'atténuation

Fuites de données et risques liés à la confidentialité

• Exposition accidentelle de données à travers les réponses
• Fuites de données personnelles (PII) et mauvais usage de la mémoire du modèle
• Conception de prompts respectueux de la confidentialité et de la génération augmentée par récupération (RAG)

Filtrage et protection des sorties LLM

• Utilisation de Guardrails AI pour le filtrage de contenu et la validation
• Définition de schémas de sortie et de contraintes
• Surveillance et journalisation des sorties non sécurisées

Approches impliquant un humain en boucle (human-in-the-loop)

• Où et quand introduire la supervision humaine
• File d'attente d'approbation, seuils de notation, gestion des solutions de repli
• Étalonnage de la confiance et rôle de l'explicabilité

Modèles de conception sécurisée des applications LLM

• Privilège minimum et sandboxing pour les appels d'API et les agents
• Limitation du débit (rate limiting), contrôle et détection des abus
• Chaînage robuste avec LangChain et isolation des prompts

Conformité, journalisation et gouvernance

• Garantie de l'auditabilité des sorties LLM
• Maintien de la traçabilité et du contrôle des versions des prompts
• Alignement avec les politiques de sécurité internes et les exigences réglementaires

Résumé et prochaines étapes