Plan du cours

Aperçu de l'architecture LLM et de la surface d'attaque

  • Comment les LLM sont construits, déployés et accessibles via des API
  • Les composants clés dans les piles d'applications LLM (par exemple, prompts, agents, mémoire, API)
  • Où et comment se produisent les problèmes de sécurité en utilisation réelle

Injections de Prompt et Attaques de Libération

  • Qu'est-ce que l'injection de prompt et pourquoi c'est dangereux
  • Scénarios d'injection directe et indirecte de prompts
  • Téchniques de libération pour contourner les filtres de sécurité
  • Stratégies de détection et de mitigation

Fuites de Données et Risques de Confidentialité

  • Exposition accidentelle des données par le biais des réponses
  • Fuites de PII et mauvais usage de la mémoire du modèle
  • Conception de prompts respectueux de la confidentialité et de la génération augmentée par la récupération (RAG)

Filtrage et Protection des Sorties LLM

  • Utilisation de Guardrails AI pour le filtrage et la validation du contenu
  • Définition de schémas et contraintes de sortie
  • Surveillance et journalisation des sorties non sécurisées

Approches Humain-dans-la-Boucle et de Workflow

  • Où et quand introduire l'appréciation humaine
  • Files d'attente d'approbation, seuils de notation, gestion des cas de repli
  • Calibration de la confiance et rôle de l'explicabilité

Application LLM Sécurisée Design Patterns

  • Droits minimaux et sandboxing pour les appels API et agents
  • Limite de taux, limitation et détection d'abus
  • Chaînage robuste avec LangChain et isolation des prompts

Conformité, Journalisation et Governance

  • S'assurer de la traçabilité des sorties LLM
  • Maintenir la traçabilité et le contrôle de version des prompts
  • S'aligner sur les politiques internes de sécurité et les besoins réglementaires

Résumé et Étapes Suivantes

Pré requis

  • Une compréhension des grands modèles de langage et des interfaces basées sur les prompts
  • Expérience dans la construction d'applications LLM en utilisant Python
  • Familiarité avec les intégrations API et les déploiements basés sur le cloud

Public cible

  • Développeurs IA
  • Architectes d'applications et de solutions
  • Directeurs techniques des produits travaillant avec des outils LLM
 14 Heures

Nombre de participants


Prix ​​par Participant

Cours à venir

Catégories Similaires