Formation Éthique et gouvernance des agents IA autonomes

Fondements de l'éthique dans les systèmes autonomes

• Définir l'autonomie dans les agents IA
• Théories éthiques clés appliquées au comportement des machines
• Points de vue des parties prenantes et conception sensible aux valeurs

Risques sociétaux et cas d'usage à hauts enjeux

• Agents autonomes dans la sécurité publique, la santé et la défense
• Collaboration humain-IA et limites de la confiance
• Scénarios de conséquences involontaires et d'amplification des risques

Paysage juridique et réglementaire

• Vue d'ensemble sur la législation IA et les tendances politiques (Règlement IA de l'UE, NIST, OCDE)
• Responsabilité, imputabilité et personnalité juridique des agents IA
• Initiatives de gouvernance mondiales et lacunes

Explicabilité et transparence décisionnelle

• Défis liés à la prise de décision autonome opaque
• Concevoir des agents explicables et auditables
• Outils et cadres de transparence (par ex., fiches modèles, fiches de données)

Alignement, contrôle et responsabilité morale

• Stratégies d'alignement pour le comportement des agents
• Paradigmes de contrôle humain dans la boucle vs. humain au-dessus de la boucle
• Responsabilité partagée entre concepteurs, utilisateurs et institutions

Évaluation et atténuation des risques éthiques

• Cartographie des risques et analyse des défaillances critiques dans la conception d'agents
• Dispositifs de sécurité et mécanismes d'interruption
• Audit des biais, de la discrimination et de l'équité

Conception de la gouvernance et supervision institutionnelle

• Principes de la gouvernance responsable de l'IA
• Modèles de supervision multi-acteurs et audits
• Conception de cadres de conformité pour les agents autonomes

Synthèse et prochaines étapes