Prenez contact avec nous
 Durée 21 heures

Plan du cours

1. Introduction à l'apprentissage par renforcement profond

  • Qu'est-ce que l'apprentissage par renforcement ?
  • Différences entre l'apprentissage supervisé, non supervisé et par renforcement
  • Applications du DRL en 2025 (robotique, santé, finance, logistique)
  • Compréhension de la boucle d'interaction agent-environnement

2. Fondamentaux de l'apprentissage par renforcement

  • Processus de décision de Markov (MDP)
  • État, action, récompense, politique et fonctions de valeur
  • Compromis entre exploration et exploitation
  • Méthodes de Monte Carlo et apprentissage Temporal-Difference (TD)

3. Mise en œuvre d'algorithmes de RL de base

  • Méthodes tabulaires : programmation dynamique, évaluation de politique et itération
  • Q-Learning et SARSA
  • Exploration epsilon-greedy et stratégies de décroissance
  • Implémentation d'environnements de RL avec OpenAI Gymnasium

4. Passage à l'apprentissage par renforcement profond

  • Limites des méthodes tabulaires
  • Utilisation de réseaux de neurones pour l'approximation de fonctions
  • Architecture et flux de travail de Deep Q-Network (DQN)
  • Experience replay et réseaux cibles

5. Algorithmes DRL avancés

  • Double DQN, Dueling DQN et Prioritized Experience Replay
  • Méthodes de gradient de politique : algorithme REINFORCE
  • Architectures Actor-Critic (A2C, A3C)
  • Optimisation Proximale de Politique (PPO)
  • Soft Actor-Critic (SAC)

6. Travail avec des espaces d'actions continus

  • Défis du contrôle continu
  • Utilisation de DDPG (Deep Deterministic Policy Gradient)
  • Twin Delayed DDPG (TD3)

7. Outils et cadres pratiques

  • Utilisation de Stable-Baselines3 et Ray RLlib
  • Journalisation et suivi avec TensorBoard
  • Ajustement des hyperparamètres pour les modèles DRL

8. Conception de récompenses et de l'environnement

  • Façonnage de récompenses et équilibrage des pénalités
  • Concepts de transfert d'apprentissage du simulateur au réel
  • Création d'environnements personnalisés dans Gymnasium

9. Environnements partiellement observables et généralisation

  • Gestion des informations d'état incomplètes (POMDPs)
  • Approches basées sur la mémoire utilisant LSTMs et RNNs
  • Amélioration de la robustesse et de la généralisation des agents

10. Théorie des jeux et apprentissage par renforcement multi-agents

  • Introduction aux environnements multi-agents
  • Coopération vs compétition
  • Applications dans l'entraînement adversarial et l'optimisation des stratégies

11. Études de cas et applications réelles

  • Simulations de conduite autonome
  • Tarification dynamique et stratégies de trading financier
  • Robotique et automation industrielle

12. Dépannage et optimisation

  • Diagnostic des entraînements instables
  • Gestion de la rareté des récompenses et du surapprentissage
  • Mise à l'échelle des modèles DRL sur GPU et systèmes distribués

13. Résumé et prochaines étapes

  • Récapitulatif de l'architecture DRL et des algorithmes clés
  • Tendances de l'industrie et directions de recherche (par exemple, RLHF, modèles hybrides)
  • Ressources supplémentaires et supports de lecture

Pré requis

  • Maîtrise de la programmation Python
  • Compréhension du calcul différentiel et de l'algèbre linéaire
  • Connaissances de base en probabilités et statistiques
  • Expérience dans la construction de modèles de machine learning avec Python et NumPy ou TensorFlow/PyTorch

Public cible

  • Développeurs intéressés par l'IA et les systèmes intelligents
  • Scientifiques des données explorant les cadres de l'apprentissage par renforcement
  • Ingénieurs en machine learning travaillant sur des systèmes autonomes

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires