Plan du cours
1. Introduction à l'apprentissage par renforcement profond
- Qu'est-ce que l'apprentissage par renforcement ?
- Différences entre l'apprentissage supervisé, non supervisé et par renforcement
- Applications du DRL en 2025 (robotique, santé, finance, logistique)
- Compréhension de la boucle d'interaction agent-environnement
2. Fondamentaux de l'apprentissage par renforcement
- Processus de décision de Markov (MDP)
- État, action, récompense, politique et fonctions de valeur
- Compromis entre exploration et exploitation
- Méthodes de Monte Carlo et apprentissage Temporal-Difference (TD)
3. Mise en œuvre d'algorithmes de RL de base
- Méthodes tabulaires : programmation dynamique, évaluation de politique et itération
- Q-Learning et SARSA
- Exploration epsilon-greedy et stratégies de décroissance
- Implémentation d'environnements de RL avec OpenAI Gymnasium
4. Passage à l'apprentissage par renforcement profond
- Limites des méthodes tabulaires
- Utilisation de réseaux de neurones pour l'approximation de fonctions
- Architecture et flux de travail de Deep Q-Network (DQN)
- Experience replay et réseaux cibles
5. Algorithmes DRL avancés
- Double DQN, Dueling DQN et Prioritized Experience Replay
- Méthodes de gradient de politique : algorithme REINFORCE
- Architectures Actor-Critic (A2C, A3C)
- Optimisation Proximale de Politique (PPO)
- Soft Actor-Critic (SAC)
6. Travail avec des espaces d'actions continus
- Défis du contrôle continu
- Utilisation de DDPG (Deep Deterministic Policy Gradient)
- Twin Delayed DDPG (TD3)
7. Outils et cadres pratiques
- Utilisation de Stable-Baselines3 et Ray RLlib
- Journalisation et suivi avec TensorBoard
- Ajustement des hyperparamètres pour les modèles DRL
8. Conception de récompenses et de l'environnement
- Façonnage de récompenses et équilibrage des pénalités
- Concepts de transfert d'apprentissage du simulateur au réel
- Création d'environnements personnalisés dans Gymnasium
9. Environnements partiellement observables et généralisation
- Gestion des informations d'état incomplètes (POMDPs)
- Approches basées sur la mémoire utilisant LSTMs et RNNs
- Amélioration de la robustesse et de la généralisation des agents
10. Théorie des jeux et apprentissage par renforcement multi-agents
- Introduction aux environnements multi-agents
- Coopération vs compétition
- Applications dans l'entraînement adversarial et l'optimisation des stratégies
11. Études de cas et applications réelles
- Simulations de conduite autonome
- Tarification dynamique et stratégies de trading financier
- Robotique et automation industrielle
12. Dépannage et optimisation
- Diagnostic des entraînements instables
- Gestion de la rareté des récompenses et du surapprentissage
- Mise à l'échelle des modèles DRL sur GPU et systèmes distribués
13. Résumé et prochaines étapes
- Récapitulatif de l'architecture DRL et des algorithmes clés
- Tendances de l'industrie et directions de recherche (par exemple, RLHF, modèles hybrides)
- Ressources supplémentaires et supports de lecture
Pré requis
- Maîtrise de la programmation Python
- Compréhension du calcul différentiel et de l'algèbre linéaire
- Connaissances de base en probabilités et statistiques
- Expérience dans la construction de modèles de machine learning avec Python et NumPy ou TensorFlow/PyTorch
Public cible
- Développeurs intéressés par l'IA et les systèmes intelligents
- Scientifiques des données explorant les cadres de l'apprentissage par renforcement
- Ingénieurs en machine learning travaillant sur des systèmes autonomes
Nos clients témoignent (2)
Offrir à ceux qui n'ont jamais utilisé l'IA une initiation aux bases de la formulation de requêtes, et inviter les utilisateurs expérimentés à explorer des méthodes alternatives pour l'employer.
Matthew Gay - Tarsus Pharmaceuticals
Formation - Artificial Intelligence (AI) Overview
Traduction automatique
Travailler à partir des principes fondamentaux de manière concentrée, puis passer à l'application d'études de cas le même jour
Maggie Webb - Department of Jobs, Regions, and Precincts
Formation - Artificial Neural Networks, Machine Learning, Deep Thinking
Traduction automatique