Plan du cours
Introduction à la conteneurisation accélérée par GPU
- Comprendre l'utilisation des GPU dans les flux de travail d'apprentissage profond
- Comment Docker prend en charge les charges de travail basées sur le GPU
- Principales considérations relatives aux performances
Installation et configuration du NVIDIA Container Toolkit
- Configuration des pilotes et de la compatibilité CUDA
- Validation de l'accès au GPU au sein des conteneurs
- Configuration de l'environnement d'exécution
Construction d'images Docker compatibles avec les GPU
- Utilisation d'images de base CUDA
- Emballage des frameworks d'IA dans des conteneurs prêts pour le GPU
- Gestion des dépendances pour l'entraînement et l'inférence
Exécution des charges de travail d'IA accélérées par GPU
- Exécution des tâches d'entraînement utilisant les GPU
- Gestion des charges de travail multi-GPU
- Suivi de l'utilisation des GPU
Optimisation des performances et de l'allocation des ressources
- Limiter et isoler les ressources GPU
- Optimiser la mémoire, les tailles de lot et le placement des appareils
- Réglage des performances et diagnostic
Inférence conteneurisée et service de modèles
- Construction de conteneurs prêts pour l'inférence
- Service des charges de travail à forte demande sur GPU
- Intégration des lanceurs de modèles et des API
Passage à l'échelle des charges de travail GPU avec Docker
- Stratégies pour l'entraînement GPU distribué
- Passage à l'échelle des microservices d'inférence
- Coordination des systèmes d'IA multi-conteneurs
Sécurité et fiabilité des conteneurs compatibles avec les GPU
- Garantir un accès sécurisé au GPU dans les environnements partagés
- Renforcement des images de conteneur
- Gestion des mises à jour, des versions et de la compatibilité
Synthèse et prochaines étapes
Pré requis
- Une compréhension des fondamentaux de l'apprentissage profond
- Une expérience avec Python et les frameworks d'IA courants
- Une familiarité avec les concepts de base de la conteneurisation
Public cible
- Ingénieurs en apprentissage profond
- Équipes de recherche et de développement
- Spécialistes de l'entraînement de modèles d'IA
Nos clients témoignent (2)
Comme je l'ai mentionné précédemment, pour quelqu'un comme moi (sans aucune expérience), cela a été une porte d'entrée pour comprendre les fonctionnalités et les capacités de ces programmes/outils, etc.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Formation - Docker and Kubernetes
Traduction automatique
programme de formation structuré et organisé en plusieurs niveaux.
Bert Paelinckx - Cube SoftwareSolutions
Formation - Introduction to Docker
Traduction automatique
