Plan du cours
Introduction à l'inférence IA avec Docker
- Comprendre les charges de travail d'inférence IA
- Avantages de l'inférence conteneurisée
- Scénarios et contraintes de déploiement
Construction de conteneurs d'inférence IA
- Sélection des images de base et des frameworks
- Emballage des modèles pré-entraînés
- Structuration du code d'inférence pour l'exécution en conteneur
Sécurisation des services IA conteneurisés
- Minimisation de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies de réseau et d'exposition d'API sécurisées
Techniques de déploiement portables
- Optimisation des images pour la portabilité
- Assurance d'environnements d'exécution prévisibles
- Gestion des dépendances entre les plateformes
Déploiement et test local
- Exécution de services locaux avec Docker
- Débogage des conteneurs d'inférence
- Tests de performance et de fiabilité
Déploiement sur serveurs et machines virtuelles cloud
- Adaptation des conteneurs aux environnements distants
- Configuration d'accès sécurisé aux serveurs
- Déploiement d'API d'inférence sur des machines virtuelles cloud
Utilisation de Docker Compose pour les systèmes IA multi-services
- Orchestration de l'inférence avec les composants d'accompagnement
- Gestion des variables d'environnement et des configurations
- Mise à l'échelle des microservices avec Compose
Surveillance et maintenance des services d'inférence IA
- Approches de journalisation et d'observabilité
- Détection des pannes dans les pipelines d'inférence
- Mise à jour et gestion de version des modèles en production
Synthèse et prochaines étapes
Pré requis
- Comprendre les concepts de base de l'apprentissage automatique
- Expérience en Python ou en développement back-end
- Familiarité avec les concepts fondamentaux de la conteneurisation
Public cible
- Développeurs
- Ingénieurs back-end
- Équipes déploiement de services IA
Nos clients témoignent (2)
Comme je l'ai mentionné précédemment, pour quelqu'un comme moi (sans aucune expérience), cela a été une porte d'entrée pour comprendre les fonctionnalités et les capacités de ces programmes/outils, etc.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Formation - Docker and Kubernetes
Traduction automatique
programme de formation structuré et organisé en plusieurs niveaux.
Bert Paelinckx - Cube SoftwareSolutions
Formation - Introduction to Docker
Traduction automatique