Plan du cours
Introduction à l'inférence IA avec Docker
- Compréhension des charges de travail d'inférence IA.
- Avantages de l'inférence conteneurisée.
- Scénarios et contraintes de déploiement.
Construction de conteneurs pour l'inférence IA
- Sélection des images de base et des frameworks.
- Emballage des modèles pré-entraînés.
- Structuration du code d'inférence pour l'exécution dans un conteneur.
Sécurisation des services IA conteneurisés
- Réduction de la surface d'attaque des conteneurs.
- Gestion des secrets et des fichiers sensibles.
- Stratégies pour un réseau sûr et une exposition sécurisée des API.
Techniques de déploiement portable
- Optimisation des images pour la portabilité.
- Garantir des environnements d'exécution prévisibles.
- Gestion des dépendances entre plateformes.
Déploiement local et tests
- Exécution des services en local avec Docker.
- Débogage des conteneurs d'inférence.
- Tests de performance et de fiabilité.
Déploiement sur les serveurs et les VM cloud
- Adaptation des conteneurs aux environnements distants.
- Configuration de l'accès serveur sécurisé.
- Déploiement des API d'inférence sur des VM cloud.
Utilisation de Docker Compose pour les systèmes IA multi-services
- Orchestration de l'inférence avec les composants d'assistance.
- Gestion des variables d'environnement et des configurations.
- Mise à l'échelle des microservices avec Compose.
Surveillance et maintenance des services d'inférence IA
- Approches de journalisation (logging) et d'observabilité.
- Détection des défaillances dans les pipelines d'inférence.
- Mise à jour et versionnement des modèles en production.
Synthèse et prochaines étapes
Pré requis
- Une compréhension des concepts de base du machine learning.
- De l'expérience avec Python ou le développement backend.
- Une familiarité avec les concepts fondamentaux des conteneurs.
Public cible
- Développeurs.
- Ingénieurs backend.
- Équipes déployant des services IA.
Nos clients témoignent (3)
Comment les formateurs transmettent-ils efficacement leurs connaissances
Vu Thoai Le - Reply Polska sp. z o. o.
Formation - Certified Kubernetes Administrator (CKA) - exam preparation
Traduction automatique
le formateur avait beaucoup de connaissances et de patience à partager avec nous
Bogdan Olaru
Formation - Introduction to Docker
Traduction automatique
Les connaissances et les échanges avec Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Formation - Docker and Kubernetes
Traduction automatique