Plan du cours

Introduction à l'inférence AI avec Docker

  • Comprendre les charges de travail d'inférence AI
  • Les avantages de l'inférence conteneurisée
  • Scénarios et contraintes de déploiement

Création de conteneurs d'inférence AI

  • Sélection des images de base et des frameworks
  • Empaquetage des modèles pré-entraînés
  • Structuration du code d'inférence pour l'exécution en conteneur

Sécurisation des services AI conteneurisés

  • Minimisation de la surface d'attaque des conteneurs
  • Gestion des secrets et des fichiers sensibles
  • Stratégies de réseau sécurisé et d'exposition API

Techniques de déploiement portable

  • Optimisation des images pour la portabilité
  • Assurance d'environnements de temps d'exécution prévisibles
  • Gestion des dépendances entre les plateformes

Déploiement et test locaux

  • Exécution de services localement avec Docker
  • Débogage des conteneurs d'inférence
  • Test des performances et de la fiabilité

Déploiement sur des serveurs et des VM cloud

  • Adaptation des conteneurs pour les environnements à distance
  • Configuration de l'accès serveur sécurisé
  • Déploiement d'API d'inférence sur des VM cloud

Utilisation de Docker Compose pour les systèmes AI multi-services

  • Orchestration de l'inférence avec des composants d'assistance
  • Gestion des variables d'environnement et des configurations
  • Évolutivité des microservices avec Compose

Surveillance et maintenance des services d'inférence AI

  • Approches de journalisation et d'observabilité
  • Détection des échecs dans les pipelines d'inférence
  • Mise à jour et versionnement des modèles en production

Résumé et étapes suivantes

Pré requis

  • Une compréhension des concepts de base de l'apprentissage automatique
  • De l'expérience avec Python ou le développement back-end
  • Une familiarité avec les concepts fondamentaux des conteneurs

Public cible

  • Développeurs
  • Ingénieurs back-end
  • Équipes déployant des services AI
 14 Heures

Nombre de participants


Prix ​​par Participant

Nos clients témoignent (5)

Cours à venir

Catégories Similaires