Prenez contact avec nous
 Durée 14 heures

Plan du cours

Introduction à l'inférence IA avec Docker

  • Comprendre les charges de travail d'inférence IA
  • Avantages de l'inférence conteneurisée
  • Scénarios et contraintes de déploiement

Construction de conteneurs d'inférence IA

  • Sélection des images de base et des frameworks
  • Emballage des modèles pré-entraînés
  • Structuration du code d'inférence pour l'exécution en conteneur

Sécurisation des services IA conteneurisés

  • Minimisation de la surface d'attaque des conteneurs
  • Gestion des secrets et des fichiers sensibles
  • Stratégies de réseau et d'exposition d'API sécurisées

Techniques de déploiement portables

  • Optimisation des images pour la portabilité
  • Assurance d'environnements d'exécution prévisibles
  • Gestion des dépendances entre les plateformes

Déploiement et test local

  • Exécution de services locaux avec Docker
  • Débogage des conteneurs d'inférence
  • Tests de performance et de fiabilité

Déploiement sur serveurs et machines virtuelles cloud

  • Adaptation des conteneurs aux environnements distants
  • Configuration d'accès sécurisé aux serveurs
  • Déploiement d'API d'inférence sur des machines virtuelles cloud

Utilisation de Docker Compose pour les systèmes IA multi-services

  • Orchestration de l'inférence avec les composants d'accompagnement
  • Gestion des variables d'environnement et des configurations
  • Mise à l'échelle des microservices avec Compose

Surveillance et maintenance des services d'inférence IA

  • Approches de journalisation et d'observabilité
  • Détection des pannes dans les pipelines d'inférence
  • Mise à jour et gestion de version des modèles en production

Synthèse et prochaines étapes

Pré requis

  • Comprendre les concepts de base de l'apprentissage automatique
  • Expérience en Python ou en développement back-end
  • Familiarité avec les concepts fondamentaux de la conteneurisation

Public cible

  • Développeurs
  • Ingénieurs back-end
  • Équipes déploiement de services IA

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires