Prenez contact avec nous

Plan du cours

Introduction à l'inférence IA avec Docker

  • Compréhension des charges de travail d'inférence IA.
  • Avantages de l'inférence conteneurisée.
  • Scénarios et contraintes de déploiement.

Construction de conteneurs pour l'inférence IA

  • Sélection des images de base et des frameworks.
  • Emballage des modèles pré-entraînés.
  • Structuration du code d'inférence pour l'exécution dans un conteneur.

Sécurisation des services IA conteneurisés

  • Réduction de la surface d'attaque des conteneurs.
  • Gestion des secrets et des fichiers sensibles.
  • Stratégies pour un réseau sûr et une exposition sécurisée des API.

Techniques de déploiement portable

  • Optimisation des images pour la portabilité.
  • Garantir des environnements d'exécution prévisibles.
  • Gestion des dépendances entre plateformes.

Déploiement local et tests

  • Exécution des services en local avec Docker.
  • Débogage des conteneurs d'inférence.
  • Tests de performance et de fiabilité.

Déploiement sur les serveurs et les VM cloud

  • Adaptation des conteneurs aux environnements distants.
  • Configuration de l'accès serveur sécurisé.
  • Déploiement des API d'inférence sur des VM cloud.

Utilisation de Docker Compose pour les systèmes IA multi-services

  • Orchestration de l'inférence avec les composants d'assistance.
  • Gestion des variables d'environnement et des configurations.
  • Mise à l'échelle des microservices avec Compose.

Surveillance et maintenance des services d'inférence IA

  • Approches de journalisation (logging) et d'observabilité.
  • Détection des défaillances dans les pipelines d'inférence.
  • Mise à jour et versionnement des modèles en production.

Synthèse et prochaines étapes

Pré requis

  • Une compréhension des concepts de base du machine learning.
  • De l'expérience avec Python ou le développement backend.
  • Une familiarité avec les concepts fondamentaux des conteneurs.

Public cible

  • Développeurs.
  • Ingénieurs backend.
  • Équipes déployant des services IA.
 14 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (3)

Cours à venir

Catégories Similaires