Plan du cours

Introduction à Huawei CloudMatrix

  • Écosystème de CloudMatrix et flux de déploiement
  • Modèles, formats et modes de déploiement pris en charge
  • Cas d'utilisation typiques et pucewares supportés

Préparation des modèles pour le déploiement

  • Exportation du modèle à partir des outils de formation (MindSpore, TensorFlow, PyTorch)
  • Utilisation d'ATC (Ascend Tensor Compiler) pour la conversion de format
  • Modèles statiques vs dynamiques

Déploiement sur CloudMatrix

  • Création du service et enregistrement du modèle
  • Déploiement des services d'inférence via l'interface utilisateur ou la ligne de commande
  • Routage, authentification et contrôle d'accès

Traitement des requêtes d'inférence

  • Flows d'inférence par lots vs en temps réel
  • Pipelines de prétraitement et post-traitement des données
  • Appels aux services CloudMatrix à partir d'applications externes

Surveillance et ajustement des performances

  • Journalisation du déploiement et suivi des requêtes
  • Échelonnement des ressources et équilibrage de charge
  • Ajustement de la latence et optimisation du débit

Intégration avec les outils d'entreprise

  • Connexion de CloudMatrix à OBS et ModelArts
  • Utilisation des workflows et gestion des versions du modèle
  • CI/CD pour le déploiement et la reprise des modèles

Pipeline d'inférence de bout en bout

  • Déploiement d'un pipeline complet de classification d'image
  • Benchmarking et validation de précision
  • Simulation des failovers et alertes du système

Résumé et prochaines étapes

Pré requis

  • Une compréhension des workflows de formation des modèles IA
  • Expérience avec les frameworks ML basés sur Python
  • Familiarité de base avec les concepts de déploiement dans le cloud

Public cible

  • Équipes d'opérations IA
  • Ingénieurs en apprentissage automatique
  • Spécialistes du déploiement dans le cloud travaillant avec l'infrastructure Huawei
 21 Heures

Nombre de participants


Prix ​​par Participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires