Plan du cours

Introduction à Edge AI et Ascend 310

  • Présentation de Edge AI : tendances, contraintes et applications
  • Architecture du chipset Huawei Ascend 310 et chaîne d'outils supportée
  • Positionnement de CANN dans la pile de déploiement AI à l’extrême limite

Préparation et Conversion des Modèles

  • Exportation de modèles formés depuis TensorFlow, PyTorch et MindSpore
  • Utilisation d'ATC pour convertir les modèles en format OM pour appareils Ascend
  • Gestion des opérations non prises en charge et stratégies de conversion épurée

Développement de Pipelines d'Inférence avec AscendCL

  • Utilisation de l'API AscendCL pour exécuter des modèles OM sur Ascend 310
  • Prétraitement/post-traitement, gestion de la mémoire et contrôle du matériel
  • Déploiement dans des conteneurs embarqués ou environnements d'exécution légers

Optimisation pour les Contraintes à l’extrême limite

  • Réduction de la taille du modèle, réglage de précision (FP16, INT8)
  • Utilisation du profiler CANN pour identifier des bouteilles coude
  • Gestion de l’agencement mémoire et flux de données pour la performance

Déploiement avec MindSpore Lite

  • Utilisation du runtime MindSpore Lite pour cibles mobiles et embarquées
  • Comparaison de MindSpore Lite avec le pipeline brut AscendCL
  • Empaquetage des modèles d'inférence pour déploiement spécifique au matériel

Scénarios et Études de Cas de Déploiement à l’extrême limite

  • Étude de cas : caméra intelligente avec modèle de détection d'objets sur Ascend 310
  • Étude de cas : classification en temps réel dans un hub de capteurs IoT
  • Surveillance et mise à jour des modèles déployés à l’extrême limite

Conclusion et Prochains Pas

Pré requis

  • Expérience avec les workflows de développement ou de déploiement de modèles AI
  • Connaissance de base des systèmes embarqués, Linux, et Python
  • Familiarité avec les frameworks d'apprentissage profond tels que TensorFlow ou PyTorch

Public cible

  • Développeurs de solutions IoT
  • Ingénieurs AI embarqués
  • Intégrateurs de systèmes Edge et spécialistes du déploiement AI
 14 Heures

Nombre de participants


Prix ​​par Participant

Cours à venir

Catégories Similaires