Prenez contact avec nous

Plan du cours

Introduction à Cambricon et à l’architecture MLU

  • Présentation du portefeuille de puces IA de Cambricon
  • Architecture MLU et pipeline d’instructions
  • Types de modèles pris en charge et cas d’usage

Installation de la chaîne d’outils de développement

  • Installation de BANGPy et du SDK Neuware
  • Configuration de l’environnement pour Python et C++
  • Compatibilité des modèles et prétraitement

Développement de modèles avec BANGPy

  • Structure des tenseurs et gestion des formes (shapes)
  • Construction du graphe de calcul
  • Prise en charge des opérations personnalisées dans BANGPy

Déploiement avec le runtime Neuware

  • Conversion et chargement des modèles
  • Contrôle de l’exécution et de l’inférence
  • Bonnes pratiques de déploiement sur la périphérie (edge) et dans les centres de données

Optimisation des performances

  • Mapping mémoire et ajustement des couches (tuning)
  • Tracé d’exécution et profilage
  • Goulots d’étranglement courants et solutions

Intégration des MLU dans les applications

  • Utilisation des API Neuware pour l’intégration applicative
  • Prise en charge du streaming et de plusieurs modèles
  • Scénarios d’inférence hybride CPU-MLU

Projet de bout en bout et cas d’usage

  • Travaux pratiques : Déploiement d’un modèle de vision par ordinateur ou de NLP
  • Inférence sur la périphérie (edge) avec intégration BANGPy
  • Test de la précision et du débit (throughput)

Synthèse et prochaines étapes

Pré requis

  • Compréhension des structures de modèles d’apprentissage automatique
  • Expérience avec Python et/ou C++
  • Familiarité avec les concepts de déploiement de modèles et d’accélération

Public cible

  • Développeurs d’IA embarquée
  • Ingénieurs ML déployant sur la périphérie (edge) ou dans les centres de données
  • Développeurs travaillant avec l’infrastructure d’IA chinoise
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires