Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Plan du cours
Introduction à Cambricon et à l’architecture MLU
- Présentation du portefeuille de puces IA de Cambricon
- Architecture MLU et pipeline d’instructions
- Types de modèles pris en charge et cas d’usage
Installation de la chaîne d’outils de développement
- Installation de BANGPy et du SDK Neuware
- Configuration de l’environnement pour Python et C++
- Compatibilité des modèles et prétraitement
Développement de modèles avec BANGPy
- Structure des tenseurs et gestion des formes (shapes)
- Construction du graphe de calcul
- Prise en charge des opérations personnalisées dans BANGPy
Déploiement avec le runtime Neuware
- Conversion et chargement des modèles
- Contrôle de l’exécution et de l’inférence
- Bonnes pratiques de déploiement sur la périphérie (edge) et dans les centres de données
Optimisation des performances
- Mapping mémoire et ajustement des couches (tuning)
- Tracé d’exécution et profilage
- Goulots d’étranglement courants et solutions
Intégration des MLU dans les applications
- Utilisation des API Neuware pour l’intégration applicative
- Prise en charge du streaming et de plusieurs modèles
- Scénarios d’inférence hybride CPU-MLU
Projet de bout en bout et cas d’usage
- Travaux pratiques : Déploiement d’un modèle de vision par ordinateur ou de NLP
- Inférence sur la périphérie (edge) avec intégration BANGPy
- Test de la précision et du débit (throughput)
Synthèse et prochaines étapes
Pré requis
- Compréhension des structures de modèles d’apprentissage automatique
- Expérience avec Python et/ou C++
- Familiarité avec les concepts de déploiement de modèles et d’accélération
Public cible
- Développeurs d’IA embarquée
- Ingénieurs ML déployant sur la périphérie (edge) ou dans les centres de données
- Développeurs travaillant avec l’infrastructure d’IA chinoise
21 Heures
Nos clients témoignent (1)
Nous pouvons aborder des sujets avancés et travailler avec des exemples concrets.
Ruben Khachaturyan - iris-GmbH infrared & intelligent sensors
Formation - Advanced Edge AI Techniques
Traduction automatique