Formation Optimiser les performances des réseaux de neurones avec le CANN SDK

Présentation des capacités d'optimisation de CANN

• Gestion des performances d'inférence dans CANN
• Objectifs d'optimisation pour les systèmes IA de périphérie et embarqués
• Compréhension de l'utilisation des cœurs IA et de l'allocation mémoire

Utilisation du moteur de graphes pour l'analyse

• Introduction au moteur de graphes et au pipeline d'exécution
• Visualisation des graphes d'opérateurs et des métriques d'exécution
• Modification des graphes de calcul pour l'optimisation

Outils de profilage et métriques de performance

• Utilisation de l'outil de profilage CANN (profiler) pour l'analyse de la charge de travail
• Analyse du temps d'exécution des noyaux et des goulots d'étranglement
• Profilage de l'accès à la mémoire et stratégies de pavage (tiling)

Développement d'opérateurs personnalisés avec TIK

• Présentation de TIK et du modèle de programmation des opérateurs
• Mise en œuvre d'un opérateur personnalisé à l'aide du DSL TIK
• Tests et benchmarking des performances de l'opérateur

Optimisation avancée des opérateurs avec TVM

• Introduction à l'intégration de TVM avec CANN
• Stratégies d'auto-réglage pour les graphes de calcul
• Quand et comment basculer entre TVM et TIK

Techniques d'optimisation de la mémoire

• Gestion de la disposition mémoire et du placement des tampons
• Techniques pour réduire la consommation de mémoire sur puce
• Bonnes pratiques pour l'exécution asynchrone et la réutilisation

Déploiement en milieu réel et études de cas

• Étude de cas : réglage des performances pour le pipeline de caméras de ville intelligente
• Étude de cas : optimisation de la pile d'inférence des véhicules autonomes
• Lignes directrices pour le profilage itératif et l'amélioration continue

Résumé et prochaines étapes