Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Plan du cours
Introduction à Ollama pour le déploiement des LLM
- Aperçu des capacités d’Ollama.
- Avantages du déploiement local des modèles d’IA.
- Comparaison avec les solutions d’hébergement d’IA cloud.
Configuration de l’environnement de déploiement
- Installation d’Ollama et des dépendances requises.
- Configuration du matériel et de l’accélération GPU.
- Conteneurisation d’Ollama pour des déploiements évolutifs.
Déploiement des LLM avec Ollama
- Chargement et gestion des modèles d’IA.
- Déploiement de Llama 3, DeepSeek, Mistral et d’autres modèles.
- Création d’API et de points de terminaison pour l’accès aux modèles d’IA.
Optimisation des performances des LLM
- Affinage des modèles pour optimiser l’efficacité.
- Réduction de la latence et amélioration des temps de réponse.
- Gestion de la mémoire et de l’allocation des ressources.
Intégration d’Ollama dans les workflows d’IA
- Connexion d’Ollama aux applications et services.
- Automatisation des processus pilotés par l’IA.
- Utilisation d’Ollama dans les environnements de calcul en périphérie.
Surveillance et maintenance
- Suivi des performances et débogage des problèmes.
- Mise à jour et gestion des modèles d’IA.
- Garantie de la sécurité et de la conformité dans les déploiements d’IA.
Mise à l’échelle des déploiements de modèles d’IA
- Meilleures pratiques pour gérer les charges de travail élevées.
- Mise à l’échelle d’Ollama pour des cas d’usage d’entreprise.
- Prochaines avancées dans le déploiement local des modèles d’IA.
Conclusion et prochaines étapes
Pré requis
- Une expérience de base avec l’apprentissage automatique et les modèles d’IA.
- Une familiarité avec les interfaces en ligne de commande et les scripts.
- Une compréhension des environnements de déploiement (local, périphérie, cloud).
Public cible
- Ingénieurs en IA optimisant les déploiements d’IA locaux et cloud.
- Praticiens en ML déployant et affinant des LLM.
- Spécialistes DevOps gérant l’intégration des modèles d’IA.
14 Heures