Prenez contact avec nous

Plan du cours

Introduction à Ollama pour le déploiement des LLM

  • Aperçu des capacités d’Ollama.
  • Avantages du déploiement local des modèles d’IA.
  • Comparaison avec les solutions d’hébergement d’IA cloud.

Configuration de l’environnement de déploiement

  • Installation d’Ollama et des dépendances requises.
  • Configuration du matériel et de l’accélération GPU.
  • Conteneurisation d’Ollama pour des déploiements évolutifs.

Déploiement des LLM avec Ollama

  • Chargement et gestion des modèles d’IA.
  • Déploiement de Llama 3, DeepSeek, Mistral et d’autres modèles.
  • Création d’API et de points de terminaison pour l’accès aux modèles d’IA.

Optimisation des performances des LLM

  • Affinage des modèles pour optimiser l’efficacité.
  • Réduction de la latence et amélioration des temps de réponse.
  • Gestion de la mémoire et de l’allocation des ressources.

Intégration d’Ollama dans les workflows d’IA

  • Connexion d’Ollama aux applications et services.
  • Automatisation des processus pilotés par l’IA.
  • Utilisation d’Ollama dans les environnements de calcul en périphérie.

Surveillance et maintenance

  • Suivi des performances et débogage des problèmes.
  • Mise à jour et gestion des modèles d’IA.
  • Garantie de la sécurité et de la conformité dans les déploiements d’IA.

Mise à l’échelle des déploiements de modèles d’IA

  • Meilleures pratiques pour gérer les charges de travail élevées.
  • Mise à l’échelle d’Ollama pour des cas d’usage d’entreprise.
  • Prochaines avancées dans le déploiement local des modèles d’IA.

Conclusion et prochaines étapes

Pré requis

  • Une expérience de base avec l’apprentissage automatique et les modèles d’IA.
  • Une familiarité avec les interfaces en ligne de commande et les scripts.
  • Une compréhension des environnements de déploiement (local, périphérie, cloud).

Public cible

  • Ingénieurs en IA optimisant les déploiements d’IA locaux et cloud.
  • Praticiens en ML déployant et affinant des LLM.
  • Spécialistes DevOps gérant l’intégration des modèles d’IA.
 14 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires