Formation Ollama : Modèles de langage larges auto-hébergés remplaçant les API OpenAI et Claude
Ollama est un outil open-source permettant d'exécuter des modèles de langage larges (LLM) en local sur du matériel grand public ou professionnel. Il abstrait la quantification des modèles, l'allocation du GPU et le service API au sein d'une interface en ligne de commande unique, permettant aux organisations d'héberger elles-mêmes des LLM tels que Llama, Mistral et Qwen, sans envoyer de prompts ou de données à OpenAI, Anthropic ou Google.
Cette formation en présentiel ou à distance, animée par un instructeur, s'adresse aux ingénieurs en IA et aux opérateurs de plateformes de niveau intermédiaire souhaitant utiliser Ollama pour remplacer les API cloud LLM par une inférence de modèles linguistiques auto-hébergés et souverains.
À l'issue de cette formation, les participants seront capables de :
- Installer Ollama sur Linux, macOS et Windows avec prise en charge du GPU.
- Télécharger, quantifier et servir des modèles depuis le registre Ollama et HuggingFace.
- Construire des Modelfiles personnalisés avec des invites système et un réglage des paramètres.
- Intégrer des LLM locaux aux applications via l'API compatible OpenAI.
- Optimiser les performances d'inférence pour des configurations CPU uniquement et multi-GPU.
Format de la formation
- Cours interactif et débats.
- Nombreux exercices et mises en pratique.
- Mise en œuvre concrète dans un environnement de laboratoire en direct.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'organiser cela.
Plan du cours
Souveraineté de l'IA et déploiement local des LLM
- Risques liés aux LLM cloud : rétention des données, entraînement sur les entrées, juridiction étrangère.
- Architecture d'Ollama : serveur de modèles, registre et API compatible OpenAI.
- Comparaison avec vLLM, llama.cpp et Text Generation Inference.
- Licences des modèles : termes liés à Llama, Mistral, Qwen et Gemma.
Installation et configuration matérielle
- Installation d'Ollama sur Linux avec prise en charge de CUDA et ROCm.
- Solution de repli CPU uniquement et optimisation AVX/AVX2.
- Déploiement Docker et mappage des volumes persistants.
- Configuration multi-GPU et stratégies d'allocation de la VRAM.
Gestion des modèles
- Téléchargement de modèles depuis le registre Ollama : ollama pull llama3.
- Importation de modèles GGUF depuis HuggingFace et TheBloke.
- Niveaux de quantification : compromis entre Q4_K_M, Q5_K_M et Q8_0.
- Changement de modèle et limites de chargement simultané de plusieurs modèles.
Modelfiles personnalisés
- Écriture de la syntaxe Modelfile : FROM, PARAMETER, SYSTEM, TEMPLATE.
- Réglage de la température, top_p et repeat_penalty.
- Ingénierie des invites système pour un comportement spécifique au rôle.
- Création et publication de modèles personnalisés vers le registre local.
Intégration API
- Point de terminaison /v1/chat/completions compatible OpenAI.
- Réponses en streaming et mode JSON.
- Intégration avec LangChain, LlamaIndex et applications personnalisées.
- Authentification et limitation de débit (rate limiting) avec un proxy inverse.
Optimisation des performances
- Taille de la fenêtre de contexte et gestion du cache KV.
- Inférence par lots et traitement des demandes parallèles.
- Affectation des threads CPU et prise en compte du NUMA.
- Suivi de l'utilisation du GPU et de la pression mémoire.
Sécurité et conformité
- Isolation réseau pour les points de terminaison de service des modèles.
- Pipelines de filtrage des entrées et de modération des sorties.
- Journalisation des prompts et des complétions à des fins d'audit.
- Provenance des modèles et vérification par hash.
Pré requis
- Administration intermédiaire de Linux et des conteneurs.
- Compréhension de haut niveau du machine learning et des modèles transformeurs.
- Familiarité avec les API REST et JSON.
Public cible
- Ingénieurs et développeurs en IA remplaçant les API LLM cloud.
- Organisations dont la sensibilité des données empêche l'utilisation de modèles cloud.
- Équipes gouvernementales et de défense nécessitant des modèles linguulaires isolés du réseau (air-gapped).
Les formations ouvertes requièrent plus de 3 participants.
Formation Ollama : Modèles de langage larges auto-hébergés remplaçant les API OpenAI et Claude - Réservation
Formation Ollama : Modèles de langage larges auto-hébergés remplaçant les API OpenAI et Claude - Demande de renseignements
NobleProg propose des formations professionnelles conçues spécifiquement pour les entreprises et les organisations. Ces formations ne sont pas destinées aux particuliers.
Ollama : Modèles de langage larges auto-hébergés remplaçant les API OpenAI et Claude - Demande d'informations consulting
Cours à venir
Cours Similaires
Débogage et Évaluation Avancés des Modèles Ollama
35 HeuresL'Advanced Ollama Model Debugging & Evaluation est un cours approfondi axé sur le diagnostic, les tests et la mesure du comportement des modèles lors de déploiements locaux ou privés d'Ollama.
Cette formation en direct (en ligne ou sur site) animée par un instructeur s'adresse aux ingénieurs AI avancés, professionnels ML Ops et praticiens QA qui souhaitent garantir la fiabilité, la fidélité et la préparation opérationnelle des modèles basés sur Ollama en production.
À la fin de cette formation, les participants seront capables de :
- Réaliser un débogage systématique des modèles hébergés par Ollama et reproduire fiablement les modes d'échec.
- Définir et exécuter des pipelines d'évaluation robustes avec des métriques quantitatives et qualitatives.
- Mettre en œuvre l'observabilité (journaux, traces, métriques) pour surveiller la santé du modèle et les dérives.
- Automatiser les tests, la validation et les vérifications de régression intégrés dans des pipelines CI/CD.
Format du cours permettant d'évaluer les participants
- Cours interactif et discussions.
- Ateliers pratiques et exercices de débogage utilisant des déploiements Ollama.
- Études de cas, sessions collectives de résolution de problèmes et ateliers d'automatisation.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en faire la demande.
Création de workflows d'IA privés avec Ollama
14 HeuresCette formation dirigée par un instructeur (en ligne ou sur site) est destinée aux professionnels de niveau avancé qui souhaitent mettre en œuvre des workflows pilotés par l'IA de manière sécurisée et efficace à l'aide d'Ollama.
À la fin de cette formation, les participants seront capables de :
- Déployer et configurer Ollama pour le traitement d'IA privée.
- Intégrer des modèles d'IA dans des workflows sécurisés d'entreprise.
- Optimiser les performances de l'IA tout en maintenant la confidentialité des données.
- Automatiser les processus commerciaux avec des capacités d'IA sur site.
- Assurer la conformité avec les politiques de sécurité et de gouvernance d'entreprise.
Déploiement et optimisation des LLM avec Ollama
14 HeuresCette formation en présentiel ou en ligne, animée par un formateur à France, s’adresse aux professionnels de niveau intermédiaire souhaitant déployer, optimiser et intégrer des LLM à l’aide d’Ollama.
À l’issue de cette formation, les participants seront capables de :
- Configurer et déployer des LLM en utilisant Ollama.
- Optimiser les modèles d’IA pour améliorer leurs performances et leur efficacité.
- Tirer parti de l’accélération GPU pour des vitesses d’inférence accrues.
- Intégrer Ollama dans des workflows et des applications.
- Surveiller et maintenir la performance des modèles d’IA au fil du temps.
EXO : Déploiement local d'un cluster IA de bout en bout
21 HeuresCette formation en présentiel ou en ligne avec instructeur à France s'adresse aux administrateurs système et ingénieurs DevOps souhaitant déployer, configurer et gérer des clusters EXO pour l'inférence de LLMs privés sur plusieurs nœuds Apple Silicon ou Linux.
EXO pour DevOps : Construire une infrastructure d'IA privée
21 HeuresCette formation animée par un instructeur, en direct à France (en ligne ou sur site), s'adresse aux ingénieurs DevOps et architectes infrastructure souhaitant automatiser le provisionnement, la surveillance et la gestion du cycle de vie des clusters d'IA privés basés sur EXO.
Sécurité et gouvernance EXO : Gestion des modèles hors ligne
14 HeuresCette formation en direct animée par un instructeur en France (en ligne ou sur site) s'adresse aux ingénieurs en sécurité et aux responsables de la conformité souhaitant renforcer le déploiement d'EXO, contrôler l'accès aux modèles et gouverner les charges de travail d'IA exécutées entièrement en local.
Affinage et Personnalisation des Modèles IA sur Ollama
14 HeuresCette formation dirigée par un instructeur en ligne ou sur site est destinée aux professionnels de niveau avancé souhaitant affiner et personnaliser des modèles d'IA sur Ollama pour une performance optimale et des applications spécifiques.
À la fin de cette formation, les participants seront en mesure de :
- Configurer un environnement efficace pour l'affinage des modèles d'IA sur Ollama.
- Préparer des jeux de données pour l'affinage supervisé et l'apprentissage par renforcement.
- Optimiser les modèles d'IA pour la performance, la précision et l'efficacité.
- Déployer des modèles personnalisés dans des environnements de production.
- Évaluer les améliorations du modèle et assurer sa robustesse.
IA agentique locale sécurisée : Développement Ollama en interne pour les secteurs régulés
21 HeuresCette formation en direct dispensée par un instructeur en France (en ligne ou sur site) s'adresse aux développeurs et équipes techniques souhaitant utiliser Ollama et des modèles open source pour construire et exécuter des solutions d'IA agentique privée sur une infrastructure interne.
À l'issue de cette formation, les participants seront capables d'installer et configurer Ollama, d'évaluer et d'exécuter des modèles locaux, de créer des flux de travail agentiques et basés sur la récupération simples, et d'appliquer des contrôles de sécurité et de gouvernance pour les environnements régulés.
Applications Multimodales avec Ollama
21 HeuresOllama est une plateforme qui permet d'exécuter et de fine-tuner des modèles de langage et multimodaux localement.
Cette formation en direct encadrée par un formateur (en ligne ou sur site) s'adresse aux ingénieurs ML avancés, chercheurs en IA et développeurs de produits souhaitant construire et déployer des applications multimodales avec Ollama.
Au terme de cette formation, les participants seront capables de :
- Configurer et exécuter des modèles multimodaux avec Ollama.
- Intégrer des entrées textuelles, d'images et audio pour des applications réelles.
- Construire des systèmes de compréhension documentaire et de QA visuelle.
- Développer des agents multimodaux capables de raisonnement transmodal.
Format du cours permettant d'évaluer les participants
- Cours interactif et discussion.
- Pratique pratique avec des jeux de données multimodales réels.
- Mise en œuvre en laboratoire vivant de pipelines multimodaux utilisant Ollama.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en faire la demande.
Bien démarrer avec Ollama : Exécution de modèles IA locaux
7 HeuresCette formation dirigée par un instructeur et en temps réel (en ligne ou sur site) est destinée aux professionnels débutants souhaitant installer, configurer et utiliser Ollama pour exécuter des modèles IA sur leurs machines locales.
À la fin de cette formation, les participants seront en mesure de :
- Comprendre les fondamentaux d'Ollama et ses capacités.
- Configurer Ollama pour exécuter des modèles IA localement.
- Déployer et interagir avec les LLMs en utilisant Ollama.
- Optimiser les performances et l'utilisation des ressources pour les charges de travail IA.
- Explorer des cas d'usage pour le déploiement local de l'IA dans diverses industries.
Ollama & Protection des Données : Modèles de Déploiement Sûrs
14 HeuresOllama est une plateforme qui permet d'exécuter des modèles de langage et multimodaux localement tout en soutenant des stratégies de déploiement sécurisées.
Cette formation en direct dirigée par un formateur (en ligne ou sur site) s'adresse aux professionnels intermédiaires qui souhaitent déployer Ollama avec des mesures fortes de protection des données et de conformité réglementaire.
A la fin de cette formation, les participants seront capables de :
- Déployer Ollama de manière sécurisée dans des environnements conteneurisés et sur site.
- Appliquer des techniques de confidentialité différentielle pour protéger les données sensibles.
- Mettre en œuvre des pratiques de journalisation, de surveillance et d'audit sécurisées.
- Imposer un contrôle d'accès aux données conforme aux exigences de conformité.
Format du cours permettant d'évaluer les participants
- Cours interactif et discussions.
- Laboratoires pratiques avec des modèles de déploiement sécurisés.
- Études de cas axées sur la conformité et exercices pratiques.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en faire la demande.
Applications d'Ollama dans le secteur financier
14 HeuresOllama est une plateforme légère pour l'exécution de grands modèles linguistiques localement.
Cette formation dirigée par un instructeur (en ligne ou sur site) est destinée aux professionnels financiers et au personnel informatique intermédiaires qui souhaitent mettre en œuvre, personnaliser et opérationnaliser des solutions AI basées sur Ollama dans les environnements financiers.
En terminant cette formation, les participants acquerront les compétences nécessaires pour :
- Déployer et configurer Ollama pour une utilisation sécurisée dans les opérations financières.
- Intégrer des LLMs locaux dans les workflows d'analyse et de reporting.
- Adapter les modèles à la terminologie et aux tâches spécifiques au secteur financier.
- Appliquer les meilleures pratiques en matière de sécurité, de confidentialité et de conformité.
Format du cours permettant d'évaluer les participants
- Conférence interactive et discussion.
- Exercices pratiques sur les données financières.
- Mise en œuvre de scénarios axés sur la finance dans un laboratoire live.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour organiser.
Applications d'Ollama dans le domaine de la santé
14 HeuresOllama est une plateforme légère permettant d'exécuter localement des modèles de langage de grande taille.
Cette formation dispensée par un instructeur, en direct (en ligne ou sur site), s'adresse aux professionnels de la santé de niveau intermédiaire et aux équipes informatiques souhaitant déployer, personnaliser et mettre en œuvre des solutions d'IA basées sur Ollama au sein d'environnements cliniques et administratifs.
À l'issue de cette formation, les participants seront en mesure de :
- Installer et configurer Ollama pour une utilisation sécurisée dans des contextes de santé.
- Intégrer des LLM locaux dans les flux de travail cliniques et les processus administratifs.
- Personnaliser les modèles pour des terminologies et des tâches spécifiques au secteur de la santé.
- Appliquer les meilleures pratiques en matière de confidentialité, de sécurité et de conformité réglementaire.
Format du cours permettant d'évaluer les participants
- Cours magistral interactif et discussions.
- Démonstrations pratiques et exercices guidés.
- Mise en œuvre concrète dans un environnement de simulation de santé isolé (sandbox).
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'organiser la session.
Ollama pour une IA Responsable et la Gouvernance
14 HeuresOllama est une plateforme pour exécuter localement des modèles de langage et multimodaux, soutenant les pratiques de gouvernance et d'IA responsable.
Cette formation en direct (en ligne ou sur site) dirigée par un instructeur s’adresse aux professionnels intermédiaires à avancés qui souhaitent mettre en œuvre l'équité, la transparence et la responsabilité dans les applications alimentées par Ollama.
Au terme de cette formation, les participants seront capables de :
- Appliquer des principes d'IA responsable dans les déploiements d'Ollama.
- Mettre en œuvre des stratégies de filtrage de contenu et d’atténuation des biais.
- Définir des flux de travail de gouvernance pour l’alignement et la traçabilité de l'IA.
- Établir des cadres de surveillance et de reporting pour la conformité.
Format du cours permettant d'évaluer les participants
- Cours interactif et discussion.
- Ateliers pratiques sur la conception des flux de travail de gouvernance.
- Études de cas et exercices axés sur la conformité.
Options de Personnalisation du Cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en faire la demande.
IA souveraine pour les organisations réglementées : Contrôle des données, des modèles et des environnements d’inférence
7 HeuresCe cours en présentiel ou à distance, animé par un formateur expert, en France s’adresse aux chefs informatiques intermédiaires, aux professionnels de la conformité, aux équipes de sécurité et aux architectes d’entreprise souhaitant utiliser les principes et les pratiques de gouvernance de l’IA souveraine pour concevoir des environnements IA protégeant les données sensibles, respectant les exigences de localisation et réduisant la dépendance à l’égard des fournisseurs.
À l’issue de cette formation, les participants seront capables d’expliquer les concepts de l’IA souveraine, d’évaluer les options d’hébergement et de gouvernance, de définir des contrôles pour les prompts et les journaux, et de créer une feuille de route opérationnelle d’adoption.
