Prenez contact avec nous

Plan du cours

Fondements de l'IA locale sécurisée

  • Ce que signifient l'IA locale et en interne dans les environnements régulés
  • IA cloud versus déploiement interne pour les charges sensibles
  • Cas d'utilisation enterprise courants pour les assistants privés et le support de flux de travail
  • Composants principaux d'une architecture IA locale sécurisée

Fondamentaux d'Ollama et des modèles open source

  • Comment Ollama s'intègre dans une pile de développement local
  • Téléchargement, exécution et gestion des modèles en local
  • Choix des modèles en fonction de la taille, de la qualité, du matériel et de la licence
  • Adéquation des options de modèles aux tâches commerciales pratiques

Préparation de l'environnement interne

  • Préparation de l'hôte, de la station de travail et du serveur
  • Installation et configuration d'Ollama pour l'inférence locale
  • Utilisation des conteneurs et des outils de développement internes
  • Vérification de l'accès API et de la préparation opérationnelle de base

Travail efficace avec les modèles locaux

  • Exécution d'invites et façonnage des sorties avec des instructions système
  • Réutilisation des templates pour des tâches enterprise cohérentes
  • Gestion des versions de modèles et des artefacts internes
  • Tuning de performance de base pour les déploiements CPU et GPU

Construction de flux de travail agentiques pratiques

  • Ce qui rend un flux de travail agentique dans un environnement contrôlé
  • Modèles simples pour la planification, l'utilisation d'outils et les boucles de réponse
  • Conception d'assistants axés sur la tâche pour les opérations internes
  • Ajout de revue humaine, de logique de repli et de gestion des erreurs

Flux de travail de récupération privés

  • Fondamentaux de la génération augmentée par récupération pour l'accès aux connaissances internes
  • Préparation des documents pour le fractionnement, l'indexation et la recherche
  • Connexion d'un vector store local à une application basée sur Ollama
  • Amélioration de la pertinence et de la qualité des réponses avec de meilleurs schémas de récupération

Pratiques de sécurité, gouvernance et conformité

  • Limites de traitement des données et considérations de confidentialité
  • Contrôle d'accès, journalisation et support d'audit
  • Sécurité des invites, contrôles de sortie et garde-fous
  • Points de contrôle de gouvernance pour le déploiement et l'exploitation réglementés

Patterns d'intégration enterprise

  • Mise à disposition des capacités IA locales via des APIs internes
  • Intégration des assistants avec des applications et services internes
  • Support des cas d'utilisation assistant, par lots et automatisation de flux de travail
  • Maintien des solutions à l'intérieur des limites réseau contrôlées

Évaluation des solutions IA locales

  • Évaluation de la qualité, de la fiabilité et de la cohérence
  • Tests par rapport aux exigences commerciales, de politique et de sécurité
  • Comparaison des options de modèles pour des tâches enterprise spécifiques
  • Établissement d'un cycle d'amélioration pratique pour les équipes internes

Labo d'implémentation pratique

  • Construction d'un assistant privé avec Ollama et un modèle open source
  • Ajout de la récupération sur des documents internes approuvés
  • Introduction d'actions agentiques simples et de contrôles de sécurité
  • Revue du déploiement, des opérations et des points de contrôle de gouvernance

Planification de l'adoption et prochaines étapes

  • Revue des décisions clés de conception et de déploiement
  • Identification des pièges courants dans les projets d'IA réglementés
  • Planification des cas d'utilisation pilotes et alignement des parties prenantes
  • Définition d'une feuille de route pour l'adoption d'une IA locale sécurisée

Pré requis

  • Compréhension de base des concepts d'IA et du développement logiciel
  • Familiarité avec les outils en ligne de commande, les conteneurs ou les environnements de développement locaux
  • Expérience basique en scripting ou programmation

Audience

  • Développeurs et équipes techniques construisant des solutions IA privées sur une infrastructure interne
  • Professionnels de la sécurité, de la conformité et de la plateforme soutenant l'IA dans les environnements régulés
  • Chefs de technique dans la finance, la santé, le gouvernement et la défense évaluant l'adoption d'une IA en interne
 21 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires