Modèle LLM local auto-déployé ollama
Déployez votre propre modèle LLM ollama pour activer une fonctionnalité IA illimitée
Déploiement d'ollama via Docker
- Installez docker desktop, vous pouvez rechercher des tutoriels si vous ne savez pas comment
- Recherchez ollama dans Docker Hub et téléchargez l'image d'exécution
- Après l'exécution, exécutez le code suivant dans le terminal, vous pouvez choisir votre propre modèle open-source
# qwen2.5: 1.5b est le nom du modèle, vous pouvez rechercher ou changer pour d'autres modèles
docker exec -it ollama ollama run qwen2.5:1.5b
4. Attendez que le modèle soit téléchargé, vous devez autoriser l'accès cross-domain pour le plugin, exécutez à nouveau la commande suivante
Si un message indique que le modèle existe déjà, veuillez supprimer le modèle et exécuter à nouveau la commande
# Veuillez exécuter à nouveau la commande suivante dans le terminal
docker run -d -v ollama:/root/.ollama -p 11434:11434 -e OLLAMA_ORIGINS="*" --name ollama ollama/ollama
- Testez ollama dans les paramètres du plugin
