Modelo LLM local autodesplegado ollama
Despliegue seu próprio modelo LLM ollama para habilitar funcionalidade AI ilimitada
Desplegando ollama via Docker
- Instale docker desktop, você pode buscar tutoriais se não souber como
- Busque por ollama no Docker Hub e baixe a imagem de execução
- Após executar, execute o código seguinte no terminal, você pode escolher seu próprio modelo de código aberto
# qwen2.5: 1.5b é o nome do modelo, você pode buscar ou alterar para outros modelos
docker exec -it ollama ollama run qwen2.5:1.5b
4. Aguarde o download do modelo, você precisa permitir acesso cross-domain para o plugin, execute o comando seguinte novamente
Se aparecer uma mensagem indicando que o modelo já existe, por favor exclua o modelo e execute o comando novamente
# Por favor execute o comando seguinte novamente no terminal
docker run -d -v ollama:/root/.ollama -p 11434:11434 -e OLLAMA_ORIGINS="*" --name ollama ollama/ollama
- Teste ollama nas configurações do plugin
