本地自部署大模型ollama
自己部署大模型ollama 實現無限量使用AI功能
透過Docker部署ollama
- 安裝docker desktop桌面端,不會的可自行搜索教程
- 在Docker Hub 中搜索ollama 並下載運行鏡像
- 運行後透過終端運行以下代碼，模型可以自己選擇開源模型
# qwen2.5: 1.5b是模型名，你可以自行搜索或更改其他模型
docker exec -it ollama ollama run qwen2.5:1.5b
4.等待模型下載完成,需要允許插件跨域訪問，從新運行以下命令
如果提示模型已經存在，請刪除模型再重新運行命令
# 請從新在終端運行以下命令
docker run -d -v ollama:/root/.ollama -p 11434:11434 -e OLLAMA_ORIGINS="*" --name ollama ollama/ollama
- 在插件的設置中測試ollama
