ローカル自己デプロイ大規模モデルollama
自己で大規模モデルollamaをデプロイし、無制限にAI機能を使用する
Dockerを通じてollamaをデプロイする
- docker desktopをインストールしてください。方法がわからない場合は、チュートリアルを検索してください
- Docker Hubでollamaを検索し、実行イメージをダウンロードします
- 実行後、ターミナルで以下のコードを実行します。モデルはオープンソースモデルから自由に選択できます
# qwen2.5: 1.5bはモデル名です。他のモデルを検索または変更することができます
docker exec -it ollama ollama run qwen2.5:1.5b
4. モデルのダウンロードが完了するのを待ち、プラグインのクロスドメインアクセスを許可するために、以下のコマンドを再実行します
モデルが既に存在すると表示された場合は、モデルを削除してからコマンドを再実行してください
# ターミナルで以下のコマンドを再実行してください
docker run -d -v ollama:/root/.ollama -p 11434:11434 -e OLLAMA_ORIGINS="*" --name ollama ollama/ollama
- プラグインの設定でollamaをテストします
