大規模モデル Ollama のローカル導入

Ollama を使って大規模モデルをローカルに自分で導入し、AI 機能を無制限に利用します。

Docker で Ollama を導入する

  1. Docker Desktop デスクトップ版をインストールします(不慣れな場合は、インストール手順を各自で検索してください)。
  2. Docker Hub で ollama を検索し、イメージをダウンロードして実行します。
  3. 実行後、ターミナルで以下のコマンドを実行してモデルを取得します(モデルは任意のオープンソースモデルを選べます):
    # qwen2.5:1.5b はモデル名です。自分で検索して他のモデルに置き換えられます
    docker exec -it ollama ollama run qwen2.5:1.5b
    

  4. モデルのダウンロードが完了するまで待ちます。拡張機能のクロスオリジンアクセスを許可するため、以下のコマンドを再実行する必要があります:
    docker run -d -v ollama:/root/.ollama -p 11434:11434 -e OLLAMA_ORIGINS="*" --name ollama ollama/ollama
    
    「モデルは既に存在します」と表示された場合は、まず既存のコンテナを削除してから、上記のコマンドを再実行してください。
  5. 拡張機能の設定に戻り、Ollama への接続が成功するかテストします。