Modelo LLM local autodesplegado ollama
Despliega tu propio modelo LLM ollama para habilitar funcionalidad AI ilimitada
Desplegando ollama a través de Docker
- Instala docker desktop, puedes buscar tutoriales si no sabes cómo
- Busca ollama en Docker Hub y descarga la imagen de ejecución
- Después de ejecutarlo, ejecuta el siguiente código en la terminal, puedes elegir tu propio modelo de código abierto
# qwen2.5: 1.5b es el nombre del modelo, puedes buscar o cambiar a otros modelos
docker exec -it ollama ollama run qwen2.5:1.5b
4. Espera a que se descargue el modelo, necesitas permitir el acceso cross-domain para el plugin, ejecuta el siguiente comando nuevamente
Si aparece un mensaje indicando que el modelo ya existe, por favor elimina el modelo y ejecuta el comando nuevamente
# Por favor ejecuta el siguiente comando nuevamente en la terminal
docker run -d -v ollama:/root/.ollama -p 11434:11434 -e OLLAMA_ORIGINS="*" --name ollama ollama/ollama
- Prueba ollama en la configuración del plugin
