拉：

bash
docker pull ollama/ollama

运行

bash
docker run -d --rm -p 11434:11434 --gpus device=3 \
-v /ssd/xiedong/openwebui-test/ollama:/root/.ollama \
--name ollama ollama/ollama 


docker run -d --rm -p 11435:11434 --gpus device=2 \
-v /ssd/xiedong/openwebui-test/ollama:/root/.ollama \
--name ollama2 ollama/ollama 

进容器：

docker exec -it ollama bash

docker exec -it ollama2 bash

退出容器就嘎了，我直接tmux:

bash
apt update && apt install -y tmux

运行模型：

bash
ollama run qwen2.5:72b-instruct

ollama run qwen2.5:32b-instruct