拉：

bash
docker pull ollama/ollama

运行

bash
docker run -d --rm -p 11434:11434 --gpus device=3 \
-v /ssd/xiedong/openwebui-test/ollama:/root/.ollama \
--name ollama ollama/ollama 

进容器：

docker exec -it ollama bash

运行模型：

bash
ollama run qwen2.5-coder:32b

退出容器就嘎了，我直接tmux:

bash
apt update && apt install -y tmux