参考：[https://blog.csdn.net/wenwenxiong/article/details/78728696](https://blog.csdn.net/wenwenxiong/article/details/78728696)





# 软链接

软链接的方式可以说是最简单最快捷最方便的方法，以后遇到这类问题都可以用这样去解决。

软件就是文件系统，docker的目录是/var/lib/docker，创建软链接让实际的文件存到别的地方，但相关系统变量都可以通过原路径/var/lib/docker访问。
```bash
# 停止docker
systemctl stop docker.socket
systemctl stop docker
# 移动docker所有文件
mv /var/lib/docker /home/docker
# 建立软连接
ln -s /home/docker/docker /var/lib/docker
# 重启docker
systemctl restart docker
```

![在这里插入图片描述](/static/img/images/00217.png)

【运维】Linux 修改Docker存储路径

如图所示，docker run -d -p 8080:8080 tomcat 启动tomcat服务。





然后docker logs 1ba487b1e2ca查看容器启动日志都没问题，但浏览器访问tomcat 8080就是出现404，且我的防火墙已经关闭。

![在这里插入图片描述](/static/img/images/00241.png)

经查验，解决方式需要 删除容器内的webapps空文件夹，然后把webapps.list改名为webapps，指令为：

```bash
docker exec -it 1ba487b1e2ca /bin/bash # 进入容器
rm -rf webapps # 删除
mv webapps.dist webapps # 重命名
```

![在这里插入图片描述](/static/img/images/00242.png)

再访问就OK了：

![在这里插入图片描述](/static/img/images/00243.png)

docker tomcat 容器 访问tomcat主页出现404提示

# 查看Docker存储位置





如此可以查看存储位置：
```csharp
sudo docker info | grep "Docker Root Dir"
```

# 使用软链接方式修改Docker存储位置

docker 的默认存储路径是/var/lib/docker，改成软链接即可。

```shell
# 关闭docker
sudo systemctl stop docker.socket
sudo systemctl stop docker
# 创建一个目录用于存储
mkdir -p /home/work/docker_root
# 移动文件
cp -R /var/lib/docker/* /home/work/docker_root
# 删除文件
rm -rf /var/lib/docker
# 增加软链接
ln -s /home/work/docker_root  /var/lib/docker
# 重启docker
sudo systemctl start docker
```

参考：[https://blog.csdn.net/BigData_Mining/article/details/104921479](https://blog.csdn.net/BigData_Mining/article/details/104921479)

Docker 修改 默认存储位置 存储空间不够

利用--shm-size参数：





```powershell
docker run -it --shm-size="6g" ubuntu
```

Docker ERROR: Unexpected bus error encountered in worker. This might be caused by insufficient share

## 1 需求





pytorch、tensorflow、mxnet等深度学习框架使用GPU的时候，不一样的版本会有一些CUDA要求，所以环境一直是困扰，Docker推出后，NVIDIA基于Docker给出解决方案，答案就是NVIDIA Container Toolkit。

github链接：

https://github.com/NVIDIA/nvidia-docker

架构图：

![在这里插入图片描述](/static/img/images/00345.png)

## 2 安装

### 2.1 安装前需要知道

我的机器是centOS 7，显卡是2080TI 11G，上面有GPU驱动和CUDA。

![在这里插入图片描述](/static/img/images/00346.png)

![在这里插入图片描述](/static/img/images/00347.png)




参考：[https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html#install-guide](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html#install-guide)

必须要有英伟达GPU驱动，版本大于等于418.81.07。

![在这里插入图片描述](/static/img/images/00348.png)

安装必要包：

```powershell
sudo yum install -y tar bzip2 make automake gcc gcc-c++ vim pciutils elfutils-libelf-devel libglvnd-devel iptables
```


### 2.2 安装Docker

这样：
```powershell
sudo yum remove docker \
                  docker-client \
                  docker-client-latest \
                  docker-common \
                  docker-latest \
                  docker-latest-logrotate \
                  docker-logrotate \
                  docker-engine
sudo yum install -y yum-utils \
  device-mapper-persistent-data \
  lvm2
sudo yum-config-manager \
    --add-repo \
    http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
sudo yum install docker-ce docker-ce-cli containerd.io -y
sudo systemctl start docker
sudo docker run hello-world
```


### 2.3 安装NVIDIA Container Toolkit

Setup the stable repository and the GPG key:

```powershell
distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \
   && curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.repo | sudo tee /etc/yum.repos.d/nvidia-docker.repo
```

```powershell
sudo yum clean expire-cache
```

安装nvidia-docker2
```powershell
sudo yum install -y nvidia-docker2
```

重启
```powershell
sudo systemctl restart docker
```

听说Docker版本大于19，可以用`yum install -y nvidia-container-toolkit` 代替nvidia-docker2安装，我觉得都行。

安装nvidia-docker2后，可以`vim /etc/docker/daemon.json`看一下Docker的配置文件，是改写了的，重启Docker后生效了。

测试安装是否成功：

```powershell
docker run --rm --gpus all nvidia/cuda:10.1-base nvidia-smi
```

会看到：

![在这里插入图片描述](/static/img/images/00349.png)

## 3 总结

### 3.1 如何安装CUDA 11.0

官网安装后测试用的是CUDA11，我没有执行成功，那么如何才能成功？

```powershell
sudo docker run --rm --gpus all nvidia/cuda:11.0-base nvidia-smi
```

官网的GPU驱动版本是：

```powershell
NVIDIA-SMI 450.51.06    Driver Version: 450.51.06    CUDA Version: 11.0   
```

所以在官网查看GPU驱动和CUDA对应，找到了官网的兼容性介绍：

[https://docs.nvidia.com/deploy/cuda-compatibility/](https://docs.nvidia.com/deploy/cuda-compatibility/)

![在这里插入图片描述](/static/img/images/00350.png)

所以对于我来说，机器上的CUDA和cudnn不用改动，但我升级gpu driver是OK的，向下兼容，一直保持gpu driver是最新版本是OK的。

此外[Docker Hub](https://hub.docker.com/r/nvidia/cuda)的介绍也很明确，NVIDIA推出的镜像包含CUDA和cuDNN。

![在这里插入图片描述](/static/img/images/00351.png)

### 3.2 如何升级gpu driver？

首先搜索显卡能用得了的驱动：[https://www.nvidia.cn/Download/index.aspx?lang=cn#](https://www.nvidia.cn/Download/index.aspx?lang=cn#)，然后下载下来即可。

![在这里插入图片描述](/static/img/images/00352.png)

依次执行：

```powershell
chmod a+x NVIDIA-Linux-x86_64-465.31.run  #修改权限
./NVIDIA-Linux-x86_64-465.31.run --uninstall #卸载原有版本
NVIDIA-Linux-x86_64-465.31.run #安装新版本
```

### 3.3 升级gpu driver报错

报错：
```
An NVIDIA kernel module 'nvidia-uvm' appears to already be loaded in your kernel. This may be because it is in use (for example, by an X server, a CUDA program, or the NVIDIA Persistence Daemon), but this may also happen if your kernel was configured without support for module unloading. Please be sure to exit any programs that may be using the GPU(s) before attempting to upgrade your driver. If no GPU-based programs are running, you know that your kernel supports module unloading, and you still receive this message, then an error may have occurred that has corrupted an NVIDIA kernel module's usage count, for which the simplest remedy is to reboot your computer.
```

怎么办？

原因是卸载的时候有别的程序占用显卡不放，所以无法安装新的显卡驱动。先停止那些占用就可以了。

参见：[https://haoyu.love/blog549.html](https://haoyu.love/blog549.html)

依次执行：

```powershell
fuser -v /dev/nvidia* 
fuser -v /dev/nvidia* | grep -o -E '[0-9]+' | xargs kill -9
```

## 4 容器：深度学习环境

### 4.1 实践目标

目标，在容器里用conda安装上torch gpu 1.7.1：

```powershell
# CUDA 11.0
conda install pytorch==1.7.1 torchvision==0.8.2 torchaudio==0.7.2 cudatoolkit=11.0 -c pytorch
```

### 4.2 找到合适的devel镜像

NVIDIA发布的devel镜像在之前图看到过，里面包含了runtime，还有一些别的，相当于最全了！

找到镜像，[https://hub.docker.com/r/nvidia/cuda/tags?page=1&ordering=last_updated&name=11.0](https://hub.docker.com/r/nvidia/cuda/tags?page=1&ordering=last_updated&name=11.0)

pull镜像：
```powershell
docker pull nvidia/cuda:11.0.3-devel-centos7
```

dockerpull 过慢，给一个阿里镜像。

Docker阿里镜像：

[https://cr.console.aliyun.com/cn-hangzhou/instances/mirrors](https://cr.console.aliyun.com/cn-hangzhou/instances/mirrors)

### 4.3 运行容器

运行容器，用--gpus all参数去把宿主机资源带入容器中，此时nvidia-docker2在发挥作用：

```powershell
docker run -it -v /root:/define/root --gpus all 72978189a95a /bin/bash  # 运行镜像，挂载卷方便文件传输
```

yum没镜像寸步难行

yum给镜像方法是这样：

```powershell
mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup
cd /etc/yum.repos.d/
wget http://mirrors.163.com/.help/CentOS7-Base-163.repo  # 配置为163源  可以不要这个 不执行这句
————————————————
版权声明：本文为CSDN博主「Q742971636」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/x1131230123/article/details/115007154
```

宿主机文件移动到/root,然后在容器内移动到/etc/yum.repos.d：

```powershell
cp /define/root/CentOS-Base.repo /etc/yum.repos.d
```

安装wget等工具：

```powershell
yum install -y wget vim git 
```

### 4.4 安装python

装miniconda：

```powershell
wget https://repo.anaconda.com/miniconda/Miniconda3-py38_4.9.2-Linux-x86_64.sh
sh Miniconda3-py38_4.9.2-Linux-x86_64.sh
source ~/.bashrc
```


装pytorch：

```powershell
# CUDA 11.0
conda install pytorch==1.7.1 torchvision==0.8.2 torchaudio==0.7.2 cudatoolkit=11.0 -c pytorch
```

### 4.5 用python程序测试环境

测试CUDA环境，写个py文件后执行，`touchtest.py`, `vim test.py` , 使用程序：

```python
import torch
flag = torch.cuda.is_available()
if flag:
    print("CUDA可使用")
else:
    print("CUDA不可用")
ngpu= 1
# Decide which device we want to run on
device = torch.device("cuda:0" if (torch.cuda.is_available() and ngpu > 0) else "cpu")
print("驱动为：",device)
print("GPU型号： ",torch.cuda.get_device_name(0))
```

执行程序 `python test.py` 后看到：

![在这里插入图片描述](/static/img/images/00353.png)

好，这样就成功了，能在容器里使用GPU了！

## 5 开始使用

退出容器，docker ps -a找到刚才容器id，使用docker commit 把容器变成镜像：
```powershell
docker commit -a "Kevin" -m "cuda11 pytorch1.7.1" 529cfd575f70 cuda11pytorch1_7_1:v1
```

使用docker images查看生成的镜像：

![在这里插入图片描述](/static/img/images/00354.png)

以后就能使用这个镜像进行开发：
```powershell
docker run -it -v /root:/define/root --gpus all 1d5c02b61178 /bin/bash  # 运行镜像，挂载卷方便文件传输
```

更进一步把镜像保存为rar文件：

```powershell
docker save -o cuda11pytorch1_7_1.tar cuda11pytorch1_7_1:v1
```

加载本地镜像rar文件：

```powershell
docker load -i cuda11pytorch1_7_1.tar
```

Docker 搭建GPU容器用于深度学习 NVIDIA Container Toolkit CentOS 如何升级gpu driver

我是一个专注技术分享的博主,尤其爱搞深度学习和单片机电子。你现在看到的是我的个人博客网站。