编辑
2024-11-11
深度学习
00

Dockerfile环境:

bash
FROM dockerpull.org/pytorch/pytorch:2.4.0-cuda12.1-cudnn9-devel RUN pip install diffusers -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple RUN pip install gradio uvicorn RUN pip install transformers -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple RUN pip install accelerate sentencepiece ftfy openai -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple WORKDIR /app COPY ./scripts /app/scripts RUN chmod +x /app/scripts/entrypoint.sh EXPOSE 7860 ENTRYPOINT ["/app/scripts/entrypoint.sh"]
编辑
2024-11-11
Linux运维
00

在Ubuntu中卸载现有的NVIDIA驱动并安装指定的驱动文件,可以按照以下步骤操作:

1. 卸载现有NVIDIA驱动

首先,确保没有程序正在使用NVIDIA显卡驱动,推荐在纯文本模式下进行操作:

编辑
2024-11-08
深度学习
00
bash
docker run -d --gpus device=3 \ -v /data/xiedong/LLaMA-Factory/output/checkpoint-20600:/data/xiedong/LLaMA-Factory/output/checkpoint-20600 \ -p 8005:8000 \ --ipc=host \ dockerpull.org/vllm/vllm-openai:latest \ --model /data/xiedong/LLaMA-Factory/output/checkpoint-20600 --gpu_memory_utilization=0.4
编辑
2024-11-08
售卖作品
00
编辑
2024-11-07
深度学习ban
00

该文章已加密,点击 阅读全文 并输入密码后方可查看。