LLaMA-Factory EXTRAS
2025-07-14
深度学习
00

目录

EXTRAS 参数的作用
可用的 EXTRAS 选项
使用示例

根据查看 Dockerfile 和 setup.py 文件,我可以为你解释 EXTRAS 参数的作用:

EXTRAS 参数的作用

在 Docker 构建镜像时,EXTRAS 参数用于指定安装 LLaMA Factory 时需要包含的额外依赖项。它在 Dockerfile 的第 35 行被使用:

dockerfile
展开代码
RUN pip install --no-cache-dir -e ".[${EXTRAS}]" --no-build-isolation

这相当于执行:

bash
展开代码
pip install -e ".[metrics]"

可用的 EXTRAS 选项

setup.py 文件中,我找到了所有可用的额外依赖项:

选项包含的依赖项用途
torchtorch>=2.0.0, torchvision>=0.15.0基础 PyTorch 支持
torch-nputorch-npu==2.5.1, torchvision==0.20.1, decorator华为昇腾 NPU 支持
metricsnltk, jieba, rouge-chinese评估指标支持(中英文)
deepspeeddeepspeed>=0.10.0,<=0.16.9分布式训练支持
liger-kernelliger-kernel>=0.5.5优化内核支持
bitsandbytesbitsandbytes>=0.39.0量化支持
hqqhqqHalf-Quadratic Quantization
eetqeetq高效量化支持
gptqoptimum>=1.24.0, gptqmodel>=2.0.0GPTQ 量化支持
aqlmaqlm[gpu]>=1.1.0AQLM 量化支持
vllmvllm>=0.4.3,<=0.9.1vLLM 推理加速
sglangsglang[srt]>=0.4.5, transformers==4.51.1SGLang 推理引擎
galoregalore-torchGaLore 优化器
apolloapollo-torchApollo 优化器
badambadam>=1.2.1Block-wise Adam 优化器
adam-miniadam-miniMini Adam 优化器
minicpm_vsoundfile, torchvision 等MiniCPM-V 多模态支持
openmindopenmind阿里云开放平台支持
swanlabswanlabSwanLab 实验跟踪
devpre-commit, ruff, pytest, build开发工具

使用示例

你可以根据需要选择不同的额外依赖项:

bash
展开代码
# 安装评估指标支持(默认) --build-arg EXTRAS=metrics # 安装多个额外依赖项 --build-arg EXTRAS=metrics,deepspeed,vllm # 只安装基础版本 --build-arg EXTRAS="" # 安装开发工具 --build-arg EXTRAS=dev

默认值是 metrics,这意味着 Docker 镜像会包含用于模型评估的工具,如 NLTK、jieba 和 rouge-chinese,这些对于中英文模型的评估很有用。

如果对你有用的话,可以打赏哦
打赏
ali pay
wechat pay

本文作者:Dong

本文链接:

版权声明:本博客所有文章除特别声明外,均采用 CC BY-NC。本作品采用《知识共享署名-非商业性使用 4.0 国际许可协议》进行许可。您可以在非商业用途下自由转载和修改,但必须注明出处并提供原作者链接。 许可协议。转载请注明出处!