下载模型:

bash
展开代码
modelscope download Qwen/Qwen2.5-VL-7B-Instruct --local_dir ./Qwen/Qwen2.5-VL-7B-Instruct

模型位置：

bash
展开代码
/mnt/jfs/model/Qwen/Qwen2.5-VL-7B-Instruct

开启api：

bash
展开代码
python -m vllm.entrypoints.openai.api_server \
--model /mnt/jfs/model/Qwen/Qwen2.5-VL-7B-Instruct \
--gpu_memory_utilization 0.9 \
--tensor_parallel_size 2 \
--served-model-name gpt \
--port 8000

重启大法好。

powershell：

bash
展开代码
wsl --shutdown

bash
展开代码
wsl

JuiceFS 详细介绍

1. 基本概念

JuiceFS 是一款高性能分布式文件系统，专为云环境设计，核心特点是将对象存储与缓存层结合，提供接近本地文件系统的性能体验。

核心架构

展开代码
[客户端应用] ← POSIX/FUSE接口 → [JuiceFS 客户端]
                                      ↓
                               [元数据引擎 (Redis/MySQL等)]
                                      ↓
                               [对象存储 (S3/OSS/HDFS等)]

https://api.stepfun.com/v1

claude-sonnet-4-20250514

https://llamafactory.readthedocs.io/en/latest/adva

https://xiaosheng.blog/2023/01/07/add-new-token

https://github.com/hiyouga/LLaMA-Factory/issues/3420

分析 tokenizer_config.json 文件的设计，以及如何添加特殊token。结合代码来详细讲解 tokenizer_config.json 的设计原理以及如何添加特殊token。

错误信息显示 /root/.cache/huggingface/datasets/ 目录空间不够，无法创建临时文件。让我帮你查看相关代码并提供解决方案。

可以通过指定 --cache_dir 参数来将缓存路径设置到你的挂载存储上。根据代码分析，LlamaFactory 支持通过 cache_dir 参数来指定 Hugging Face 数据集和模型的缓存目录。

根据查看 Dockerfile 和 setup.py 文件，我可以为你解释 EXTRAS 参数的作用：

EXTRAS 参数的作用

在 Docker 构建镜像时，EXTRAS 参数用于指定安装 LLaMA Factory 时需要包含的额外依赖项。它在 Dockerfile 的第 35 行被使用：

dockerfile
展开代码
RUN pip install --no-cache-dir -e ".[${EXTRAS}]" --no-build-isolation

这相当于执行：

bash
展开代码
pip install -e ".[metrics]"

最近用 LLaMA-Factory 训练大模型，数据都放在 AWS S3 上，发现其实不用自己写 boto3，直接用 S3 路径就能搞定。这里把我的踩坑和经验都写下来，帮你少走弯路。

1. S3 数据集怎么用？

LLaMA-Factory 支持直接从 S3 读取数据集，不用你自己写 boto3 脚本，也不用提前把数据下载到本地。你只要在配置里写上 S3 路径，比如 s3://my-bucket/data.jsonl，剩下的都交给 LLaMA-Factory。

先执行git lfs install是否可以，Ubuntu22 安装 git lfs 支持：

bash
展开代码
curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh | sudo bash
sudo apt-get install git-lfs

比如我想clone这个数据集：https://huggingface.co/datasets/BAAI/SVIT

我应该huggingface登录后同意协议。

然后访问 https://huggingface.co/settings/tokens 创建 token 。

得到token hf_QtMqvBcwjKiYBQbHxCAbgazrSdCmPbf

我的用户名是 hugxd

那我在本地可以直接这样clone这个数据集仓库：

bash
展开代码
git clone https://hugxd:hf_QtMqvBcwjKiYBQbHxCAbgazrSdCmPbf@huggingface.co/datasets/BAAI/SVIT

要抛弃本地所有更改，使本地仓库与云端完全一致，可以按照以下步骤操作：

1. 首先获取云端最新状态：

bash
展开代码
git fetch --all

2. 然后重置本地分支到与云端完全一致的状态（以main分支为例）：

bash
展开代码
git reset --hard origin/main

3. 如果你有未跟踪的文件也需要清理（慎用，这会删除所有未跟踪的文件和目录）：

bash
展开代码
git clean -fd

完整命令序列：

bash
展开代码
git fetch --all
git reset --hard origin/main
git clean -fd

1. JuiceFS 和 boto3 的本质区别

• 感想

时间，滴答，滴答，就过去了。

• 旁观者下的爱情

近两天好朋友分手了，问起来，唏嘘不

下载：

bash
展开代码
wget http://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Linux-x86_64.sh

安装：

bash
展开代码
bash Miniconda3-latest-Linux-x86_64.sh

初始化：

bash
展开代码
/root/miniconda3/bin/conda init

重启终端即可。

下载：

https://repo.continuum.io/miniconda/Miniconda3-latest-Windows-x86_64.exe

安装填写路径：

bash
展开代码
D:\ProgramData\miniconda3

环境变量给入：

bash
展开代码
D:\ProgramData\miniconda3\condabin
D:\ProgramData\miniconda3\Scripts

Python环境举例：

bash
展开代码
conda create -n py310 python=3.10 -y
conda install scipy -y

进行2个设置，才能让硬件在Win11发挥最大性能。

1. 设置1

搜索电源和睡眠设置 ，在电源模式（根据电源使用情况和性能来优化你的设备）选择最佳性能。

2. 设置2

右键此电脑，打开“属性”。

打开其中的“高级系统设置”。

进入“高级”，点击性能下的“设置”。

勾选开启“调整为最佳性能”。

进入“高级”，勾选“程序”最后“确定”保存即可调整为最佳性能。

由 conda-forge 社区维护，默认使用 conda-forge 源，避免 Anaconda 的商业许可风险，且预装 Mamba 加速依赖解析。

前置知识

什么是Docker？

Docker是一个容器化平台，它允许你将应用程序及其依赖项打包到轻量级、可移植的容器中。容器类似于虚拟机，但更加高效。

核心概念：

• 镜像（Image）：应用程序的只读模板
• 容器（Container）：镜像的运行实例
• 仓库（Registry）：存储镜像的地方，如Docker Hub