Python扩展包

在 VS Code 的扩展市场中，最核心的 Python 开发扩展是由 Microsoft 官方维护的 ms-python.python（名称直接叫 "Python"）。以下是关键扩展的区分和推荐：

1. 必装的核心扩展 ✅ Python • 发布者: ms-python（Microsoft 官方）

• 功能：

• Python 语言基础支持（语法高亮、代码补全、调试等）。

• 集成 Python 解释器管理（切换虚拟环境、conda 等）。

• 提供 Jupyter Notebook 支持。

• 标识：扩展列表中直接显示为 "Python"，且作者是 ms-python。

🚧 第一步：理解链表的结构

链表就像一列火车，每节车厢（节点）有两个部分：

1. 值（val）：比如存储的数字。
2. 下一节的连接（next）：指向下一节车厢的“钩子”（指针）。

在 Python 中，可以用类表示：

python
展开代码
class ListNode:
    def __init__(self, val=0, next=None):
        self.val = val       # 值
        self.next = next     # 指向下一个节点的指针

例如，链表 1 -> 2 -> 3 就是三个节点，每个的“钩子”连向下一个。

统计素数的常用方法详解

1. 什么是素数？

素数（质数） 是大于 1 的自然数，只能被 1 和它本身整除。

示例：

• 素数：2, 3, 5, 7, 11, ...
• 非素数：4, 6, 8, 9, ...

在 VS Code 中连接虚拟机中的 Linux 终端，可以通过以下几种方法实现：

ADRC算法数学公式详解

线性ADRC通常更容易调整参数，但在大扰动下可能性能不如非线性ADRC。

在之前博客进行了简单的训练尝试：https://www.dong-blog.fun/post/2060

在本博客，将会深入进行多机多卡训练，以及调整训练奖励函数。

之前构建了镜像： docker build . -t kevinchina/deeplearning:r1

展开代码
FROM hiyouga/verl:ngc-th2.6.0-cu126-vllm0.8.4-flashinfer0.2.2-cxx11abi0
WORKDIR /workplace
RUN git clone https://github.com/hiyouga/EasyR1.git
WORKDIR /workplace/EasyR1
RUN pip install -e . -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
RUN pip install swanlab -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple

多机多卡的rbma通信条件在这个镜像也具备： apt-get install libibverbs1 -y

训练

项目地址：

https://github.com/hiyouga/EasyR1?tab=readme-ov-file#custom-dataset

拉取镜像：

展开代码
docker pull hiyouga/verl:ngc-th2.6.0-cu126-vllm0.8.4-flashinfer0.2.2-cxx11abi0

做一个镜像：

展开代码
FROM hiyouga/verl:ngc-th2.6.0-cu126-vllm0.8.4-flashinfer0.2.2-cxx11abi0
WORKDIR /workplace
RUN git clone https://github.com/hiyouga/EasyR1.git
WORKDIR /workplace/EasyR1
RUN pip install -e . -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
RUN pip install swanlab -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple

该文章已加密，点击 阅读全文 并输入密码后方可查看。

grpo_config.py

GRPO配置参数文档

模型和参考模型参数

• model_init_kwargs: dict[str, Any] 或 None，默认值 None
  • 用于transformers.AutoModelForCausalLM.from_pretrained的关键字参数，当GRPOTrainer的model参数提供为字符串时使用。

数据预处理参数

• remove_unused_columns: bool，默认值 False

  • 是否仅保留数据集中的"prompt"列。如果您使用的自定义奖励函数需要"prompts"和"completions"以外的任何列，应将此值保持为False。

• max_prompt_length: int 或 None，默认值 512

  • 提示的最大长度。如果提示长度超过此值，将从左侧截断。

• num_generations: int 或 None，默认值 8

  • 每个提示生成的样本数。全局批次大小(num_processes * per_device_batch_size)必须能被此值整除。

• temperature: float，默认值 0.9

  • 采样的温度。温度越高，生成的内容越随机。

• max_completion_length: int 或 None，默认值 256

  • 生成内容的最大长度。

• ds3_gather_for_generation: bool，默认值 True

  • 适用于DeepSpeed ZeRO-3。如果启用，将收集策略模型权重以提高生成速度。禁用此选项可以训练超出单个GPU VRAM容量的模型，但会降低生成速度。禁用此选项与vLLM生成不兼容。

揭秘 vLLM 中的 tokenizer_config.json：以 Qwen3 模型为例深度解析

在使用 vLLM 部署大型语言模型（LLM）时，我们经常会接触到模型目录下的各种配置文件。其中，tokenizer_config.json 是一个至关重要的文件，它像一座桥梁，连接着人类可读的文本与模型内部能理解的数字表示。本文将以部署 Qwen3-30B-A3B 模型为例，深入探讨 tokenizer_config.json 在 vLLM 中的作用以及其内部各项配置的含义。