2025-04-29
深度学习
00

https://modelscope.cn/models/Qwen/Qwen3-32B

部署时,您可以使用 sglang>=0.4.6.post1 或 vllm>=0.8.4 或创建一个与 OpenAI 兼容的 API 端点:

展开代码
SGLANG_USE_MODELSCOPE=1 python -m sglang.launch_server --model-path Qwen/Qwen3-32B --reasoning-parser qwen3
展开代码
VLLM_USE_MODELSCOPE=1 vllm serve Qwen/Qwen3-32B --enable-reasoning --reasoning-parser deepseek_r1

我爱用VLLM+Docker+不要reasoning:

展开代码
# 下载镜像 docker pull vllm/vllm-openai:latest # 下载模型 modelscope download Qwen/Qwen3-32B --local_dir ./Qwen/Qwen3-32B # 启动服务 docker run -d --gpus '"device=0,1,2,3"' \ -v /data/xiedong/Qwen/Qwen3-32B:/model \ -p 8028:8000 \ vllm/vllm-openai:latest \ --model /model --gpu_memory_utilization=0.9 --tensor-parallel-size 2 --data_parallel_size 2 --pipeline-parallel-size 1 --max-model-len 10000 --served-model-name gpt # 启动服务2 docker run -d --gpus '"device=4,5,6,7"' \ -v /data/xiedong/Qwen/Qwen3-32B:/model \ -p 8028:8000 \ vllm/vllm-openai:latest \ --model /model --gpu_memory_utilization=0.9 --tensor-parallel-size 1 --data_parallel_size 4 --pipeline-parallel-size 1 --max-model-len 10000 --served-model-name gpt # 启动服务3 docker run -d --gpus '"device=2,3"' \ -v /ssd/xiedong/Qwen/Qwen3-32B:/model \ -p 8077:8000 \ vllm/vllm-openai:latest \ --model /model --gpu_memory_utilization=0.9 --tensor-parallel-size 1 --data_parallel_size 2 --pipeline-parallel-size 1 --max-model-len 10000 --served-model-name gpt

要reasoning的话,run 要加入--enable-reasoning --reasoning-parser deepseek_r1

请求:

展开代码
curl -X POST "http://10.136.19.27:8028/v1/chat/completions" \ -H "Authorization: Bearer YOUR_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gpt", "messages": [ { "role": "user", "content": "你是谁?" } ], "temperature": 0.7, "top_p": 0.8, "top_k": 20, "max_tokens": 4096, "presence_penalty": 1.5 }'

考虑效率,不需要思考就加上"chat_template_kwargs": {"enable_thinking": false}

展开代码
curl -X POST "http://10.136.19.27:8028/v1/chat/completions" \ -H "Authorization: Bearer YOUR_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gpt", "messages": [ { "role": "user", "content": "你是谁?" } ], "temperature": 0.7, "top_p": 0.8, "top_k": 20, "max_tokens": 4096, "presence_penalty": 1.5, "chat_template_kwargs": {"enable_thinking": false} }'
2025-04-29
单片机
00

使用 Ziegler-Nichols 法进行 PID 参数整定:实践指南

PID(比例-积分-微分)控制器广泛应用于工业控制中。虽然其结构简单,但如何选择合适的比例增益 KpK_p、积分时间 TiT_i 和微分时间 TdT_d 是实现良好控制性能的关键。本文将详细介绍一种经典且实用的 PID 参数整定方法——Ziegler-Nichols 法

2025-04-28
单片机
00

基于MQTT的设备监控与控制系统设计

引言

物联网(IoT)设备的远程监控与控制是现代智能系统的基础需求。本文将介绍一个基于MQTT协议的设备监控与控制系统,该系统由两部分组成:模拟单片机设备和PyQt客户端。我们将详细讨论系统的设计思路、代码实现以及实际应用场景。

2025-04-28
单片机
00

之前博客介绍了如何搭建EMQX:https://www.dong-blog.fun/post/1963

本博客在 EMQX 中配置规则将数据写入 MySQL,可以通过 规则引擎 + 数据桥接 实现。以下是详细步骤:

2025-04-27
深度学习
00

论文:https://arxiv.org/pdf/2407.17490 https://github.com/YuxiangChai/AMEX-codebase/tree/main/data_utils https://huggingface.co/datasets/Yuxiang007/AMEX

image.png

AMEX数据集包括三个层次的注释:

  1. GUI交互元素定位 :
  • 分类两类交互元素:可点击元素和可滚动元素。
  1. GUI屏幕和元素功能描述 :
  • 使用GPT生成屏幕和元素的功能描述,并进行人工检查以确保准确性。
  1. 复杂自然语言指令与GUI动作链 :
  • 每条指令平均包含12.8个步骤的动作链,显著高于现有数据集。
2025-04-27
Linux运维
00

在 Ubuntu 22.04 上,我们经常需要查看当前的网络带宽占用情况,尤其是下载大文件时,了解实时的下载速度可以帮助我们判断网络状况或管理下载任务。本文将介绍几种简单有效的方法来监控 Ubuntu 22.04 的下载带宽,包括终端工具和图形界面方案。

2025-04-24
自动控制
00

为什么极点在左半平面(LHP)系统就会稳定?

在控制系统中,极点的位置决定了系统的动态响应和稳定性。具体原因如下:

  1. 时域响应分析: • 对于连续时间系统,传递函数的极点 pip_i 对应的时域模态为 epite^{p_i t}

    • 若极点 pip_i 在左半平面(LHP)(即 Re(pi)<0\text{Re}(p_i) < 0),则 epite^{p_i t} 会指数衰减,系统最终趋于稳定。

    • 若极点 pip_i 在右半平面(RHP)(即 Re(pi)>0\text{Re}(p_i) > 0),则 epite^{p_i t} 会指数发散,系统不稳定。

    • 若极点在虚轴上(Re(pi)=0\text{Re}(p_i) = 0),则系统处于临界稳定(如持续振荡)。

  2. 稳定性判据: • BIBO稳定性(有界输入有界输出):所有极点必须在左半平面。

    • Lyapunov稳定性:对于线性系统,LHP极点等价于渐近稳定。

2025-04-23
自动控制
00

LQR控制原理与倒立摆系统实践指南

一、问题背景:惯性轮倒立摆控制 我们面对的是一个典型的欠驱动系统——惯性轮倒立摆(Inertia Wheel Pendulum)。系统通过控制惯性轮电机产生反扭矩来维持摆杆竖直平衡。系统参数如下:

2025-04-23
GRPO
00

配置

构建新的镜像:

展开代码
docker build --network=host --build-arg http_proxy=http://10.136.19.26:10828 --build-arg https_proxy=http://10.136.19.26:10828 -f Dockerfile -t kevinchina/deeplearning:vlmr1-0501 . # 进容器装环境: apt-get update apt-get install libibverbs1 pip config set global.index-url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple pip install babel python-Levenshtein matplotlib pycocotools timm==1.0.15 # Addtional modules pip install wandb==0.18.3 pip install tensorboardx pip install qwen_vl_utils torchvision pip install flash-attn --no-build-isolation pip install babel pip install python-Levenshtein pip install matplotlib pip install pycocotools pip install openai pip install httpx[socks] pip install json_repair
展开代码
docker commit 4411ba9deb19 kevinchina/deeplearning:vlmr1-0501-1
2025-04-23
自动控制
00

在MATLAB中,将状态空间模型转换为传递函数可以通过以下步骤完成:

方法一:使用 sstf 函数

  1. 定义状态空间矩阵:
    matlab
    展开代码
    A = [...]; % 状态矩阵 B = [...]; % 输入矩阵 C = [...]; % 输出矩阵 D = [...]; % 直接传输矩阵
  2. 创建状态空间对象:
    matlab
    展开代码
    sys_ss = ss(A, B, C, D);
  3. 转换为传递函数:
    matlab
    展开代码
    sys_tf = tf(sys_ss);
  4. (可选)约简传递函数(消除共同零极点):
    matlab
    展开代码
    sys_tf = minreal(sys_tf);