1. qwen vl里有一些标记

在qwen vl里有一些标记，但其实用不着：

• • <|endoftext|>：表示文本的结束。
• • <|im_start|> 和 <|im_end|>：可能用于标记输入/输出的开始和结束。
• • <|object_ref_start|> 和 <|object_ref_end|>：可能用于标记对象引用的开始和结束。
• • <|box_start|> 和 <|box_end|>：可能用于标记一个“框”结构的开始和结束。
• • <|quad_start|> 和 <|quad_end|>：可能用于标记一个“四边形”结构的开始和结束。
• • <|vision_start|> 和 <|vision_end|>：可能用于标记视觉相关内容的开始和结束。
• • <|vision_pad|>、<|image_pad|>、<|video_pad|>：可能用于填充视觉、图像或视频内容。
• • <tool_call> 和 </tool_call>：可能用于标记工具调用的开始和结束。
• • <|fim_prefix|>、<|fim_middle|>、<|fim_suffix|>、<|fim_pad|>：可能用于填充或标记某些特定格式的文本（如代码补全）。
• • <|repo_name|> 和 <|file_sep|>：可能用于标记仓库名称或文件分隔符。

json
展开代码
[
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "path_to_image.jpg"
            },
            {
                "type": "text",
                "text": "图中的杯子的坐标在哪里？"
            }
        ]
    },
    {
        "role": "assistant",
        "content": "<|object_ref_start|>杯子<|object_ref_end|><|box_start|>(0.456,0.387),(0.702,0.789)<|box_end|>"
    }
]

可以看编码原理：

https://zhuanlan.zhihu.com/p/12081484294

ThingsBoard

ThingsBoard 是一个开源的物联网（IoT）平台，专注于设备管理、数据收集、处理和可视化，支持多种通信协议如 MQTT、CoAP 和 HTTP。它提供了强大的规则引擎和丰富的可视化工具，帮助用户快速构建智能能源、车队跟踪、智能农业等物联网应用。基于 Java 和 TypeScript 开发，ThingsBoard 拥有活跃的社区和详细的文档，采用 Apache 2.0 开源协议，适合各种规模的物联网项目，帮助用户高效管理和分析设备数据。

该文章已加密，点击 阅读全文 并输入密码后方可查看。

云端设置

建立TCP隧道：

Cloudflare管理的域名，什么时候要配证书？什么时候不用配？

用Cloudflare管理域名，配不配证书，得看你怎么用Cloudflare。关键看两点：

1. 有没有开CDN代理。
2. 选什么SSL模式。

方法 1：配置文件永久设置代理
打开终端。
输入：

bash
展开代码
sudo nano /etc/apt/apt.conf.d/95proxies  

写入：

conf
展开代码
Acquire::http::Proxy "http://代理地址:端口/";  
Acquire::https::Proxy "http://代理地址:端口/";  

如果需要用户名和密码：

conf
展开代码
Acquire::http::Proxy "http://用户名:密码@代理地址:端口/";  

保存退出。按 Ctrl+O，回车，再按 Ctrl+X。
测试：

bash
展开代码
sudo apt update  

使用 device_map 优化 Transformers 模型的多 GPU 显存分配

在部署大型语言模型（如 Hugging Face Transformers 模型）时，显存管理是优化性能和避免内存溢出的关键。device_map 参数提供了一种灵活的方式，帮助用户在多 GPU 环境下分配模型的不同部分。本文将详细介绍 device_map 的用法、适用场景以及常见参数的作用。

拉取：

展开代码
docker pull vllm/vllm-openai:latest

启动：

展开代码
docker run -d --gpus '"device=1,3"' \
    -v ./zizhi_merge_2025-1:/Qwen2-VL-Any \
    -p 7871:8000 \
    --ipc=host \
    --shm-size 16g \
    vllm/vllm-openai:latest \
    --model /Qwen2-VL-Any --gpu_memory_utilization 0.9 --tensor_parallel_size 2

一、NPS 简介

NPS 是一款轻量级的内网穿透工具，支持 TCP/UDP 流量转发、HTTP/HTTPS 协议解析，并具备Web管理界面，便于配置和管理穿透规则。适合个人开发者或小型团队用于远程访问内网设备（如NAS、树莓派）、调试本地Web项目等场景。

用这个在更新的项目更好：https://github.com/yisier/nps/releases

下载：

展开代码
alias hfd="$PWD/hfd.sh"
hfd Qwen/QwQ-32B --local-dir Qwen/QwQ-32B

docker pull vllm/vllm-openai:latest

关键概念解释

nps的服务端有这两个参数：

1. http_proxy_port 和 https_proxy_port 的作用
   • http_proxy_port=80：表示 NPS 服务端会监听 80 端口，用于接收来自公网的 HTTP 请求（非加密流量）。
   • https_proxy_port=443：表示 NPS 服务端会监听 443 端口，用于接收来自公网的 HTTPS 请求（加密流量）。
   • 这两个配置是 NPS 的 域名代理（Domain Proxy） 功能的核心。当你的请求通过域名访问 NPS 服务端的 80 或 443 端口时，NPS 会根据域名将请求转发到对应的内网服务。

2. 域名代理 vs 普通端口转发
   • 普通端口转发：直接将某个端口的流量转发到内网端口（例如将 NPS服务端:80 → 内网客户端:80）。
   • 域名代理：通过域名区分不同的内网服务。例如：
   ◦ 访问 a.your-domain.com:80 → 转发到 内网客户端A:80
   ◦ 访问 b.your-domain.com:80 → 转发到 内网客户端B:80
   这种方式可以复用同一个端口（如 80 或 443），根据域名分发到不同内网服务。

网上的提示词都很低能，我这里介绍一个我使用的思路。降重网站写的材料都太弱智了。

思路很简单，让AI模仿你的真实说话风格，比如你的用词和句式。

在下面这个提示词里，加上三千字你那个领域的一些正常人说话的材料，可以去书籍里找找或者自己以前写过的文字材料，以前没AI的时候是怎么说话的就加这里。

然后把提示词最后加上你想要改写的文字，不能太多，建议一小节一小节给入。

然后把这个提示词给腾讯元宝里的DeppSeekR1，你就可以得到降重后的文章。只有DeppSeekR1有这么优秀的理解模仿能力，或者找o1。

参考资料：https://llamafactory.readthedocs.io/zh-cn/latest/advanced/distributed.html

以训练qwen2.5vl 7b 为例子。

所有题目均可做。

46 、智能步进电动百叶窗 基本要求： 用一台步进电机控制百叶窗叶片的旋转（正转/反转） 用 LED 数码管显示旋转角度 设置按键： 手动/自动切换、手动正转和手动反转，停止/启动键 用一个发光二极管显示手动/自动状态，自动状态时二极管亮。 用 LED/LCD 显示电机旋转角度（0-180 度） 用键设置两个极限角度位置代替保护行程开关，用于保护百叶窗叶片： 当正转到极限位置时，电机停止正转，但还可以反转； 当反转到极限位置时，电机停止反转，但还可以正转。 发挥部分： 设计一个光检测器，用 LED/LCD 显示光强度值（这个要外接光线感应器，或者用按键模 拟光线的强弱） 设定光强度的上限和下限 在自动模式下，旋转角度自动跟踪光强度变化 动作原理： 单片机根据设定光强 S1 和 S2（S2 > S1）和实测光强 P 控制电机 M 的动作： 当 P<=S1 时，控制 M 正转以增加进光量； 当 P>S2 时，控制 M 反转以减少进光量； 当 S1<P<=S2 时，M 停转。 显示格式： LED 数码管/LCD 屏显示参数

使用NFS实现持久化存储共享

场景需求
为满足跨服务器持久化存储需求，NFS（Network File System）提供高效稳定的远程目录共享方案，适用于集群、备份等长期使用场景。

目录结构

代码和模型需要处于不同的文件夹，因此分开为：

bash
展开代码
/data/[用户名]/FLUX.1-Fill-dev # ll
total 20
drwxr-xr-x  5 [用户名] [用户名] 4096 Nov 30 09:39 ./
drwxrwxr-x 34 [用户名] [用户名] 4096 Nov 29 21:33 ../
drwxrwxr-x  3 [用户名] [用户名] 4096 Nov 30 09:54 .idea/
drwxrwxr-x  2 [用户名] [用户名] 4096 Nov 30 09:54 x06_flux_edit/
drwxrwxr-x  4 [用户名] [用户名] 4096 Nov 30 09:28 x06_flux_edit_models/

docker push kevinchina/deeplearning:sdwebui_base:

bash
展开代码
FROM kevinchina/deeplearning:pytorch2.3.0-cuda12.1-cudnn8-devel-xformers
ENV DEBIAN_FRONTEND=noninteractive
# 安装基本软件包
RUN apt-get update && \
    apt-get upgrade -y && \
    apt-get -y --no-install-recommends install vim wget curl git build-essential bc  && \
    apt-get install -y libgl1 libglib2.0-0 ffmpeg tzdata iputils-ping libgoogle-perftools-dev nginx && \
    ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && \
    echo "Asia/Shanghai" > /etc/timezone
ENV LD_PRELOAD=/lib/x86_64-linux-gnu/libtcmalloc_minimal.so.4

该文章已加密，点击 阅读全文 并输入密码后方可查看。

在ControlNet的Reference模型中，reference_adain、reference_adain+attn 和 reference_only 是三种不同的预处理器，它们的主要区别在于处理图像的方式和生成结果的控制精度。以下是它们的详细区别：