https://github.com/pch18-docker/baota

yaml
展开代码
root@xd-OptiPlex-3070:~/bt_data# cat docker-compose.yml
version: '3.8'
services:
  baota:
    image: pch18/baota:clear
    container_name: baotaxd
    restart: unless-stopped
    ports:
      - "11000:8888"     # 宝塔面板（外部11000 → 容器8888）
      - "11080:80"       # HTTP（外部11080 → 容器80）
      - "11443:443"      # HTTPS（外部11443 → 容器443）
      - "11020:20"       # FTP（可选）
      - "11021:21"       # FTP（可选）
      - "11306:3306"     # MySQL（可选）
      - "11679:6379"     # Redis（可选）
    volumes:
      - ./www:/www/wwwroot
      - ./backup:/www/backup
      - ./data:/www/data
    privileged: true

1. qwen vl里有一些标记

在qwen vl里有一些标记，但其实用不着：

• • <|endoftext|>：表示文本的结束。
• • <|im_start|> 和 <|im_end|>：可能用于标记输入/输出的开始和结束。
• • <|object_ref_start|> 和 <|object_ref_end|>：可能用于标记对象引用的开始和结束。
• • <|box_start|> 和 <|box_end|>：可能用于标记一个“框”结构的开始和结束。
• • <|quad_start|> 和 <|quad_end|>：可能用于标记一个“四边形”结构的开始和结束。
• • <|vision_start|> 和 <|vision_end|>：可能用于标记视觉相关内容的开始和结束。
• • <|vision_pad|>、<|image_pad|>、<|video_pad|>：可能用于填充视觉、图像或视频内容。
• • <tool_call> 和 </tool_call>：可能用于标记工具调用的开始和结束。
• • <|fim_prefix|>、<|fim_middle|>、<|fim_suffix|>、<|fim_pad|>：可能用于填充或标记某些特定格式的文本（如代码补全）。
• • <|repo_name|> 和 <|file_sep|>：可能用于标记仓库名称或文件分隔符。

json
展开代码
[
    {
        "role": "user",
        "content": [
            {
                "type": "image",
                "image": "path_to_image.jpg"
            },
            {
                "type": "text",
                "text": "图中的杯子的坐标在哪里？"
            }
        ]
    },
    {
        "role": "assistant",
        "content": "<|object_ref_start|>杯子<|object_ref_end|><|box_start|>(0.456,0.387),(0.702,0.789)<|box_end|>"
    }
]

可以看编码原理：

https://zhuanlan.zhihu.com/p/12081484294

ThingsBoard

ThingsBoard 是一个开源的物联网（IoT）平台，专注于设备管理、数据收集、处理和可视化，支持多种通信协议如 MQTT、CoAP 和 HTTP。它提供了强大的规则引擎和丰富的可视化工具，帮助用户快速构建智能能源、车队跟踪、智能农业等物联网应用。基于 Java 和 TypeScript 开发，ThingsBoard 拥有活跃的社区和详细的文档，采用 Apache 2.0 开源协议，适合各种规模的物联网项目，帮助用户高效管理和分析设备数据。

该文章已加密，点击 阅读全文 并输入密码后方可查看。

云端设置

建立TCP隧道：

Cloudflare管理的域名，什么时候要配证书？什么时候不用配？

用Cloudflare管理域名，配不配证书，得看你怎么用Cloudflare。关键看两点：

1. 有没有开CDN代理。
2. 选什么SSL模式。

方法 1：配置文件永久设置代理
打开终端。
输入：

bash
展开代码
sudo nano /etc/apt/apt.conf.d/95proxies  

写入：

conf
展开代码
Acquire::http::Proxy "http://代理地址:端口/";  
Acquire::https::Proxy "http://代理地址:端口/";  

如果需要用户名和密码：

conf
展开代码
Acquire::http::Proxy "http://用户名:密码@代理地址:端口/";  

保存退出。按 Ctrl+O，回车，再按 Ctrl+X。
测试：

bash
展开代码
sudo apt update  

使用 device_map 优化 Transformers 模型的多 GPU 显存分配

在部署大型语言模型（如 Hugging Face Transformers 模型）时，显存管理是优化性能和避免内存溢出的关键。device_map 参数提供了一种灵活的方式，帮助用户在多 GPU 环境下分配模型的不同部分。本文将详细介绍 device_map 的用法、适用场景以及常见参数的作用。

拉取：

展开代码
docker pull vllm/vllm-openai:latest

启动：

展开代码
docker run -d --gpus '"device=1,3"' \
    -v ./zizhi_merge_2025-1:/Qwen2-VL-Any \
    -p 7871:8000 \
    --ipc=host \
    --shm-size 16g \
    vllm/vllm-openai:latest \
    --model /Qwen2-VL-Any --gpu_memory_utilization 0.9 --tensor_parallel_size 2

一、NPS 简介

NPS 是一款轻量级的内网穿透工具，支持 TCP/UDP 流量转发、HTTP/HTTPS 协议解析，并具备Web管理界面，便于配置和管理穿透规则。适合个人开发者或小型团队用于远程访问内网设备（如NAS、树莓派）、调试本地Web项目等场景。

用这个在更新的项目更好：https://github.com/yisier/nps/releases