https://arxiv.org/pdf/2507.05934

BlueLM-2.5-3B: 边缘设备上的多模态推理突破

核心创新与技术亮点

BlueLM-2.5-3B代表了多模态大语言模型(MLLM)在边缘设备部署方面的重要突破。作为首个支持thinking和non-thinking双模式切换的3B级别MLLM，该模型在保持紧凑性的同时实现了卓越的推理能力。

模型架构创新

三组件设计

• Vision Transformer (ViT): 采用SigLIP2作为视觉编码器，包含27层transformer结构，约4亿参数
• 适配器模块: 使用两层MLP进行视觉-语言空间对齐，并通过2×2空间下采样提升计算效率
• 语言模型: 25亿参数的密集transformer架构，专门针对多模态对齐优化

AnyRes处理器 为支持动态输入分辨率，模型集成了AnyRes处理器，能够处理高达1512×1512像素的图像。该设计的核心优势在于：

• 保持原图像宽高比，最小化缩放损失
• 采用4×4网格布局进行并行处理
• 显著降低推理延迟（相比Qwen2.5-VL的二次增长）

训练策略突破

多阶段预训练框架

1. 纯文本预训练: 通过模型蒸馏从7B教师模型获得3B基础模型，相比从头训练提升4%性能
2. 联合通用预训练: 采用6:4的图像-文本比例，4T tokens规模训练
3. 推理增强阶段: 引入3.3T tokens的合成推理数据，显著提升复杂推理能力
4. 长上下文激活: 扩展上下文长度至32k，支持长文档理解

思维模式控制机制 通过特殊token [|BlueThink|] 实现思维模式切换：

• 长思维模式: 生成详细推理过程，适用于复杂问题
• 短思维模式: 快速响应，适用于简单查询
• 失败率低于1 PPM: 确保模式切换的高度可靠性

混合强化学习策略

多任务奖励机制

• 基于规则的奖励: 针对数学、编程等确定性任务
• 模型生成奖励: 处理开放式问答和文本重写任务
• 长度惩罚机制: 通过"Group Overlong"策略控制推理长度，优化Token效率

GRPO优化算法 采用Group Relative Policy Optimization替代传统PPO：

• 消除价值模型，降低计算开销
• 使用同组样本得分估计基线
• 引入KL散度约束提升训练稳定性

数据工程精髓

多样化数据构建

• 预训练数据: 17.1T tokens（相比同规模模型减少23%）
• 多模态数据: 图像描述、OCR、GUI、VQA等多类型数据
• 推理增强数据: 3.3T tokens高质量推理路径数据
• 合成数据生成: 利用先进模型生成多样化训练样本

高效数据流水线 实现数据获取、格式转换、质量过滤、去重、内容分类的全生命周期管理：

• 基于相似性的数据聚合
• 语义保持的贪婪拼接
• 大规模分布式执行（1万+核心资源池）

性能表现分析

Thinking模式性能

多模态基准测试 在thinking模式下，BlueLM-2.5-3B表现卓越：

• vs Kimi-VL-A3B-16B: 10个多模态基准平均仅落后5%
• vs Qwen2.5-VL-72B: 在MathVision和MathVista推理基准上实现超越
• 数学推理能力: MathVista达到78.4分，MathVision达到47.7分

纯文本基准测试

• vs Qwen3-4B: 11项任务中4项领先，整体性能相当
• 推理任务优势: Math-500(92.8)、GSM8K(95.5)、AIME24(73.3)表现突出
• 参数效率: 仅用60%参数量实现接近性能

Non-thinking模式性能

多模态能力

• vs Qwen2.5-VL-3B: 全面领先，推理类基准优势明显
• vs Gemma-3-4B: 10项任务中9项胜出
• GUI理解: 在ScreenSpot vivo数据集达到89.8%准确率

文本理解能力

• 推理任务: Math-500(80.0)、BBH(80.6)显著优于同规模模型
• 代码生成: HumanEval(85.4)、LiveCodeBench-v1(43.0)表现稳定

技术架构优势

边缘部署优化

模型紧凑性

• 总参数量29亿，比Qwen2.5-VL-3B少22%
• 固定长度token表示简化内存分配
• 支持智能手机芯片高效执行

推理效率

• Token预算约束下表现优异（<8K tokens显著领先）
• 动态长度惩罚机制减少"过度思考"现象
• 并行tile处理降低ViT推理延迟

训练基础设施

高性能集群

• 数千GPU规模，4×200 Gb/s InfiniBand网络
• 99%有效训练时间，故障率从2%降至0.1%
• XuanYuan文件存储系统优化I/O性能

训练框架优化

• 上下文并行支持32K长序列训练，提升1.66倍效率
• 超大批次线性扩展，2048 GPU达到96.8%加速比
• 异步RL训练效率提升1.32倍

创新意义与影响

技术突破

1. 首创双模式切换: 在单一3B模型中实现thinking/non-thinking灵活切换
2. 参数效率新标杆: 用更少参数实现更强能力
3. 边缘部署可行性: 为移动设备、车载系统等边缘应用铺平道路

产业价值

1. 降低部署成本: 减少对云端依赖，降低延迟和能耗
2. 隐私保护增强: 本地处理敏感数据，提升安全性
3. 应用场景扩展: 支持离线环境和资源受限场景

研究贡献

1. 数据效率验证: 证明精心设计的训练策略可以显著提升小模型能力
2. 多模态推理范式: 为小规模多模态推理模型提供可行路径
3. 工程实践经验: 大规模训练基础设施的优化经验

未来发展方向

BlueLM-2.5-3B的成功为多模态AI在边缘设备的普及奠定了坚实基础。未来发展可能聚焦于：

1. 模态扩展: 整合文本、视觉、语音的统一小规模模型
2. 推理能力增强: 引入更多样化的推理数据提升泛化能力
3. 部署优化: 进一步优化移动端推理效率和能耗表现
4. 应用创新: 探索更多边缘AI应用场景和交互模式

BlueLM-2.5-3B代表了多模态AI发展的重要里程碑，展示了通过精心设计的架构、训练策略和工程优化，小规模模型同样可以在复杂任务上实现卓越性能，为AI技术的民主化和普及化开辟了新的可能性。