部分云服务提供商的 MQTT Broker 提供免费额度或免费试用，适合小型项目或个人开发者使用。以下是几个提供免费 MQTT Broker 的云服务：
参考：
- github仓库：https://github.com/stepfun-ai/Step-Video-T2V
- Step-Vedio-T2V模型下载：https://huggingface.co/stepfun-ai/stepvideo-t2v
- Step-Vedio-T2V-Turbo模型：https://huggingface.co/stepfun-ai/stepvideo-t2v-turbo
免费Copilot替代方案：CodeGPT——如何调用自定义大模型API进行代码补全
痛点与解决方案
作为开发者，你是否因Copilot的高昂费用而犹豫？别担心，今天为大家推荐一款完全免费的替代方案——CodeGPT！它不仅支持代码智能补全，更可自定义接入私有化大模型API，实现个性化开发体验。本文手把手教你如何配置CodeGPT插件，打造专属AI编程助手。
deepseekv3对Qwen-2.5-14B进行蒸馏，模型如下：
https://huggingface.co/arcee-ai/Virtuoso-Small-v2
sglang运行指令：
bash展开代码docker run --gpus '"device=5"' \
--shm-size 32g \
-d -p 7890:7890 \
-v ~/.cache/huggingface:/root/.cache/huggingface \
--env "HF_TOKEN=<secret>" \
--ipc=host \
-v /data/xiedong/Virtuoso-Small-v2:/data/xiedong/Qwen2.5-32B-Instruct-GPTQ-Int4 \
lmsysorg/sglang:latest \
python3 -m sglang.launch_server --model-path /data/xiedong/Qwen2.5-32B-Instruct-GPTQ-Int4 --host 0.0.0.0 --port 7890 --tp 1 --api-key "ns34xx.."
sglang运行速度：42.27 T/s
传统专家混合模型（Mixture-of-Experts, MoE）在 Transformer 中的实现
在标准 Transformer 模型中，每一层包含一个自注意力模块（Self-Attention）和一个前馈神经网络（FFN）。MoE 的核心思想是用多个专家（Expert）替代 FFN，每个专家本身也是一个 FFN，但通过动态路由机制（门控网络）选择对每个输入 token 最相关的少数专家进行计算。这种设计可以在不显著增加计算量的情况下，大幅提升模型容量。
一、DeepSeek LLM
DeepSeek LLM: Scaling Open-Source Language Models with Longtermism
https://arxiv.org/abs/2401.02954
2024 年 1 月发布。使用 GQA 优化推理成本；采用多步学习速率调度器替代余弦调度器；运用 HAI-LLM 训练框架优化训练基础设施；提出新的缩放分配策略。使用 2 万亿字符双语数据集预训练，67B 模型性能超越 LLaMA-2 70B，Chat 版本优于 GPT-3.5。
https://arxiv.org/abs/2410.13863
摘要
论文研究了文本生成图像背景下的缩放问题，主要关注两个关键因素：模型使用离散还是连续的标记，以及标记是以随机顺序还是固定光栅顺序生成，使用的是类似于BERT还是GPT的转换器架构。
基于连续标记的模型相比于使用离散标记的模型，在视觉质量上显著更佳。
此外，生成顺序和注意力机制显著影响GenEval分数：随机顺序模型相比于光栅顺序模型获得了显著更好的GenEval分数。
受这些发现的启发，我们训练了Fluid，一个基于连续标记的随机顺序自回归模型。
Fluid 10.5B模型在MS-COCO 30K数据集上实现了新的零样本FID的最先进成绩6.16，并在GenEval基准测试中获得了0.69的总分。
我们希望我们的发现和结果能够鼓励未来的研究工作进一步弥合视觉和语言模型之间的扩展差距。
Git代理设置与取消指南
作为开发者，我们常遇到企业内网或特殊网络环境下无法直接访问Git仓库的情况。本教程将详细介绍如何为Git设置代理（Proxy）以及如何取消代理配置，并提供常见问题排查方法。
