https://gist.github.com/padeoe/697678ab8e528b85a2a7bddafea1fa4f#file-hfd-sh

写入一个hfd.sh文件，文件内容如下。并修改为可以执行chmod a+x hfd.sh

有趣的资料：https://huggingface.co/arcee-ai

Paper：https://arxiv.org/abs/2403.13257

使用mergekit合并大型语言模型

在人工智能领域，模型合并是一种将多个大型语言模型（LLM）整合为单一模型的技术。这种方法不仅成本低廉（无需GPU），还能生成性能卓越的模型。本文将介绍如何使用mergekit库来实现模型合并，并详细讲解四种常用的合并方法：SLERP、TIES、DARE和Passthrough。最后，我们将通过实际操作创建一个名为Marcoro14-7B-slerp的模型，并将其上传至Hugging Face Hub。

之前在这个博客介绍了一些：litellm Proxy 的安装与配置

确实好用，简单易用。

https://modelscope.cn/models/ZhipuAI/CogView4-6B

展开代码
docker run -it --gpus '"device=1,2,3,4,5,6,7"' --shm-size=64g -v /data/xiedong:/data/xiedong --net host kevinchina/deeplearning:2.5.1-cuda12.4-cudnn9-devel-vlmr1 bash

cd /data/xiedong

pip install git+https://github.com/huggingface/diffusers.git

各种Broker的比较

EMQX

EMQX 是业界领先的 MQTT Broker，深受开发者喜爱，目前在 GitHub 上已获得超过 12k 个 Star。EMQX 项目始于 2012 年，遵循 Apache 2.0 开源协议。它基于 Erlang/OTP 开发，这是一种能够构建大规模可扩展软实时系统的编程语言。

EMQX 是全球最具扩展性的 MQTT Broker，支持 MQTT 5.0、MQTT-SN 和 MQTT over QUIC 等协议和其他先进功能。它采用无主集群架构，实现了高可用性和水平扩展性。自 5.0 版本开始，EMQX 能够在一个由 23 个节点组成的集群中创建高达 1 亿个并发 MQTT 连接。

一次性执行所有执行：

bash
展开代码
#!/bin/bash

# 更新系统软件包
sudo dnf update -y

# 安装必要的依赖包
sudo dnf install -y yum-utils device-mapper-persistent-data lvm2

# 添加 Docker 的官方仓库
sudo yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

# 安装 Docker 引擎
sudo dnf install -y docker-ce docker-ce-cli containerd.io

# 启动并启用 Docker 服务
sudo systemctl start docker
sudo systemctl enable docker

# 验证 Docker 安装
sudo docker run hello-world

# 下载 Docker Compose 二进制文件
sudo curl -L "https://github.com/docker/compose/releases/download/$(curl -s https://api.github.com/repos/docker/compose/releases/latest | grep -Po '"tag_name": "\K.*?(?=")')/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

# 为 Docker Compose 二进制文件添加执行权限
sudo chmod +x /usr/local/bin/docker-compose

# 创建符号链接（可选）
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose

# 验证 Docker Compose 安装
docker-compose --version

echo "Docker 和 Docker Compose 安装完成"

VLM-R1 是deepseek R1 的GRPO训练方式在VLM中的实现。项目地址：https://github.com/om-ai-lab/VLM-R1

基础环境

构建docker环境：

bash
展开代码
# docker pull pytorch/pytorch:2.6.0-cuda12.4-cudnn9-devel

docker pull pytorch/pytorch:2.5.1-cuda12.4-cudnn9-devel

# docker run -it --gpus all pytorch/pytorch:2.6.0-cuda12.4-cudnn9-devel bash 

docker run -it --gpus all pytorch/pytorch:2.5.1-cuda12.4-cudnn9-devel bash 

apt update

apt install vim git -y

git clone https://github.com/om-ai-lab/VLM-R1.git

cd VLM-R1/

bash setup.sh

pip install transformers==4.49.0

此docker环境已经被我上传为 kevinchina/deeplearning:2.5.1-cuda12.4-cudnn9-devel-vlmr1

使用此镜像：

展开代码
docker run -it --gpus '"device=0,1,2,3,4,5,6,7"' --shm-size=64g -v /data/xiedong:/data/xiedong --net host kevinchina/deeplearning:2.5.1-cuda12.4-cudnn9-devel-vlmr1 bash

大夏龙雀科技4G Cat1 CT511-AT0 MQTT联网实战教程

本文将详细介绍如何搭建自己的MQTT Broker，并使用大夏龙雀科技4G Cat1 CT511-AT0模块进行MQTT联网实战。通过本教程，您将学会如何配置模块、连接MQTT服务器、订阅和发布消息等操作。

使用Docker快速搭建Mosquitto MQTT代理服务器（支持SSL加密）

本教程将指导您通过Docker容器快速部署支持WebSocket和SSL加密的Mosquitto MQTT代理服务器，适用于物联网项目、智能家居等场景。

最近 VanBlog 后台缓慢进不去，我都差点转别的博客框架了，没想到万能群友有方案，真是万分感谢！