编辑
2025-03-06
Linux运维
00

https://gist.github.com/padeoe/697678ab8e528b85a2a7bddafea1fa4f#file-hfd-sh

写入一个hfd.sh文件,文件内容如下。并修改为可以执行chmod a+x hfd.sh

编辑
2025-03-06
深度学习
00

有趣的资料:https://huggingface.co/arcee-ai

Paper:https://arxiv.org/abs/2403.13257

使用mergekit合并大型语言模型

在人工智能领域,模型合并是一种将多个大型语言模型(LLM)整合为单一模型的技术。这种方法不仅成本低廉(无需GPU),还能生成性能卓越的模型。本文将介绍如何使用mergekit库来实现模型合并,并详细讲解四种常用的合并方法:SLERP、TIES、DARE和Passthrough。最后,我们将通过实际操作创建一个名为Marcoro14-7B-slerp的模型,并将其上传至Hugging Face Hub。

编辑
2025-03-05
深度学习
00

之前在这个博客介绍了一些:litellm Proxy 的安装与配置

确实好用,简单易用。

编辑
2025-03-04
深度学习
00

https://modelscope.cn/models/ZhipuAI/CogView4-6B

docker run -it --gpus '"device=1,2,3,4,5,6,7"' --shm-size=64g -v /data/xiedong:/data/xiedong --net host kevinchina/deeplearning:2.5.1-cuda12.4-cudnn9-devel-vlmr1 bash cd /data/xiedong pip install git+https://github.com/huggingface/diffusers.git
编辑
2025-03-04
单片机
00

各种Broker的比较

EMQX

EMQX 是业界领先的 MQTT Broker,深受开发者喜爱,目前在 GitHub 上已获得超过 12k 个 Star。EMQX 项目始于 2012 年,遵循 Apache 2.0 开源协议。它基于 Erlang/OTP 开发,这是一种能够构建大规模可扩展软实时系统的编程语言。

EMQX 是全球最具扩展性的 MQTT Broker,支持 MQTT 5.0、MQTT-SN 和 MQTT over QUIC 等协议和其他先进功能。它采用无主集群架构,实现了高可用性和水平扩展性。自 5.0 版本开始,EMQX 能够在一个由 23 个节点组成的集群中创建高达 1 亿个并发 MQTT 连接。