> “今天的云很好看，想拍给你看，却想到我们很久不联系了，突然觉得，云也没那么好看了”

今天的云很好看

原谅向日葵爱上月亮





原谅鳄鱼爱上圣女果

就是原谅爱

就是原谅彩虹色的诗意

就是原谅孱弱的心在暗夜下的燃烧

原谅她

原谅她们

这本是浪漫的出入口

却被这铁铸的世界

烙上反常的寓言

原谅向日葵爱上月亮

老奶奶对这棵树十分不舍，草木有心，人生岁月中，她与树互见彼此。





生命的轮回里，聚散有时，告别却无时不刻。

摘录

# 背景





背景：手机端需要调用深度学习模型的计算。

方案：python训练模型-->转到MNN框架模型-->放入C++调用（SDK）-->Java调用SDK（JNI）.

MNN Python API   [https://www.yuque.com/mnn/cn/usage_in_python#x8YNO](https://www.yuque.com/mnn/cn/usage_in_python#x8YNO)

# 系统环境

CentOS Linux release 7.9.2009 (Core)

Linux iZuf627r0ggzf84xn57fuvZ 3.10.0-1160.62.1.el7.x86_64

Tesla V100 32G CUDA11

Miniconda3

推荐Linux系统，不推荐Windows系统。

安装：
```shell
sudo yum install cmake3 protobuf -y
```

注意： CMake 3.0 or higher is required， 所以：

```shell
sudo ln -s /usr/bin/cmake3 /usr/bin/cmake
```

# MNN介绍

直接查看文档：[https://github.com/alibaba/MNN/blob/master/README_CN.md](https://github.com/alibaba/MNN/blob/master/README_CN.md)

![在这里插入图片描述](/static/img/images/04846.png)

![在这里插入图片描述](/static/img/images/04847.png)

![在这里插入图片描述](/static/img/images/04848.png)

工具

MNN-Converter：模型转换工具，由Frontends和Graph Optimize构成。前者负责支持不同的训练框架，MNN当前支持Tensorflow(Lite)、Caffe、ONNX(PyTorch/MXNet的模型可先转为ONNX模型再转到MNN)和Torchscripts；后者通过算子融合、算子替代、布局调整等方式优化图，一般离线运行。

MNN-Compress: 模型压缩工具，在一定的精度误差许可下，对MNN模型进行压缩，减少模型体积，提升运行性能。

MNN-Express ：支持带控制流的模型运行，支持调用 MNN 的算子进行自定义的计算。

MNN-CV ：类似 OpenCV ，但核心计算功能基于 MNN 实现的图像处理算法库

MNN-Train ：MNN 训练模块，支持各平台训练

# MNN环境

参考：https://www.yuque.com/mnn/cn/demo_project

下载MNN工程：

```shell
git clone https://github.com/alibaba/MNN.git
```

编译前的选择：

`vim CMakeLists.txt` 我看CMakeLists.txt里的都很有用，我都手动ON上了，以后学习过程中说不定就用了：

![在这里插入图片描述](/static/img/images/04849.png)

编译：

```shell
cd path/to/MNN
# 生成 schema ，可选
cd schema && ./generate.sh
# 进行编译
cd path/to/MNN # 注意回到根目录
mkdir build && cd build
cmake -DMNN_BUILD_DEMO=ON ..
make -j
```

在系统中构建这个MNN后，就能使用MNN提供的众多工具了。

# Python使用MNN

**Python 3.7 支持mnn** 

代码和介绍：[https://github.com/xxddccaa/MNN_Demos](https://github.com/xxddccaa/MNN_Demos)


# 模型转换

[https://www.yuque.com/mnn/cn/model_convert](https://www.yuque.com/mnn/cn/model_convert)

# 参考文章

[https://blog.csdn.net/wl1710582732/article/details/107731147](https://blog.csdn.net/wl1710582732/article/details/107731147)

【推理框架】MNN框架 C++、Python、Java使用例子 Demo

推理框架TensorRT MNN OpenVINO ONNXRuntime的一些信息总结：





![在这里插入图片描述](/static/img/images/04864.png)

手机端阿里MNN框架论文：[https://arxiv.org/abs/2002.12418](https://arxiv.org/abs/2002.12418)，论文介绍：

![在这里插入图片描述](/static/img/images/04865.png)