PicoDet MNN Demo

本Demo提供的预测代码是根据Alibaba's MNN framework 推理库预测的。

C++ Demo

第一步：根据MNN官方编译文档编译生成预测库.

第二步：编译或下载得到OpenCV库，可参考OpenCV官网，为了方便如果环境是gcc8.2 x86环境，可直接下载以下库：

wget https://paddledet.bj.bcebos.com/data/opencv-3.4.16_gcc8.2_ffmpeg.tar.gz
tar -xf opencv-3.4.16_gcc8.2_ffmpeg.tar.gz

第三步：准备模型

modelName=picodet_s_320_coco_lcnet
# 导出Inference model
python tools/export_model.py \
    -c configs/picodet/${modelName}.yml \
    -o weights=${modelName}.pdparams \
    --output_dir=inference_model
# 转换到ONNX
paddle2onnx --model_dir inference_model/${modelName} \
    --model_filename model.pdmodel  \
    --params_filename model.pdiparams \
    --opset_version 11 \
    --save_file ${modelName}.onnx
# 简化模型
python -m onnxsim ${modelName}.onnx ${modelName}_processed.onnx
# 将模型转换至MNN格式
python -m MNN.tools.mnnconvert -f ONNX --modelFile picodet_s_320_lcnet_processed.onnx --MNNModel picodet_s_320_lcnet.mnn

为了快速测试，可直接下载：picodet_s_320_lcnet.mnn（不带后处理）。

注意：由于MNN里，Matmul算子的输入shape如果不一致计算有问题，带后处理的Demo正在升级中，很快发布。

编译可执行程序

第一步：导入lib包

mkdir mnn && cd mnn && mkdir lib
cp /path/to/MNN/build/libMNN.so .
cd ..
cp -r /path/to/MNN/include .

第二步：修改CMakeLists.txt中OpenCV和MNN的路径
第三步：开始编译
```
mkdir build && cd build
cmake ..
make
```
如果在build目录下生成picodet-mnn可执行文件，就证明成功了。

开始运行

首先新建预测结果存放目录：
```
cp -r ../demo_onnxruntime/imgs .
cd build
mkdir ../results
```

预测一张图片

./picodet-mnn 0 ../picodet_s_320_lcnet_3.mnn 320 320 ../imgs/dog.jpg

-测试速度Benchmark

./picodet-mnn 1 ../picodet_s_320_lcnet.mnn 320 320

FAQ

预测结果精度不对：请先确认模型输入shape是否对齐，并且模型输出name是否对齐，不带后处理的PicoDet增强版模型输出name如下：
```
# 分类分支  |  检测分支
{"transpose_0.tmp_0", "transpose_1.tmp_0"},
{"transpose_2.tmp_0", "transpose_3.tmp_0"},
{"transpose_4.tmp_0", "transpose_5.tmp_0"},
{"transpose_6.tmp_0", "transpose_7.tmp_0"},
```
可使用netron查看具体name，并修改picodet_mnn.hpp中相应non_postprocess_heads_info数组。

Reference

MNN

README.md 2.9 KB Permalink History Raw

PicoDet MNN Demo

C++ Demo

编译可执行程序

开始运行

FAQ

Reference

README.md 2.9 KB

Permalink History Raw