English | 简体中文
PaddleDetection RKNPU2 C++部署示例
本目录下用于展示PaddleDetection系列模型在RKNPU2上的部署，以下的部署过程以PPYOLOE为例子。
1. 部署环境准备
在部署前，需确认以下两个步骤:
- 软硬件环境满足要求
- 根据开发环境，下载预编译部署库或者从头编译FastDeploy仓库
以上步骤请参考RK2代NPU部署库编译实现
2. 部署模型准备
模型转换代码请参考模型转换文档
3. 运行部署示例
# 下载部署示例代码
git clone https://github.com/PaddlePaddle/PaddleDetection.git
cd PaddleDetection/deploy/fastdeploy/rockchip/rknpu2/cpp
# 注意：如果当前分支找不到下面的fastdeploy测试代码，请切换到develop分支
# git checkout develop
# 编译部署示例
mkdir build && cd build
cmake .. -DFASTDEPLOY_INSTALL_DIR=${PWD}/fastdeploy-linux-x64-x.x.x
make -j8
wget https://bj.bcebos.com/paddlehub/fastdeploy/rknpu2/ppyoloe_plus_crn_s_80e_coco.zip
unzip ppyoloe_plus_crn_s_80e_coco.zip
wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
# 运行部署示例
# CPU推理
./infer_demo ./ppyoloe_plus_crn_s_80e_coco 000000014439.jpg 0
# RKNPU2推理
./infer_demo ./ppyoloe_plus_crn_s_80e_coco 000000014439.jpg 1
4. 更多指南
RKNPU上对模型的输入要求是使用NHWC格式，且图片归一化操作会在转RKNN模型时，内嵌到模型中，因此我们在使用FastDeploy部署时，需要先调用DisableNormalizeAndPermute(C++)或`disable_normalize_and_permute(Python)，在预处理阶段禁用归一化以及数据格式的转换。