系列文章目录

RK3566 RK3568 RK3588 使用RKNN NPU进行推理
系列（一），开发环境的搭建

RK3566 RK3568 RK3588 使用RKNN NPU进行推理
系列（二），板端推理，板上部署

RK3566 RK3568 RK3588 使用RKNN NPU进行推理
系列（三），训练自己的数据集并转成rknn

RK3566 RK3568 RK3588 使用RKNN NPU进行推理
系列（四），RKNN 推理速度和效率

RK3566 RK3568 RK3588 使用RKNN NPU进行推理
系列（五），RKNN NPU推理速度和CPU 、内存、NPU使用情况

前言

所述环境搭建安装方法和内容适用于RK RK3566 、RK3568、RK3588 SOC，亲自在板端跑通。

一：部分工具请自行安装
1.1 本次采用Win11+Ubuntu20虚拟机进行rknn开发环境的搭建，Ubuntu20请自行安装，遇到问题请问AI或百度搜索，安装好Ubuntu20系统后，需要根据RK文档安装如下环境。
1.2 安装Miniforge管理Python环境。

分三步
1.先下载。
2.修改权限。
3.安装 。
对应3条指令。
wget -c https://github.com/conda-forge/miniforge/releases/latest/download/Miniforge3-Linux-x86_64.sh
chmod 777 Miniforge3-Linux-x86_64.sh
bash Miniforge3-Linux-x86_64.sh

我安装完成后输入conda -V查看conda版本25.3.1，说明安装成功

二．创建rknn环境，安装必要的软件工具包
2.1.Conda info -e 查看现有的虚拟环境，如果刚安装会有一个默认的base，前面有”*”符号为当前激活的环境。

2.2.安装对应的python环境，我们这里安装3.9版本 apt list --installed | grep python

2.3 创建环境命令conda create -n rknn python=3.9，在终端输入这条指令即可创建一个rknn的环境，也可以换成rknn rk3568等便于记住的项目名称，创建完成后需激活，激活指令conda activate rknn。

2.4下载rknn所需要支持的环境工具，
我这里在git上直接下载RK 最新的版本，RKNN-Toolkit2，RKNN-Toolkit v2.3.2

下载后安装对应版本，我们的python所以我们这里选择3.9的版进行安装

安装 RKNN-Toolkit2

请根据不同的 python 版本及处理器架构，选择不同的 wheel 安装包文件：

其中 x.x.x 是 RKNN-Toolkit2 版本号，cpxx 是 python 版本号

pip install packages/x86_64/rknn_toolkit2-2.3.2-cp39-cp39-manylinux_2_17_x86_64.manylinux2014_x86_64.whl

安装完成输入$ python3 
>>> from rknn.api import RKNN

如果能显示 from rknn.api import RKNN 说明rknn环境搭建成功

三：在搭建好的环境上进行虚拟推理

进入#cd rknn-toolkit2-master/rknn-toolkit2/examples/onnx/yolov5
python ./test.py
test.py为rknn 写好的demo，这里我用pytorch训练自己的数据集生成的onnx进行测试，
如下是推理前后log截图，最后导出推理结果
并画框 ，显示log 即是推理后反馈的结果Save results to result.jpg!