admin管理员组

文章数量:1567026

2024年5月6日发(作者:)

RKNN-Toolkit使用指南

c

k

r

i

T

o

y

b

c

o

n

f

i

V1.1.0

d

e

n

t

i

a

1

2

3

主要功能说明 ............................................................................................................................................. 1

系统依赖说明 ............................................................................................................................................. 2

使用说明 ..................................................................................................................................................... 3

3.1

安装 .................................................................................................................................................... 3

3.1.1

3.1.2

3.2

通过

pip install

命令安装

.......................................................................................................... 3

通过

DOCKER

镜像安装

.......................................................................................................... 4

3.2.1

3.2.2

3.2.3

3.3

场景一:模型运行在

PC

..................................................................................................... 5

场景二:模型运行在与

PC

相连的

RK3399Pro

RK1808

RK1808

计算棒上

................. 8

混合量化 ............................................................................................................................................ 9

y

b

T

o

r

i

3.3.1

3.3.2

3.3.3

3.4

3.5

示例 .................................................................................................................................................. 12

API详细说明 ................................................................................................................................... 15

RKNN

初始化及对象释放

....................................................................................................... 15

3.5.1

3.5.2

3.5.3

3.5.4

3.5.5

3.5.6

3.5.7

3.5.8

c

k

场景三:模型运行在

RK3399Pro Linux

开发板上

.................................................................. 9

混合量化功能用法

.................................................................................................................... 9

混合量化配置文件

.................................................................................................................. 10

混合量化使用流程

................................................................................................................... 11

模型加载

.................................................................................................................................. 16

RKNN

模型配置

....................................................................................................................... 19

构建

RKNN

模型

...................................................................................................................... 20

导出

RKNN

模型

...................................................................................................................... 21

加载

RKNN

模型

...................................................................................................................... 22

初始化运行时环境

.................................................................................................................. 22

使用模型对输入进行推理

...................................................................................................... 23

c

o

2

RKNN-T

OOLKIT

的使用 ..................................................................................................................... 5

n

f

i

d

e

n

t

i

目 录

a

本文标签: 模型量化混合运行安装