简介

天嵌TQ3576核心板是一款集高性能、高算力、高性价比于一体的嵌入式平台，为需要强大处理能力和AI加速的应用场景设计，8核心处理器，主频高达2.2GHZ，性能强劲且能耗出色，6TOPS算力NPU，为AI模型部署、图像识别等应用提供强大算力支撑。

图1核心板

核心板基于瑞芯微RK3576处理器设计，小巧紧凑，采用板对板连接，既稳定可靠，又兼顾成本与灵活性。320个引脚全引出，实现丰富接口拓展，方便用户快速进行产品方案评估与技术预研。

图2同一核心板搭配两种不同底板

----------------------------------------------------------------------------------------------

TQ3576_Linux_AI使用手册

第一章 RKNN模型转换环境搭建（Ubuntu版）

anaconda 部署

Anaconda，中文大蟒蛇，是一个开源的Python发行版本，其包含了conda、Python等180多个科学包及其依赖项。其中，conda是一个开源的包、环境管理器，可以用于在同一个机器上安装不同版本的软件包及其依赖，并能够在不同的环境之间切换。

需要在ubuntu环境下进行模型转换和性能评估，依赖python环境，为了防止ubuntu下多个python版本造成混乱，需要在ubuntu下安装anaconda，进行不同终端的python环境管理。

安装

可以在清华源下载，直接下载最新版既可，根据自己的cpu架构选择下载安装脚本：

https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/?C=M&O=D

下载后赋予脚本执行权限：

sudo chmod 777  Anaconda3-2025.06-1-Linux-x86_64.sh

然后执行脚本：

bash ./Anaconda3-2025.06-1-Linux-x86_64.sh

然后按回车阅读许可：

阅读完了按q，会问你是否同意接受许可，输入yes并回车，同意：

然后会问你安装路径，默认会安装到用户目录下，也可以自己指定目录，如/opt/EmbedSky/anaconda3：

然后耐心等待相关依赖的下载和安装：

最后在输入yes并回车，他会自动部署环境变量：

安装完成：

然后重启ubuntu。

验证环境

再次打开终端，输入指令验证安装：

conda --version

证明环境是没问题的：

如果提示找不到“conda”命令，那证明环境变量部署失败，可以再次尝试手动部署：

执行安装目录下的conda命令，使其重新初始化部署环境变量：

/opt/EmbedSky/anaconda3/bin/conda init

如果提示modified /home/embedsky/.bashrc，说明已修改。

然后执行指令刷新当前终端的环境变量，并查看有没有报错：

source ~/.bashrc

如果提示/opt/EmbedSky/anaconda3/etc/profile.d/conda.sh无法执行，那就是权限问题，检查/opt/EmbedSky/anaconda3/etc/profile.d/目录下的脚本是否有执行权限，并给予咨询权限，再刷新终端环境变量既可。

注意：如果怕ubuntu的原本的python环境变量被覆盖，可以检查一下：

which python

如果显示的是/opt/EmbedSky/anaconda3/bin/python证明所有环境都被强行覆盖了，此时应该去~/.bashrc下注释如下代码（如下红色字体所示）：

# >>> conda initialize >>>
# !! Contents within this block are managed by 'conda init' !!
__conda_setup="$('/opt/EmbedSky/anaconda3/bin/conda' 'shell.bash' 'hook' 2> /dev/null)"
if [ $? -eq 0 ]; then
    eval "$__conda_setup"
else
    # if [ -f "/opt/EmbedSky/anaconda3/etc/profile.d/conda.sh" ]; then
        . "/opt/EmbedSky/anaconda3/etc/profile.d/conda.sh"
    # else
    #     export PATH="/opt/EmbedSky/anaconda3/bin:$PATH"
    # fi
fi
unset __conda_setup
# <<< conda initialize <<<

现在重启打开新终端会自动进入conda环境：

如果不想的的话，输入如下命令关闭：

conda config --set auto_activate_base false

换源

配置 anaconda 环境的下载源，因为官方的下载源是在国外会比较慢，所以建议将下载源改为国内的 anaconda 镜像源。

查看当前源：

conda config --show channels

默认只有一个defaults。

执行指令添加清华源：

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/
conda config --set show_channel_urls yes

查看已安装源：

conda config --show-sources

为了防止下载的版本比较旧，建议更新一下conda：

conda update conda

安装 rknn-toolkit2 转换环境（PC环境）

rknn-toolkit2能将训练好的模型（如传统的 TensorFlow、Pytorch、onnx 等格式的模型）转换为优化的rknn 格式，这些格式的模型能够充分利用 RK3568、RK3588 等设备的硬件特性，从而在保证模型性能的同时，降低了对计算资源的需求。

新建 conda 环境

前面已经安装好的anaconda，为了防止环境混乱，现在需要新建一个rknn-toolkit2专用的环境。名为python3.11-tk2-2.3，并且指定Python版本为3.11

conda create --name python3.11-tk2-2.3 python=3.11

耐心等待，直到提示Proceed，就输入y并回车：

然后等待各种包下载完成后，conda 环境就新建完成了：

需要进入该环境就输入：

conda activate python3.11-tk2-2.3

可以看到终端提示符前面多了个(python3.11-tk-2.3)，证明成功进入conda环境：

需要退出该环境就输入：

conda deactivate

安装 rknn-toolkit2 工具

首先，进入上一章节创建的conda环境：

conda activate python3.11-tk2-2.3

可以看到终端提示符前面多了个(python3.11-tk-2.3)，证明成功进入conda环境：

回到sdk的目录下，然后输入指令进入安装包目录下：

cd external/rknn-toolkit2/rknn-toolkit2/packages/x86_64

在安装 rknn-toolkit2 之前需要先安装相关依赖库，这里参数后面的-i https://pypi.tuna.tsinghua.edu.cn/simple/ 意思是指定源为 pip 镜像源为https://pypi.tuna.tsinghua.edu.cn/simple/，这是rk官方的推荐源：

pip3 install -r requirements_cp311-2.3.2.txt -i https://pypi.tuna.tsinghua.edu.cn/simple/

requirements_cp311-2.3.2.txt就是我们要下载的文件，请注意，cp311表示python3.11，后面的2.3.2，是要与上面章节rknpu2板级服务的版本一致的。

耐心等待安装完成既可：

然后安装 rknn-toolkit2 工具，在这个x86_64目录下已经下载好了一个名为rknn_toolkit2-2.3.2-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl的文件，安装这个文件：

pip3 install rknn_toolkit2-2.3.2-cp311-cp311-manylinux_2_17_x86_64.manylinux2014_x86_64.whl

安装完成后会有如下提示：

最后安装torchvision 0.19.0 和 torchaudio 2.4.0 两个 PyTorch 相关库：

pip3 install torchvision==0.19.0 torchaudio==2.4.0 --index-url https://pypi.tuna.tsinghua.edu.cn/simple/

安装完成后会有如下提示：

更换onnx

由于rk对onnx和onnxruntime没有限制最高版本，导致网上下载的较新版本rk不是特别兼容，所以需要降级安装onnx。

首先卸载rk自动安装的onnx和onnxruntime：

pip3 uninstall onnx onnxruntime -y

安装指定版本的onnx和onnxruntime：

pip3 install onnx==1.17.0 onnxruntime==1.19.2 -i https://pypi.tuna.tsinghua.edu.cn/simple

测试 rknn-toolkit2

回到sdk目录下，打开external/rknn-toolkit2/rknn-toolkit2/examples/pytorch/resnet18目录：

cd external/rknn-toolkit2/rknn-toolkit2/examples/pytorch/resnet18

然后执行test.py，测试onnx和PyTorch：

python3 test.py

出现这个TOP5，证明环境没问题：