手动设置模型转换环境

本文介绍了如何手动设置Python环境以跨不同硬件目标进行模型转换,包括CPU、QNN、AMD NPU和Intel NPU。

我们建议将环境安装在Python虚拟环境Conda环境中

注意:如果你想在带有QNN EP的NPU设备上进行推理,我们建议使用Python虚拟环境。原因是某些模型的推理可能需要ARM版本的Python,而Conda目前还不支持创建ARM版本的Python虚拟环境。

CPU环境的设置

提示:你可以直接搭建NPU环境,比如Setup QNN环境。在模型上运行推理时,它会退回到CPU的EP。

或者,你也可以选择搭建CPU环境。

Python 版本:3.12.9

pip install requirements-CPU.txt

QNN 环境的搭建

Python 版本:3.12.9

pip install requirements-QNN.txt

设置AMD NPU环境

Python 版本:3.10.9

pip install requirements-AMDNPU.txt

搭建英特尔NPU环境

Python 版本:3.10.9

pip install requirements-IntelNPU.txt

目标项目的安装要求

导航到模型项目文件夹

pip install requirements.txt