手动设置模型转换环境
本文介绍了如何手动设置Python环境以跨不同硬件目标进行模型转换,包括CPU、QNN、AMD NPU和Intel NPU。
我们建议将环境安装在Python虚拟环境或Conda环境中。
注意:如果你想在带有QNN EP的NPU设备上进行推理,我们建议使用Python虚拟环境。原因是某些模型的推理可能需要ARM版本的Python,而Conda目前还不支持创建ARM版本的Python虚拟环境。
- CPU:设置CPU环境
- QNN:设置QNN环境
- AMD NPU:搭建 AMD NPU 环境
- Intel NPU:搭建Intel NPU环境
CPU环境的设置
提示:你可以直接搭建NPU环境,比如Setup QNN环境。在模型上运行推理时,它会退回到CPU的EP。
或者,你也可以选择搭建CPU环境。
Python 版本:3.12.9
pip install requirements-CPU.txt
QNN 环境的搭建
Python 版本:3.12.9
pip install requirements-QNN.txt
设置AMD NPU环境
Python 版本:3.10.9
pip install requirements-AMDNPU.txt
搭建英特尔NPU环境
Python 版本:3.10.9
pip install requirements-IntelNPU.txt
目标项目的安装要求
导航到模型项目文件夹。
pip install requirements.txt