在模型转换中建立一个模板项目

本文介绍了如何在模型转换中设置和自定义模板项目,指导你编辑配置文件如sample.json、model_project.config等,以满足您的具体模型、数据集和工作流程需求。

创建模板项目后,你可以看到创建了以下文件。为了让模板项目正常工作,你可以按照项目说明书根据需求更新参数。

模板项目文件

更新sample.json

为了让样本成立,你需要填写以下属性。例如:

  • MODEL_PATH:Intel/bert-base-uncased-mrpc
  • MODEL_TASK:文本分类
  • DS_NAME:胶水
  • DS_SUBSET:MRPC
  • DS_SPLIT:验证
  • DATA_COLS: [“句1”, “句2” ]
  • FIXED_PARAMS:“batch_size,”sequence_length“ ]
  • FIXED_VALUES:[1,128]

你也可以根据需要调整其他参数:

  • execution_providers: [ “CPUExecutionProvider” ]: 给其他供应商,比如QNNExecutionProvider。你需要在匹配的设备上运行它
  • max_length:128 / batch_size:1对于静态量化,输入大小应固定。调整这些大小以匹配FIXED_VALUES
  • max_samples:100:所用样本数量。

更新 model_project.config(可选)

更新工作流程名称反映你想做的事情。这样从工作流程列表中选择会更容易。

更新型号Info's显示名称以及modelLink(模型链接)就是你用的那个。这样从模型列表里挑选会更容易。

更新 sample.custom.config(可选)

该文件用于渲染执行面板和重新评估面板。你可以移除或添加参数来匹配你的sample.json. 如果你更改了json属性名称,可能需要路径更新。

更新 inference_sample.ipynb(可选)

写你自己的代码来加载并测试输出模型。这个文件会被复制到历史文件夹,这样你可以用不同的ipynb来比较不同历史中的模型。