本站点文档内容均翻译自code.visualstudio.com,仅供个人学习,如有差异请以官网为准。

在模型转换中设置模板项目

本文介绍了如何在模型转换中设置和自定义模板项目,引导您编辑sample.json、model_project.config等配置文件,以满足您的特定模型、数据集和工作流程需求。

创建模板项目后,您可以看到以下文件已被创建。要使模板项目正常工作,您可以根据需要按照项目中的readme更新参数。

模板项目文件

更新 sample.json

要使示例工作,您需要填写以下属性。例如:

  • MODEL_PATH: Intel/bert-base-uncased-mrpc
  • 模型任务:文本分类
  • DS_NAME: 粘合剂
  • DS_SUBSET: 机器翻译评估数据集 (MrPC)
  • DS_SPLIT: 验证
  • DATA_COLS: [ "句子1", "句子2" ]
  • FIXED_PARAMS: [ "batch_size", "sequence_length" ]
  • FIXED_VALUES: [ 1, 128 ]

您还可以调整其他参数以满足您的需求:

  • 执行提供者: [ "CPU执行提供者" ]: 对于其他提供商,如 QNNExecutionProvider。你需要在匹配的设备上运行它。
  • 最大长度:128/批次大小: 1对于静态量化,输入大小应保持固定。调整这些以匹配固定值
  • 最大样本数:100使用的样本数量。

更新 model_project.config(可选)

更新工作流程名字反映你想要执行的操作。因此,从工作流列表中选择会更方便。

更新 modelInfo 的显示名称模型链接选择你使用的那个。这样从模型列表中选择就会更容易。

更新 sample.custom.config(可选)

此文件用于渲染执行面板和重新评估面板。 您可以移除或添加参数以匹配您的sample.json路径更新可能需要如果更改了json属性名称。

更新 inference_sample.ipynb(可选)

编写自己的代码来加载和测试输出模型。此文件将被复制到历史文件夹中,以便您可以使用不同的ipynb来比较不同历史记录中的模型。