AI 工具包中的模型游乐场

AI 工具包游乐场提供了一个互动环境，供玩家尝试生成式 AI 模型。你可以测试各种提示词，调整模型参数，比较不同模型的响应，并通过附加不同类型的输入文件探索多模态能力。

在场上测试模型

进入游乐场：

• 在 AI 工具包视图中，选择 Playground >工具
• 在模型目录中的模型卡中选择“在 Playground 试用”
• 双击MY Models中的模型，在游乐场中打开它

要在场测试模型，请按照以下步骤作：

1. 在模型偏好设置中，从下拉列表中选择一个模型。
2. 可选地添加系统提示词来指导模型响应。
3. 可选地，配置所选模型可用的参数。
4. 在聊天输入框中输入聊天提示

Playground 中的本地模型执行

AI Toolkit 支持在游乐场运行本地模型。你可以在模型偏好设置面板的模型下拉列表中选择本地模型。

GitHub 按用付费模型支持

AI Toolkit 现在支持GitHub的按用付费模式，因此你在通过免费套餐限制后仍可继续工作。

• 当你达到GitHub的模型使用限制时，AI Toolkit会显示警告，并附带指向GitHub付费使用文档的链接。

  

• 在GitHub设置中开启模型计费（需要登录你的GitHub账户）。

• 启用计费后，继续在Playground或Agent Builder中使用该模型，不更改工作流程。

模型偏好

模型偏好设置面板允许您选择用于游乐场交互的模型，设置系统提示以指导模型行为，并配置所选模型的模型参数。

选择模型

模型偏好设置面板的下拉列表显示你添加到 AI 工具包中的模型。你可以选择“浏览模型”以打开模型目录并添加更多模型。

系统提示

系统提示是一个预定义的指令，用于指导模型的行为和响应风格。你可以在输入文本区域添加、编辑或删除系统提示，以影响模型生成响应的方式。

配置推理参数

可用的参数取决于模型类型和发布者。常见参数包括：

• 温度：控制模型输出的随机性。值越低，输出越确定。更高的数值会带来更多的变异性。
• 顶P：通过限制所选代币的累计概率来控制输出的多样性。较低的数值会带来更集中的反应。更高的数值允许输出更多样化。
• 最大响应长度（令牌数）：设定模型响应中最大令牌数。这限制了生成文本的长度。
• 频率惩罚：减少模型在响应中重复相同符号的可能性。更高的数值会抑制重复。
• 存在惩罚：鼓励模型在回答中引入新的主题或概念。更高的数值促进生成文本的多样性。

显示资源使用情况

对于本地模型，还有一个额外的选项“显示资源使用情况”。启用后，每次响应都会显示资源使用情况。

聊天提示

聊天提示词是你提供给模特的输入文本。你可以输入问题、陈述或任何你希望模型回应的文本。模型根据提供的提示词以及配置的系统提示和参数生成响应。

聊天提示输入框中的可用功能：

• 发送：将聊天提示提交给模型进行处理。
• 清除：清除聊天提示输入框。
• 文件附件：将文件附加到多模态模型的聊天提示下。
• 图片附件：在多模态模型的聊天提示中附加图片。
• 网络搜索：进行网络搜索以查找与聊天提示相关的信息。
• 模式切换：在不同模式间切换，使用AI功能。

切换模式

你可以在聊天提示输入框中切换不同模式：

• 使用模型中原生支持的AI特性：此模式允许您使用所选模型的原生功能，如网页搜索或文件附件。
• 使用所有 AI 功能：该模式允许你使用 AI 工具包实现的 AI 功能，如文件附件，无论模型本身具备何种能力。

如果所选模型或 AI 工具包不支持某项能力，聊天提示输入框上方会出现警告。警告建议你切换到支持该功能的型号。

模型响应

模特回答会显示在聊天提示输入框上方。在输入聊天提示之前，游乐场会显示一个欢迎界面，包含三个入门提示，帮助你开始游乐场。

模型响应区域可用的功能：

• 复制回复：将模特的回复文本复制到剪贴板上。
• 重生成回应：基于同一提示重新生成模型的回应，或用其他模型重新生成回应。
• 复制代码：将生成的代码复制到回复剪贴板中，或插入新文件中。
• 渲染：Playground 支持模型响应中代码片段、图片、标记、LaTex 及其他内容的渲染。
• 代币数量：显示模型响应中使用的代币数量。这有助于你了解模型的成本和性能。

资源使用

当本地模型启用“显示资源使用”功能时，每个响应都会显示使用情况的摘要。你也可以选择使用详情，切换到画像详情。

工具栏

游乐场的工具栏提供快速访问各种作和功能：

• 新游乐场：创建一个新的游乐场会话。
• 历史记录：查看、重命名、删除并切换到聊天历史。
• 自动命名：聊天会话名称根据用户提示自动生成。
• 比较：将不同模型的反应并排比较。
• 查看代码：查看LLM集成生成的聊天提示代码。

比较模型响应

比较功能允许你并排比较不同模型的回答。这对于评估不同模型在同一提示词上的表现非常有用。

比较模型反应：

1. 在工具栏中选择“比较”按钮。
2. 从下拉列表中选择你想比较的型号。
3. 在输入框中输入相同的聊天提示。你的提示会被复制到其他输入框。
4. 选择发送，向所有选定的模型提交提示。
5. 各模型的回答并排显示，便于比较。

对于你比较的每个型号，你可以：

• 把回复内容复制到写字板上。
• 配置所选模型的参数。
• 继续与选定的模特聊天。

你学到了什么

在本文中，你学到了：

• 利用 AI 工具包的游乐场与生成式 AI 模型互动。
• 在游乐场测试模型，配置系统提示和参数，并通过附加文件探索多模态能力。
• 使用比较功能评估不同模型在同一提示下的性能，并并排查看回复。
• 使用聊天提示输入框发送提示、附加文件或图片、进行网页搜索，以及切换AI功能的模式。
• 查看模型响应，复制或重生成响应，并渲染代码片段、图片、降价和 LaTeX。
• 跟踪模型响应中的令牌数量，以了解成本和性能。
• 使用模型偏好设置面板选择模型、设置系统提示和调整推理参数。
• 使用工具栏创建新的游乐场会话，查看和管理聊天记录，自动命名会话，比较模型，并查看生成代码。
• 管理聊天记录，包括查看、重命名、删除和会话切换。