Visual Studio Code 的 AI 工具包
Visual Studio Code 的 AI 工具包是一个全面的扩展，赋能开发者和 AI 工程师利用生成式 AI 模型构建、测试和部署智能应用。无论你是在本地还是云端工作，AI Toolkit 都为整个 AI 应用生命周期提供了一个集成的开发环境。
AI Toolkit 与 OpenAI、Anthropic、Google 和 GitHub 等知名 AI 模型无缝集成，同时通过 ONNX 和 Ollama 支持本地模型。从模型发现与实验到提示工程和部署，AI Toolkit 简化了您在 VS Code 中的 AI 开发工作流程。
主要特征
| 特色 | 描述 | 截图 |
|---|---|---|
| 型号目录 | 你可以从多个来源发现并访问AI模型，包括GitHub、ONNX、Ollama、OpenAI、Anthropic和Google。并排比较型号，找到最适合你需求的方案。 |  |
| 游乐场 | 实时模型测试的互动聊天环境。尝试不同的提示词、参数和多模态输入，包括图片和附件。 |  |
| 特工建造者 | 简化提示工程和代理开发工作流程。创建复杂的提示词，集成MCP工具，生成带有结构化输出的生产代码。 |  |
| 散装跑 | 同时执行多个模型的批量提示测试。非常适合比较模型性能和大规模测试，配合各种输入场景。 |  |
| 模型评估 | 利用数据集和标准指标进行全面模型评估。使用内置评估器（F1分数、相关性、相似度、连贯性）来衡量绩效，或创建自定义评估标准。 |  |
| 微调 | 根据特定领域和需求定制和调整模型。支持GPU的本地模型训练，或利用Azure容器应用进行基于云的微调。 |  |
| 车型转换 | 转换为、量化并优化机器学习模型以实现本地部署。将Hugging Face及其他来源的模型转换到Windows上高效运行，支持CPU、GPU或NPU加速。 |  |
| 追踪 | 监控和分析你的AI应用的性能。收集并可视化跟踪数据，以洞察模型行为和性能。 |  |
| 配置文件（Windows ML） | 诊断进程的CPU、GPU、NPU资源使用情况、不同执行提供者的ONNX模型以及Windows机器学习事件。 |  |
AI Toolkit 适合谁？
AI 工具包面向所有使用生成式 AI 的人，从初学者到专家：
开发者
- 开发者开发需要集成语言模型的AI驱动应用
- 全栈开发者希望为网页和桌面应用添加智能功能
- 移动开发者在生产部署前对AI功能进行原型设计
人工智能工程师与数据科学家
- 人工智能工程师为特定领域微调模型并部署到生产环境
- 数据科学家评估模型性能并比较不同方法
- 机器学习工程师将模型转换和优化以实现高效的本地部署
研究人员与教育者
- 人工智能研究人员正在尝试不同的模型和提示工程技术
- 教育者教授人工智能概念并展示模型能力
- 学生学习生成式人工智能和动手模型交互
主要使用场景
- 探索并评估来自Anthropic、OpenAI和GitHub等供应商的模型
- 本地运行模型，使用 ONNX 和 Ollama 以实现隐私和成本控制
- 构建和测试带有提示生成和MCP工具集成的代理
- 将模型转换为并优化，以部署到不同硬件配置
安装与安装
快速安装
最快的开始方式是通过Visual Studio Marketplace安装该扩展：
成功安装后，AI工具包图标会出现在活动栏中。
手动安装
你也可以在Visual Studio Code Marketplace手动安装AI Toolkit扩展。请按照“安装扩展”中描述的步骤作。
或者，在活动栏中选择扩展图标。
-
搜索 Visual Studio Code 的 AI 工具包，并从搜索结果中选择安装。
安装后查看“最新内容”页面，查看每个版本的详细功能。
- 成功安装后，AI工具包图标会出现在活动栏中。
探索人工智能工具包
AI 工具包会在自己的视图中打开，AI 工具包图标现在显示在 VS Code 活动栏上。该扩展包含几个主要部分：我的资源、模型工具、代理与工作流工具、MCP 工作流程，以及帮助与反馈。
-
我的资源：本节包含您在 AI 工具包中可以使用的资源。“我的资源”部分是与你的Azure AI资源交互的主要视图。该章节包含以下子节：
- 模型：本节包含可用于构建和部署AI应用的模型。模型视图是你可以在 AI 工具包中找到已部署模型的地方。
- Agent：本节包含你在 AI 工具包中部署的代理。
- MCP服务器：本节包含你在AI Toolkit中使用的MCP服务器。
-
模型工具：本节包含可用于构建和部署AI应用的模型工具。模型工具视图是你可以找到可用工具的地方，然后对已部署的模型进行作。该章节包含以下子节：
- 模型目录：模型目录允许您从多个来源发现和访问 AI 模型，包括 GitHub、ONNX、Ollama、OpenAI、Anthropic 和 Google。并排比较型号，找到最适合你需求的型号。
- 模型游乐场：模型游乐场为生成式AI模型提供互动实验环境。测试各种提示，调整模型参数，比较不同模型的响应，并通过附加不同类型的输入文件探索多模态能力。
- 转换：模型转换工具帮助您在本地Windows平台上转换、量化、优化和评估预构建的机器学习模型。
- 微调：该工具允许你使用自定义数据集，在本地计算环境中（带 GPU 或云端 Azure 容器应用）运行微调作业。
-
代理和工作流程工具：本部分是您可以找到可用于部署的工具，然后在 AI Toolkit 中与已部署的代理协作。该章节包含以下子节：
- 代理构建器：轻松创建和部署代理。
- 批量运行：在批处理模式下针对多个测试用例测试代理和提示。
- 评估：通过将模型、提示和代理的输出与真实数据和计算评估指标进行比较。
- 追踪：追踪功能帮助您监控和分析AI应用的性能。
-
MCP工作流程：本节包含添加现有MCP服务器或创建新服务器的工具。该章节包含以下子节：
- 添加MCP服务器：添加和使用现有MCP服务器的链接。
- 创建新的MCP服务器：AI Toolkit中创建和部署新MCP服务器的链接。
-
帮助与反馈：本节包含Microsoft Foundry文档、反馈、支持及Microsoft隐私声明的链接。该章节包含以下子节：
- 文档：Microsoft Foundry Extension文档的链接。
- 资源：AI Toolkit教程画廊的链接，这是一个帮助你入门的教程合集。
- 入门指南：帮助你学习 AI 工具包基础的入门攻略链接。
- 新内容：AI Toolkit发布说明的链接。
- 在 GitHub 上报告问题：指向 Microsoft Foundry 扩展 GitHub 仓库问题页面的链接。
开始使用 AI 工具包
AI工具包有一个入门攻略，你可以用来学习AI工具包的基础知识。攻略带你穿越游乐场，你可以用聊天功能与AI模型互动。
-
在活动栏中选择AI工具包视图
-
在帮助与反馈部分，选择“开始使用”以打开攻略
下一步
- 获取更多关于在 AI 工具包中添加生成式 AI 模型的信息
- 利用模型游乐场与模型互动