在 Vertex AI Studio 中创建 Gemini 问题


使用 Vertex AI Studio 来设计、测试和自定义发送至 Google 的 GeminiPaLM 2 大语言模型 (LLM) 的提示。您可以在 Vertex AI 和用于生成回答的 Vertex AI API 代码中查看 Gemini API。

借助 Vertex AI Studio,您可以完成以下操作:

  • 使用提供的问题示例测试模型
  • 设计和管理问题
  • 按模型比较问题输出
  • 根据选定的质量指标评估问题
  • 调优模型以获取量身定制的回答
  • 将模型输出连接到 Vertex AI Search 或 Google 搜索
  • 获取 Vertex AI API 代码以实现您的工作

创建一个 Google Cloud 账号以开始使用

如需试用本快速入门,您需要创建一个 Google Cloud 账号。 使用此账号,您将获得 $300 的赠金,外加 20 多种产品的免费用量(不会从 $300 赠金中扣款)。

免费开始使用

如需详细了解如何在创建账号后在 Google Cloud 上进行设置,请参阅在 Google Cloud 上进行设置

  1. 转到 Google Cloud 控制台的 Vertex AI 部分中的 Generative AI Studio 页面。
    Vertex AI Studio
  2. 点击“语言模型”选项上的打开
  3. 在 Language Studio 中,前往问题库的“摘要”部分,然后在 Transcript Summary 问题示例上选择打开。问题、模型和参数都会使用示例问题中的值进行预填充。
  4. 点击提交以获取默认 Gemini 模型的回答。滚动可查看所有结果。
  5. 如需查看不同的结果,请在模型下拉列表中更改模型,并调整参数。
  6. 点击获取代码以查看生成转写摘要所需的 Vertex AI API 代码。

设计并测试提示

您可以针对与您的业务用例相关的任务创建及测试自己的提示(输入),并生成响应。通过添加输入和输出,LLM 能够根据响应示例在上下文中学习。

您可以创建一个提供准确指令的提示,并要求 LLM 为您完成一个句子或回答一次性问题。

  1. 转到 Google Cloud 控制台的 Vertex AI 部分中的 Generative AI Studio 页面。
    Vertex AI Studio
  2. 点击“语言模型”选项上的打开
  3. 点击 Generate text 选项中的文本问题。此时会打开一个未命名的提示。
  4. 在提示框中,添加您希望模型执行的任务的简明扼要的说明。
  5. 例如,要求 Gemini 模型 Suggest a name for a flower shop that sells bouquets of dried flowers
  6. 点击提交
  7. 响应会显示在响应框中。如果要查看不同的结果,请调整问题、模型或参数,然后点击提交
  8. 点击获取代码以查看生成类似回答所需的 Vertex AI API 代码。

Vertex AI Studio 问题类别

在 Vertex AI Studio 中,您可以测试和自定义不同生成式 AI 模型的问题。

提示示例在 Vertex AI Studio 的多模态语言部分提供,并包含各种示例提示,这些提示经过预先设计,用于帮助演示模型功能。示例提示按任务类型分类,例如汇总、分类和提取。每个提示都预配置了指定的模型和参数值,因此您只需打开示例提示,然后点击提交即可让模型生成回答。

设计和管理问题

提示设计是指手动创建提示,以从语言模型中引出所需回答的过程。通过精心设计提示,您可以智能地调整模型,以生成适合使用场景的良好结果。问题设计可能是试验模型输出的有效方式。

借助 Vertex AI Studio,您的团队可以创建、保存并协作优化问题。在设计新问题时,您可以输入问题文本、选择理想的模型、调整参数,并进行测试以获取即时反馈。提示最终确定后,您可以将其保存在 Vertex AI Studio 的共享项目中。

如需开始设计问题,请参阅问题设计简介

按模型比较问题输出

在 Vertex AI Studio 中,您可以比较问题结果,以了解哪种模型和设置配对最适合您的用例。

语言标签页中,查看问题,然后选择要比较的问题旁边的比较。您最多可以并排比较三个问题。

问题生命周期管理

如果您有许多问题,则必须设置一个集中位置进行管理。在多模态语言页面中,您可以在我的问题标签页下按类型查看所有问题。在这些页面中,您可以对问题进行版本控制、恢复之前的版本、删除、导出和管理问题命名。您还可以在问题中添加备注,以保存记录,并作为与问题设计团队集中协作的方式。

从 Vertex AI Studio 连接问题

在生成式 AI 中,建立依据是指将语言模型输出连接到可验证的信息源的能力。在 Vertex AI Studio 的多模态语言页面中,您可以选择将模型输出连接到 Vertex AI Search 或 Google 搜索。如需详细了解连接功能,请参阅连接功能概览。如需详细了解如何将模型输出连接到 Google 搜索,请参阅与 Google 搜索连接

在 Model Garden 中探索生成式 AI 模型

Model Garden 是一个平台,可帮助您发现、测试、自定义和部署 Google 专有的以及部分 OSS 模型和资产。如需探索 Vertex AI 上可用的生成式 AI 模型和 API,请转到 Google Cloud 控制台中的 Model Garden。

转到 Model Garden

如需详细了解 Model Garden,包括可用的模型和功能,请参阅在 Model Garden 中探索 AI 模型

调整基础模型

虽然提示设计非常适合快速实验,但如果训练数据可用,则可以通过调整模型本身来达到更高的质量。通过调整模型,您可以根据您希望模型执行的任务示例自定义模型的回复。

如需了解如何调整基础模型,请参阅调整基础模型

使用 Vertex AI Studio 来设计、测试和自定义发送至 Google 的 GeminiPaLM 2 大语言模型 (LLM) 的提示。LLM 处理完您的提示后,会向您发送回答。 如需详细了解 Vertex AI Studio,请参阅在 Vertex AI Studio 中使用模型进行实验

后续步骤