创建具有 GPU 虚拟机的 MIG

控制台

1. 转到实例模板页面。

   转到“实例模板”

2. 点击创建实例模板。

3. 在名称字段中，输入实例模板的名称。

4. 在机器配置部分中，执行以下操作：

   1. 点击 GPU 标签页。
   2. 在 GPU 类型列表中，选择 GPU 类型。
   3. 在 GPU 数量列表中，选择 GPU 的数量。
   4. 在机器类型列表中，选择一种机器类型。

5. 展开高级选项部分，然后执行以下操作：

   1. 展开管理部分。
   2. 在预留列表中，选择不使用。

6. 点击创建。

gcloud

使用 instance-templates create 命令创建实例模板。

以下命令会创建一个全球级实例模板。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=none

替换以下内容：

• INSTANCE_TEMPLATE_NAME：实例模板的名称。
• MACHINE_TYPE：支持 GPU 的机器类型。如果您指定 N1 机器类型，请添加 --accelerator 标志以指定要挂接到虚拟机的 GPU 数量和类型。

REST

向 instanceTemplates.insert 方法发出 POST 请求以创建实例模板。

以下请求会创建一个全球级实例模板。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/global/instanceTemplates

{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "disks": [
      {
        "boot": true,
        "mode": "READ_WRITE",
        "type": "PERSISTENT",
        "initializeParams": {
          "sourceImage": "projects/debian-cloud/global/images/family/debian-10"
        }
      }
    ],
    "machineType": "MACHINE_TYPE",
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-IP",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "global/networks/default"
      }
    ],
    "reservationAffinity": {
      "consumeReservationType": "NO_RESERVATION"
    },
    "scheduling": {
      "onHostMaintenance": "TERMINATE"
    }
  }
}

替换以下内容：

• PROJECT_ID：您要在其中创建 MIG 的项目的 ID。
• INSTANCE_TEMPLATE_NAME：实例模板的名称。
• MACHINE_TYPE：支持 GPU 的机器类型。如果您指定 N1 机器类型，请添加 guestAccelerators 字段以指定要挂接到虚拟机的 GPU 数量和类型。

gcloud

1. 使用 Beta 版 instance-groups managed create 命令创建可用区级 MIG。

   gcloud beta compute instance-groups managed create INSTANCE_GROUP_NAME \
      --template=INSTANCE_TEMPLATE_NAME \
      --size=0 \
      --zone=ZONE \
      --default-action-on-vm-failure=do_nothing
   

2. 在 MIG 中，使用 Beta 版 instance-groups managed resize-requests create 命令创建调整大小请求。指定所需的 GPU 虚拟机数量以及您希望运行这些虚拟机的时长。

   gcloud beta compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
      --resize-request=RESIZE_REQUEST_NAME \
      --resize-by=COUNT \
      --requested-run-duration=RUN_DURATION\
      --zone=ZONE
   

替换以下内容：

• INSTANCE_GROUP_NAME：MIG 的名称。
• INSTANCE_TEMPLATE_NAME：GPU 虚拟机的实例模板的名称。
• ZONE：提供 Compute Engine 服务的一个可用区。
• RESIZE_REQUEST_NAME：调整大小请求的名称。
• COUNT：要在实例组中一次性添加的所有虚拟机的数量。
• RUN_DURATION：您希望请求的虚拟机运行的时长。该值的格式必须为天数、小时数、分钟数或秒数，后面分别跟 d、h、m 和 s。例如，指定 30m 表示 30 分钟，或指定 1d2h3m4s 表示 1 天 2 小时 3 分钟 4 秒。该值必须介于 10 分钟到 7 天之间。

REST

1. 向 Beta 版 instanceGroupManagers.insert 方法发出 POST 请求以创建可用区级 MIG。

   POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
   
   {
    "versions": [
      {
        "instanceTemplate": "global/instanceTemplates/INSTANCE_TEMPLATE_NAME"
      }
    ],
    "name": "INSTANCE_GROUP_NAME",
    "targetSize": 0,
    "instanceLifecyclePolicy": {
      "defaultActionOnFailure": "DO_NOTHING"
    }
   }
   

2. 在 MIG 中，向 Beta 版 instanceGroupManagerResizeRequests.insert 方法发出 POST 请求以创建调整大小请求。在请求正文中，指定要一次性创建的所有 GPU 虚拟机的数量以及您希望运行这些虚拟机的时长。

   POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/INSTANCE_GROUP_NAME/resizeRequests
   
   {
    "name": "RESIZE_REQUEST_NAME",
    "resizeBy": COUNT,
    "requestedRunDuration": {
      "seconds": "RUN_DURATION"
    }
   }
   

替换以下内容：

• PROJECT_ID：您要在其中创建 MIG 的项目的 ID。
• INSTANCE_GROUP_NAME：MIG 的名称。
• INSTANCE_TEMPLATE_NAME：GPU 虚拟机的实例模板的名称。
• ZONE：提供 Compute Engine 服务的一个可用区。
• RESIZE_REQUEST_NAME：调整大小请求的名称。
• COUNT：要在实例组中一次性添加的所有虚拟机的数量。
• RUN_DURATION：您希望请求的虚拟机在 MIG 将其自动删除之前运行的时长（以秒为单位）。该值必须介于 600（600 秒，即 10 分钟）和 604800（604,800 秒，即 7 天）之间。