Membuat VM N1 yang telah memasang GPU

Konsol

1. Di konsol Google Cloud, buka halaman Create an instance.

   Buka Buat instance

2. Tentukan Name untuk VM Anda. Lihat Konvensi penamaan resource.

3. Pilih region dan zona tempat GPU tersedia. Lihat daftar zona GPU yang tersedia.

4. Di bagian Machine configuration, pilih kelompok mesin GPUs, lalu lakukan tindakan berikut:

   1. Dalam daftar GPU type, pilih salah satu model GPU yang didukung di mesin N1.
   2. Dalam daftar Number of GPU, pilih jumlah GPU.

   3. Jika model GPU Anda mendukung NVIDIA RTX Virtual Workstations (vWS) untuk workload grafis, dan Anda berencana menjalankan workload yang intensif grafis di VM ini, pilih Enable Virtual Workstation (NVIDIA GRID).

   4. Dalam daftar Machine type, pilih salah satu jenis mesin N1 preset. Atau, Anda juga dapat menentukan setelan jenis mesin kustom.

5. Di bagian Boot disk, klik Change. Tindakan ini akan membuka halaman Boot disk configuration.

6. Di halaman Boot disk configuration, lakukan langkah berikut:

   1. Pada tab Public image, pilih image Compute Engine yang didukung atau Deep Learning VM Image.
   2. Tentukan ukuran boot disk minimal 40 GB.
   3. Untuk mengonfirmasi opsi boot disk, klik Select.

7. Luaskan bagian Advanced options.

   1. Luaskan bagian Management.
   2. Dalam daftar On host management, pilih Terminate VM instance. VM dengan GPU yang terpasang tidak dapat melakukan migrasi langsung. Lihat Menangani peristiwa host GPU.
   3. Dalam daftar Automatic restart, pilih On.

8. Konfigurasi setelan VM lain mana pun yang Anda perlukan. Misalnya, Anda dapat mengubah setelan Preemptibility untuk mengonfigurasi VM sebagai preemptible instance. Hal ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk informasi selengkapnya, baca GPU pada preemptible instance.

9. Untuk membuat dan memulai VM, klik Create.

gcloud

Untuk membuat dan memulai VM, gunakan perintah gcloud compute instances create dengan flag berikut.

--preemptible adalah flag opsional yang mengonfigurasi VM Anda sebagai preemptible instance. Cara ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, baca GPU di preemptible instance.

gcloud compute instances create VM_NAME \
    --machine-type MACHINE_TYPE \
    --zone ZONE \
    --boot-disk-size DISK_SIZE \
    --accelerator type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    [--image IMAGE | --image-family IMAGE_FAMILY] \
    --image-project IMAGE_PROJECT \
    --maintenance-policy TERMINATE --restart-on-failure \
    [--preemptible]

Ganti kode berikut:

• VM_NAME: nama untuk VM baru.
• MACHINE_TYPE: jenis mesin yang Anda pilih untuk VM.
• ZONE: zona untuk VM. Zona ini harus mendukung jenis GPU.
• DISK_SIZE: ukuran boot disk dalam GB. Tentukan ukuran boot disk minimal 40 GB.

• IMAGE atau IMAGE_FAMILY yang mendukung GPU. Tentukan salah satu dari berikut ini:

  • IMAGE: versi image publik yang diperlukan. Contoh, --image debian-10-buster-v20200309.
  • IMAGE_FAMILY: kelompok image. Ini akan membuat VM dari OS image terbaru yang masih digunakan. Misalnya, jika Anda menentukan --image-family debian-10, Compute Engine akan membuat VM dari OS image versi terbaru di dalam kelompok image Debian 10.

  Anda juga dapat menentukan image kustom atau Deep Learning VM Image.

• IMAGE_PROJECT: project image Compute Engine yang mencakup kelompok gambar tersebut. Jika menggunakan image kustom atau Deep Learning VM Image, tentukan project tempat image tersebut berada.

• ACCELERATOR_COUNT: jumlah GPU yang ingin ditambahkan ke VM. Lihat GPU di Compute Engine untuk melihat daftar batas GPU berdasarkan jenis mesin VM Anda.

• ACCELERATOR_TYPE: model GPU yang ingin Anda gunakan. Jika Anda berencana menjalankan workload yang intensif grafis di VM ini, gunakan salah satu model workstation virtual.

  Pilih salah satu nilai berikut:

  • GPU NVIDIA:

    • NVIDIA T4: nvidia-tesla-t4
    • NVIDIA P4: nvidia-tesla-p4
    • NVIDIA P100: nvidia-tesla-p100
    • NVIDIA V100: nvidia-tesla-v100
    • NVIDIA K80: nvidia-tesla-k80. Lihat NVIDIA K80 EOL.

  • NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

    • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
    • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

    • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

      Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.

Contoh

Misalnya, Anda dapat menggunakan perintah gcloud berikut untuk memulai VM Ubuntu 22.04 dengan 1 GPU NVIDIA T4 dan 2 vCPU di zona us-east1-d.

gcloud compute instances create gpu-instance-1 \
    --machine-type n1-standard-2 \
    --zone us-east1-d \
    --boot-disk-size 40GB \
    --accelerator type=nvidia-tesla-t4,count=1 \
    --image-family ubuntu-2204-lts \
    --image-project ubuntu-os-cloud \
    --maintenance-policy TERMINATE --restart-on-failure

REST

Identifikasi jenis GPU yang ingin Anda tambahkan ke VM. Kirim permintaan GET untuk memunculkan daftar jenis GPU yang tersedia untuk project Anda di zona tertentu.

"preemptible": true adalah parameter opsional yang mengonfigurasi VM Anda sebagai preemptible instance. Cara ini akan mengurangi biaya VM dan GPU yang terpasang. Untuk mengetahui informasi selengkapnya, baca GPU di preemptible instance.

GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes

Ganti kode berikut:

• PROJECT_ID: project ID.
• ZONE: zona dari mana Anda ingin memunculkan daftar jenis GPU yang tersedia.

Kirim permintaan POST ke metode instances.insert. Sertakan parameter acceleratorType untuk menentukan jenis GPU yang akan digunakan, dan parameter acceleratorCount untuk menentukan jumlah GPU yang ingin ditambahkan. Tetapkan juga parameter onHostMaintenance ke TERMINATE.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "disks":
  [
    {
      "type": "PERSISTENT",
      "initializeParams":
      {
        "diskSizeGb": "DISK_SIZE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "boot": true
    }
  ],
  "name": "VM_NAME",
  "networkInterfaces":
  [
    {
      "network": "projects/PROJECT_ID/global/networks/NETWORK"
    }
  ],
  "guestAccelerators":
  [
    {
      "acceleratorCount": ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
  ],
  "scheduling":
  {
    "onHostMaintenance": "terminate",
    "automaticRestart": true,
    ["preemptible": true]
  },
}

Ganti kode berikut:

• VM_NAME: nama VM.
• PROJECT_ID: Project ID Anda.
• ZONE: zona untuk VM. Zona ini harus mendukung jenis GPU.
• MACHINE_TYPE: jenis mesin yang Anda pilih untuk VM. Lihat GPU di Compute Engine untuk mengetahui jenis mesin yang tersedia berdasarkan jumlah GPU yang Anda inginkan.

• IMAGE atau IMAGE_FAMILY: tentukan salah satu dari berikut ini:

  • IMAGE: versi image publik yang diperlukan. Contoh, "sourceImage": "projects/debian-cloud/global/images/debian-10-buster-v20200309"
  • IMAGE_FAMILY: kelompok image. Ini akan membuat VM dari OS image terbaru yang masih digunakan. Misalnya, jika Anda menentukan "sourceImage": "projects/debian-cloud/global/images/family/debian-10", Compute Engine akan membuat VM dari OS image versi terbaru dalam kelompok image Debian 10.

  Anda juga dapat menentukan image kustom atau Deep Learning VM Image.

• IMAGE_PROJECT: project image Compute Engine yang mencakup kelompok gambar tersebut. Jika menggunakan image kustom atau Deep Learning VM Image, tentukan project tempat image tersebut berada.

• DISK_SIZE: ukuran boot disk dalam GB. Tentukan ukuran boot disk minimal 40 GB.

• NETWORK: jaringan VPC yang akan digunakan untuk VM. Anda dapat menentukan default untuk menggunakan jaringan default.

• ACCELERATOR_COUNT: jumlah GPU yang ingin ditambahkan ke VM. Lihat GPU di Compute Engine untuk melihat daftar batas GPU berdasarkan jenis mesin VM Anda.

• ACCELERATOR_TYPE: model GPU yang ingin Anda gunakan. Jika Anda berencana menjalankan workload yang intensif grafis di VM ini, gunakan salah satu model workstation virtual.

  Pilih salah satu nilai berikut:

  • GPU NVIDIA:

    • NVIDIA T4: nvidia-tesla-t4
    • NVIDIA P4: nvidia-tesla-p4
    • NVIDIA P100: nvidia-tesla-p100
    • NVIDIA V100: nvidia-tesla-v100
    • NVIDIA K80: nvidia-tesla-k80. Lihat NVIDIA K80 EOL.

  • NVIDIA RTX Virtual Workstation (vWS) (sebelumnya disebut NVIDIA GRID):

    • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
    • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

    • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

      Untuk workstation virtual ini, lisensi NVIDIA RTX Virtual Workstation (vWS) otomatis ditambahkan ke VM Anda.