Este documento explica como criar e executar um job do Batch que usa um ou mais volumes de armazenamento externo. As opções de armazenamento externo incluem um disco permanente novo ou atual, novos SSDs locais, buckets do Cloud Storage e um sistema de arquivos de rede (NFS, na sigla em inglês) atual, como um compartilhamento de arquivos do Filestore.
Independentemente de você adicionar volumes de armazenamento externo, cada VM do Compute Engine de um job tem um disco de inicialização que fornece armazenamento para a imagem e as instruções do sistema operacional (SO) do job. Para mais informações sobre como configurar o disco de inicialização de um job, consulte a Visão geral do ambiente SO da VM.
Antes de começar
- Se você nunca usou o Batch, leia Primeiros passos com o Batch e ative-o concluindo os pré-requisitos para projetos e usuários.
-
Para receber as permissões necessárias para criar um job, peça ao administrador para conceder a você os seguintes papéis do IAM:
-
Editor de jobs em lote (
roles/batch.jobsEditor
) no projeto -
Usuário da conta de serviço (
roles/iam.serviceAccountUser
) na conta de serviço do job, que, por padrão, é a conta de serviço padrão do Compute Engine -
Crie um job que use um bucket do Cloud Storage:
Leitor de objetos do Storage (
roles/storage.objectViewer
) no bucket
Para mais informações sobre como conceder papéis, consulte Gerenciar acesso.
Também é possível conseguir as permissões necessárias por meio de papéis personalizados ou de outros papéis predefinidos.
-
Editor de jobs em lote (
Criar um job que use volumes de armazenamento
Opcionalmente, um job pode usar um ou mais de cada um dos tipos de volumes de armazenamento externo a seguir. Para mais informações sobre todos os tipos de volumes de armazenamento e as diferenças e restrições de cada um, consulte a documentação das Opções de armazenamento de VMs do Compute Engine.
- disco permanente: armazenamento em blocos permanente zonal ou regional
- SSD local: armazenamento em blocos temporário e de alto desempenho
- Bucket do Cloud Storage: armazenamento de objetos econômico
- sistema de arquivos de rede (NFS, na sigla em inglês): sistema de arquivos distribuído que segue o protocolo do sistema de arquivos de rede. Por exemplo, um compartilhamento de arquivos do Filestore, que é um NFS de alto desempenho hospedado no Google Cloud
Para permitir que um job use cada volume de armazenamento, inclua-o na definição do job e especifique o caminho de montagem (mountPath
) nos executáveis. Para aprender a criar um job que use volumes de armazenamento, consulte
uma ou mais destas seções:
- Usar um disco permanente
- Usar um SSD local
- Usar um bucket do Cloud Storage
- Usar um sistema de arquivos de rede
Usar um disco permanente
Um job que usa discos permanentes tem as seguintes restrições:
Todos os discos permanentes: analise as restrições para todos os discos permanentes.
Discos permanentes novos x atuais: cada disco permanente em um job pode ser novo (definido e criado com o job) ou atual (já criado no projeto e especificado nele). Para usar um disco permanente, ele precisa ser formatado e ativado nas VMs do job, que precisam estar no mesmo local que o disco permanente. Ative em lote todos os discos permanentes incluídos em um job e formate os novos discos permanentes. No entanto, é necessário formatar e desconectar todos os discos permanentes atuais que você quer usar por um job.
As opções de local, opções de formato e opções de montagem variam entre discos permanentes novos e atuais, conforme descrito na tabela a seguir:
Novos discos permanentes Discos permanentes atuais Opções de formatação O disco permanente é formatado automaticamente com um sistema de arquivos
ext4
.É preciso formatar o disco permanente para usar um sistema de arquivos
ext4
antes de usá-lo em um job.Opções de montagem Todas as opções são aceitas.
Todas as opções, exceto gravação, são aceitas. Isso ocorre devido a restrições do modo de vários gravadores.
É preciso desvincular o disco permanente de qualquer VM a que ele esteja anexado antes de usá-lo para um job.
Opções de local Só é possível criar discos permanentes zonais.
Selecione qualquer local para o job. Os discos permanentes são criados na zona em que o projeto é executado.
É possível selecionar discos permanentes zonais e regionais.
Você precisa definir o local do job (ou, se especificado, apenas os locais permitidos) para somente locais que contêm todos os discos permanentes do job. Por exemplo, para um disco permanente zonal, o local do job precisa ser a zona do disco. Para um disco permanente regional, o local do job precisa ser a região do disco ou, se especificar as zonas, uma ou ambas as zonas específicas em que o disco permanente regional está localizado.Modelos de instância: se você quiser usar um modelo de instância de VM ao criar esse job, anexe todos os disco permanente para este job no modelo de instância. Caso contrário, se você não quiser usar um modelo de instância, será necessário anexar quaisquer disco permanente diretamente na definição do job.
É possível criar um job que use um disco permanente usando o console do Google Cloud, a CLI gcloud, a API Batch, Go, Java, Node.js, Python ou C++.
Console
Usando o console do Google Cloud, o exemplo a seguir cria um job que
executa um script para ler um arquivo de um disco permanente zonal atual
localizado na zona us-central1-a
. O script de exemplo pressupõe que o job
tenha um disco permanente zonal atual que contenha um arquivo de texto chamado
example.txt
no diretório raiz.
Opcional: criar um exemplo de disco permanente zonal
Se você quiser criar um disco permanente zonal que possa ser usado para executar o script de exemplo, faça o seguinte antes de criar o job:
Anexe uma nova permanente em branco chamada
example-disk
a uma VM do Linux na zonaus-central1-a
e execute comandos na VM para formatar e ativar o disco. Para mais instruções, acesse Adicionar um disco permanente à sua VM.Não se desconecte da VM ainda.
Para criar
example.txt
no disco permanente, execute os seguintes comandos na VM:Para alterar o diretório de trabalho atual para o diretório raiz do disco permanente, digite o seguinte comando:
cd VM_MOUNT_PATH
Substitua VM_MOUNT_PATH pelo caminho para o diretório em que o disco permanente foi ativado para essa VM na etapa anterior. Por exemplo,
/mnt/disks/example-disk
.Pressione
Enter
.Para criar e definir um arquivo chamado
example.txt
, digite o seguinte comando:cat > example.txt
Pressione
Enter
.Digite o conteúdo do arquivo. Por exemplo, digite
Hello world!
.Para salvar o arquivo, pressione
Ctrl+D
(ouCommand+D
no macOS).
Quando terminar, você poderá se desconectar da VM.
Desconectar o disco permanente da VM
Se você não precisar mais da VM, é possível excluir a VM, o que desconecta o disco permanente automaticamente.
Caso contrário, desanexe o disco permanente. Para instruções, consulte Como desconectar e reconectar discos de inicialização e remover o disco permanente
example-disk
em vez do disco de inicialização da VM.
Criar um job que use o disco permanente zonal atual
Para criar um job que use discos permanentes zonais atuais usando o Console do Google Cloud, faça o seguinte:
No console do Google Cloud, acesse a página Lista de jobs.
Clique em
Criar. A página Criar job em lote é aberta. No painel esquerdo, a página Detalhes do job é selecionada.Configure a página Detalhes do job:
Opcional: no campo Nome do job, personalize o nome.
Por exemplo, insira
example-disk-job
.Configure a seção Detalhes da tarefa:
Na janela Novo executável, adicione pelo menos um script ou contêiner para que esse job seja executado.
Por exemplo, para executar um script que imprime o conteúdo de um arquivo chamado
example.txt
e localizado no diretório raiz do disco permanente usado por esse job, faça o seguinte:Marque a caixa de seleção Script. Uma caixa de texto será exibida.
Na caixa de texto, insira o seguinte script:
echo "Here is the content of the example.txt file in the persistent disk." cat MOUNT_PATH/example.txt
Substitua MOUNT_PATH pelo caminho em que você planeja ativar o disco permanente para as VMs desse job, por exemplo,
/mnt/disks/example-disk
.Clique em Concluído.
No campo Contagem de tarefas, insira o número de tarefas desse job.
Por exemplo, digite
1
(padrão).No campo Paralelismo, insira o número de tarefas a serem executadas simultaneamente.
Por exemplo, digite
1
(padrão).
Configure a página Especificações de recursos:
No painel à esquerda, clique em Especificações do recurso. A página Especificações de recursos é aberta.
Selecione o local deste job. Para usar um disco permanente zonal atual, as VMs de um job precisam estar localizadas na mesma zona.
No campo Região, selecione uma região.
Por exemplo, para usar o disco permanente zonal de exemplo, selecione
us-central1 (Iowa)
(padrão).No campo Zona, selecione uma zona.
Por exemplo, selecione
us-central1-a (Iowa)
.
Configure a página Outras configurações:
No painel à esquerda, clique em Outras configurações. A página Outras configurações é aberta.
Para cada disco permanente zonal atual que você quer ativar nesse job, faça o seguinte:
Na seção Volume de armazenamento, clique em Adicionar novo volume. A janela Novo volume será exibida.
Na janela Novo volume, faça o seguinte:
Na seção Tipo de volume, selecione Disco permanente (padrão).
Na lista Disco, selecione um disco permanente zonal atual que você queira ativar nesse job. O disco precisa estar localizado na mesma zona que esse job.
Por exemplo, selecione o disco permanente zonal atual que você preparou, localizado na zona
us-central1-a
e contém o arquivoexample.txt
.Opcional: para renomear esse disco permanente zonal, faça o seguinte:
Selecione Personalizar o nome do dispositivo.
No campo Nome do dispositivo, insira o novo nome do disco.
No campo Caminho de montagem, insira o caminho (MOUNT_PATH) para este disco permanente:
Por exemplo, digite o seguinte:
/mnt/disks/EXISTING_PERSISTENT_DISK_NAME
Substitua EXISTING_PERSISTENT_DISK_NAME pelo nome do disco. Se você tiver renomeado o disco permanente zonal, use o novo nome.
Por exemplo, substitua EXISTING_PERSISTENT_DISK_NAME por
example-disk
.Clique em Concluído.
Opcional: configure os outros campos deste job.
Opcional: para revisar a configuração do job, clique em Visualizar no painel esquerdo.
Clique em Criar.
A página Detalhes do job exibe o job que você criou.
gcloud
Usando a CLI gcloud, o exemplo a seguir cria um job que
anexa e ativa um disco permanente atual e um novo.
O job tem três tarefas, cada uma executando um script para criar um arquivo no novo
disco permanente chamado output_task_TASK_INDEX.txt
,
em que TASK_INDEX é o índice de cada tarefa: 0, 1 e
2.
Para criar um job que use discos permanentes com a
CLI gcloud, use o
comando gcloud batch jobs submit
.
No arquivo de configuração JSON do job, especifique os discos permanentes no campo instances
e monte o disco permanente no campo volumes
.
Crie um arquivo JSON.
Se você não estiver usando um modelo de instância para este job, crie um arquivo JSON com o seguinte conteúdo:
{ "allocationPolicy": { "instances": [ { "policy": { "disks": [ { "deviceName": "EXISTING_PERSISTENT_DISK_NAME", "existingDisk": "projects/PROJECT_ID/EXISTING_PERSISTENT_DISK_LOCATION/disks/EXISTING_PERSISTENT_DISK_NAME" }, { "newDisk": { "sizeGb": NEW_PERSISTENT_DISK_SIZE, "type": "NEW_PERSISTENT_DISK_TYPE" }, "deviceName": "NEW_PERSISTENT_DISK_NAME" } ] } } ], "location": { "allowedLocations": [ "EXISTING_PERSISTENT_DISK_LOCATION" ] } }, "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/NEW_PERSISTENT_DISK_NAME/output_task_${BATCH_TASK_INDEX}.txt" } } ], "volumes": [ { "deviceName": "NEW_PERSISTENT_DISK_NAME", "mountPath": "/mnt/disks/NEW_PERSISTENT_DISK_NAME", "mountOptions": "rw,async" }, { "deviceName": "EXISTING_PERSISTENT_DISK_NAME", "mountPath": "/mnt/disks/EXISTING_PERSISTENT_DISK_NAME" } ] }, "taskCount":3 } ], "logsPolicy": { "destination": "CLOUD_LOGGING" } }
Substitua:
PROJECT_ID
: o ID do projeto (link em inglês).EXISTING_PERSISTENT_DISK_NAME
: o nome de um disco permanente atual.EXISTING_PERSISTENT_DISK_LOCATION
: o local de um disco permanente atual. Para cada disco permanente zonal atual, o local do job precisa ser a zona do disco. Para cada disco permanente regional atual, o local do job precisa ser a região do disco ou, se especificar zonas, uma ou ambas as zonas específicas em que o disco permanente regional está localizado. Se você não estiver especificando nenhum disco permanente atual, poderá selecionar qualquer local. Saiba mais sobre o campoallowedLocations
.NEW_PERSISTENT_DISK_SIZE
: o tamanho do novo disco permanente em GB. Os tamanhos permitidos dependem do tipo de disco permanente, mas o mínimo geralmente é 10 GB (10
) e o máximo geralmente é 64 TB (64000
).NEW_PERSISTENT_DISK_TYPE
: o tipo de disco do novo disco permanente, que pode serpd-standard
,pd-balanced
,pd-ssd
oupd-extreme
. Para jobs do Batch, o padrão épd-balanced
.NEW_PERSISTENT_DISK_NAME
: o nome do novo disco permanente.
Se você estiver usando um modelo de instância de VM para este job, crie um arquivo JSON conforme mostrado anteriormente, mas substitua o campo
instances
pelo seguinte:"instances": [ { "instanceTemplate": "INSTANCE_TEMPLATE_NAME" } ],
em que
INSTANCE_TEMPLATE_NAME
é o nome do modelo de instância desse job. Para um job que usa discos permanentes, esse modelo de instância precisa definir e anexar os discos permanentes que você quer que o job use. Para este exemplo, o modelo precisa definir e anexar um novo disco permanente chamadoNEW_PERSISTENT_DISK_NAME
e anexar um disco permanente atual chamadoEXISTING_PERSISTENT_DISK_NAME
.
Execute este comando:
gcloud batch jobs submit JOB_NAME \ --location LOCATION \ --config JSON_CONFIGURATION_FILE
Substitua:
JOB_NAME
: o nome do job.LOCATION
: o local do job.JSON_CONFIGURATION_FILE
: o caminho de um arquivo JSON com os detalhes de configuração do job.
API
Usando a API Batch, o exemplo a seguir cria um job que anexa e ativa um disco permanente atual e um novo. O job tem três tarefas, em que cada uma executa um script para criar um arquivo no novo
disco permanente chamado
output_task_TASK_INDEX.txt
, em que
TASK_INDEX é o índice de cada tarefa: 0, 1 e 2.
Para criar um job que use discos permanentes por meio da API Batch, use o método jobs.create
.
Na solicitação, especifique os discos permanentes no campo instances
e monte o disco permanente no campo volumes
.
Se você não estiver usando um modelo de instância para este job, faça a seguinte solicitação:
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME { "allocationPolicy": { "instances": [ { "policy": { "disks": [ { "deviceName": "EXISTING_PERSISTENT_DISK_NAME", "existingDisk": "projects/PROJECT_ID/EXISTING_PERSISTENT_DISK_LOCATION/disks/EXISTING_PERSISTENT_DISK_NAME" }, { "newDisk": { "sizeGb": NEW_PERSISTENT_DISK_SIZE, "type": "NEW_PERSISTENT_DISK_TYPE" }, "deviceName": "NEW_PERSISTENT_DISK_NAME" } ] } } ], "location": { "allowedLocations": [ "EXISTING_PERSISTENT_DISK_LOCATION" ] } }, "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/NEW_PERSISTENT_DISK_NAME/output_task_${BATCH_TASK_INDEX}.txt" } } ], "volumes": [ { "deviceName": "NEW_PERSISTENT_DISK_NAME", "mountPath": "/mnt/disks/NEW_PERSISTENT_DISK_NAME", "mountOptions": "rw,async" }, { "deviceName": "EXISTING_PERSISTENT_DISK_NAME", "mountPath": "/mnt/disks/EXISTING_PERSISTENT_DISK_NAME" } ] }, "taskCount":3 } ], "logsPolicy": { "destination": "CLOUD_LOGGING" } }
Substitua:
PROJECT_ID
: o ID do projeto (link em inglês).LOCATION
: o local do job.JOB_NAME
: o nome do job.EXISTING_PERSISTENT_DISK_NAME
: o nome de um disco permanente atual.EXISTING_PERSISTENT_DISK_LOCATION
: o local de um disco permanente atual. Para cada disco permanente zonal atual, o local do job precisa ser a zona do disco. Para cada disco permanente regional atual, o local do job precisa ser a região do disco ou, se especificar zonas, uma ou ambas as zonas específicas em que o disco permanente regional está localizado. Se você não estiver especificando nenhum disco permanente atual, selecione qualquer local. Saiba mais sobre o campoallowedLocations
.NEW_PERSISTENT_DISK_SIZE
: o tamanho do novo disco permanente em GB. Os tamanhos permitidos dependem do tipo de disco permanente, mas o mínimo geralmente é 10 GB (10
) e o máximo geralmente é 64 TB (64000
).NEW_PERSISTENT_DISK_TYPE
: o tipo de disco do novo disco permanente, que pode serpd-standard
,pd-balanced
,pd-ssd
oupd-extreme
. Para jobs do Batch, o padrão épd-balanced
.NEW_PERSISTENT_DISK_NAME
: o nome do novo disco permanente.
Se você estiver usando um modelo de instância de VM para este job, crie um arquivo JSON conforme mostrado anteriormente, mas substitua o campo
instances
pelo seguinte:"instances": [ { "instanceTemplate": "INSTANCE_TEMPLATE_NAME" } ], ...
Em que
INSTANCE_TEMPLATE_NAME
é o nome do modelo de instância desse job. Para um job que usa discos permanentes, esse modelo de instância precisa definir e anexar os discos permanentes que você quer que o job use. Para este exemplo, o modelo precisa definir e anexar um novo disco permanente chamadoNEW_PERSISTENT_DISK_NAME
e anexar um disco permanente atual chamadoEXISTING_PERSISTENT_DISK_NAME
.
Go
Para criar um job do Batch que use discos permanentes novos ou atuais usando as bibliotecas de cliente do Cloud para Go, use a função CreateJob
e inclua o seguinte:
- Para anexar discos permanentes às VMs de um job, inclua uma das seguintes opções:
- Se você não estiver usando um modelo de instância de VM para esse job,
inclua o tipo
AllocationPolicy_AttachedDisk
. - Se você estiver usando um modelo de instância de VM para este job,
inclua o tipo
AllocationPolicy_InstancePolicyOrTemplate_InstanceTemplate
.
- Se você não estiver usando um modelo de instância de VM para esse job,
inclua o tipo
- Para ativar os discos permanentes no job, use o
tipo
Volume
com o tipoVolume_DeviceName
e o campoMountPath
. Para novos discos permanentes, use também o campoMountOptions
para ativar a gravação.
Para um exemplo de código de um caso de uso semelhante, consulte Usar um bucket do Cloud Storage.
Java
Para criar um job do Batch que use discos permanentes novos ou existentes com as bibliotecas de cliente do Cloud para Java, use a classe CreateJobRequest
e inclua o seguinte:
- Para anexar discos permanentes às VMs de um job, inclua uma das seguintes opções:
- Se você não estiver usando um modelo de instância de VM para esse job,
inclua o método
setDisks
. - Se você estiver usando um modelo de instância de VM para esse job,
inclua o método
setInstanceTemplate
.
- Se você não estiver usando um modelo de instância de VM para esse job,
inclua o método
- Para ativar os discos permanentes no job, use a
classe
Volume
com os métodossetDeviceName
esetMountPath
. Nos novos discos permanentes, use também o métodosetMountOptions
para ativar a gravação.
Para um exemplo de código de um caso de uso semelhante, consulte Usar um bucket do Cloud Storage.
Node.js
Para criar um job do Batch que use discos permanentes novos ou existentes com as bibliotecas de cliente do Cloud para Node.js, use o método createJob
e inclua o seguinte:
- Para anexar discos permanentes às VMs de um job, inclua uma das seguintes opções:
- Se você não estiver usando um modelo de instância de VM para esse job,
inclua a classe
AllocationPolicy.AttachedDisk
. - Se você estiver usando um modelo de instância de VM para esse job,
inclua a propriedade
instanceTemplate
.
- Se você não estiver usando um modelo de instância de VM para esse job,
inclua a classe
- Para ativar os discos permanentes no job, use a
classe
Volume
com as propriedadesdeviceName
emountPath
. Nos novos discos permanentes, use também a propriedademountOptions
para ativar a gravação.
Para um exemplo de código de um caso de uso semelhante, consulte Usar um bucket do Cloud Storage.
Python
Para criar um job do Batch que use discos permanentes novos ou atuais usando as bibliotecas de cliente do Cloud para Python, use a função CreateJob
e inclua o seguinte:
- Para anexar discos permanentes às VMs de um job, inclua uma das seguintes opções:
- Se você não estiver usando um modelo de instância de VM para esse job,
inclua a classe
AttachedDisk
. - Se você estiver usando um modelo de instância de VM para esse job,
inclua o atributo
instance_template
.
- Se você não estiver usando um modelo de instância de VM para esse job,
inclua a classe
- Para ativar os discos permanentes no job, use a
classe
Volume
com os atributosdevice_name
emount_path
. Para novos discos permanentes, use também o atributomount_options
para ativar a gravação.
Para um exemplo de código de um caso de uso semelhante, consulte Usar um bucket do Cloud Storage.
C++
Para criar um job do Batch que use discos permanentes novos ou atuais usando as bibliotecas de cliente do Cloud para C++, use a função CreateJob
e inclua o seguinte:
- Para anexar discos permanentes às VMs de um job, inclua uma das seguintes opções:
- Se você não estiver usando um modelo de instância de VM para esse job,
use o método
set_remote_path
. - Se você estiver usando um modelo de instância de VM para este job, utilize o
método
set_instance_template
.
- Se você não estiver usando um modelo de instância de VM para esse job,
use o método
- Para ativar os discos permanentes no job, use o campo
volumes
com os camposdeviceName
emountPath
. Para novos discos permanentes, use também o campomountOptions
para ativar a gravação.
Para um exemplo de código de um caso de uso semelhante, consulte Usar um bucket do Cloud Storage.
Usar um SSD local
Um job que usa SSDs locais tem as seguintes restrições:
- Todos os SSDs locais Consulte as restrições para todos os SSDs locais.
- Modelos de instância Se você quiser especificar um modelo de instância de VM ao criar esse job, será necessário anexar qualquer disco permanente para este job no modelo de instância. Caso contrário, se você não quiser usar um modelo de instância, será necessário anexar quaisquer disco permanente diretamente na definição do job.
É possível criar um job que use um SSD local usando a
CLI gcloud ou a API Batch.
No exemplo a seguir, descrevemos como criar um job que cria, anexa e ativa um SSD local. O job também tem três tarefas,
em que cada uma executa um script para criar um arquivo no SSD local chamado
output_task_TASK_INDEX.txt
, em que
TASK_INDEX
é o índice de cada tarefa:
0
, 1
e 2
.
gcloud
Para criar um job que use SSDs locais usando a
CLI gcloud, use o
comando gcloud batch jobs submit
.
No arquivo de configuração JSON do job, crie e anexe os SSDs locais no campo instances
e monte os SSDs locais no campo volumes
.
Crie um arquivo JSON.
Se você não estiver usando um modelo de instância para este job, crie um arquivo JSON com o seguinte conteúdo:
{ "allocationPolicy": { "instances": [ { "policy": { "machineType": MACHINE_TYPE, "disks": [ { "newDisk": { "sizeGb": LOCAL_SSD_SIZE, "type": "local-ssd" }, "deviceName": "LOCAL_SSD_NAME" } ] } } ] }, "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/LOCAL_SSD_NAME/output_task_${BATCH_TASK_INDEX}.txt" } } ], "volumes": [ { "deviceName": "LOCAL_SSD_NAME", "mountPath": "/mnt/disks/LOCAL_SSD_NAME", "mountOptions": "rw,async" } ] }, "taskCount":3 } ], "logsPolicy": { "destination": "CLOUD_LOGGING" } }
Substitua:
MACHINE_TYPE
: o tipo de máquina, que pode ser predefinido ou personalizado, das VMs do job. O número permitido de SSDs locais depende do tipo de máquina das VMs do job.LOCAL_SSD_NAME
: o nome de um SSD local criado para o job.LOCAL_SSD_SIZE
: o tamanho de todos os SSDs locais em GB. Cada SSD local tem 375 GB, portanto, esse valor precisa ser um múltiplo de375
GB. Por exemplo, para dois SSDs locais, defina esse valor como750
GB.
Se você estiver usando um modelo de instância de VM para este job, crie um arquivo JSON conforme mostrado anteriormente, mas substitua o campo
instances
pelo seguinte:"instances": [ { "instanceTemplate": "INSTANCE_TEMPLATE_NAME" } ],
em que
INSTANCE_TEMPLATE_NAME
é o nome do modelo de instância desse job. Para um job que usa SSDs locais, esse modelo de instância precisa definir e anexar os SSDs locais que você quer que o job use. Neste exemplo, o modelo precisa definir e anexar um SSD local chamadoLOCAL_SSD_NAME
.
Execute este comando:
gcloud batch jobs submit JOB_NAME \ --location LOCATION \ --config JSON_CONFIGURATION_FILE
Substitua:
JOB_NAME
: o nome do job.LOCATION
: o local do job.JSON_CONFIGURATION_FILE
: o caminho de um arquivo JSON com os detalhes de configuração do job.
API
Para criar um job que use SSDs locais usando a API Batch, utilize o método jobs.create
.
Na solicitação, crie e anexe os SSDs locais no campo instances
e monte-os no campo volumes
.
Se você não estiver usando um modelo de instância para este job, faça a seguinte solicitação:
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME { "allocationPolicy": { "instances": [ { "policy": { "machineType": MACHINE_TYPE, "disks": [ { "newDisk": { "sizeGb": LOCAL_SSD_SIZE, "type": "local-ssd" }, "deviceName": "LOCAL_SSD_NAME" } ] } } ] }, "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/LOCAL_SSD_NAME/output_task_${BATCH_TASK_INDEX}.txt" } } ], "volumes": [ { "deviceName": "LOCAL_SSD_NAME", "mountPath": "/mnt/disks/LOCAL_SSD_NAME", "mountOptions": "rw,async" } ] }, "taskCount":3 } ], "logsPolicy": { "destination": "CLOUD_LOGGING" } }
Substitua:
PROJECT_ID
: o ID do projeto (link em inglês).LOCATION
: o local do job.JOB_NAME
: o nome do job.MACHINE_TYPE
: o tipo de máquina, que pode ser predefinido ou personalizado, das VMs do job. O número permitido de SSDs locais depende do tipo de máquina das VMs do job.LOCAL_SSD_NAME
: o nome de um SSD local criado para o job.LOCAL_SSD_SIZE
: o tamanho de todos os SSDs locais em GB. Cada SSD local tem 375 GB, portanto, esse valor precisa ser um múltiplo de375
GB. Por exemplo, para dois SSDs locais, defina esse valor como750
GB.
Se você estiver usando um modelo de instância de VM para este job, crie um arquivo JSON conforme mostrado anteriormente, mas substitua o campo
instances
pelo seguinte:"instances": [ { "instanceTemplate": "INSTANCE_TEMPLATE_NAME" } ], ...
Em que
INSTANCE_TEMPLATE_NAME
é o nome do modelo de instância desse job. Para um job que usa SSDs locais, esse modelo de instância precisa definir e anexar os SSDs locais que você quer que o job use. Neste exemplo, o modelo precisa definir e anexar um SSD local chamadoLOCAL_SSD_NAME
.
Usar um bucket do Cloud Storage
Para criar um job que use um bucket do Cloud Storage, selecione um dos seguintes métodos:
- Recomendado: monte um bucket diretamente nas VMs do job especificando o bucket na definição do job, conforme mostrado nesta seção. Quando o job é executado, o bucket é montado automaticamente nas VMs do job usando o Cloud Storage FUSE.
- Crie um job com tarefas que acessam diretamente um bucket do Cloud Storage usando a ferramenta de linha de comando
gsutil
ou as bibliotecas de cliente da API Cloud Storage. Para saber como acessar um bucket do Cloud Storage diretamente de uma VM, consulte Como gravar e ler dados de buckets do Cloud Storage na documentação do Compute Engine.
Antes de criar um job que use um bucket, crie um bucket ou identifique um atual. Para mais informações, consulte Criar buckets e Listar buckets.
É possível criar um job que use um bucket do Cloud Storage usando o console do Google Cloud, a CLI gcloud, a API Batch, Go, Java, Node.js, Python ou C++.
O exemplo a seguir descreve como criar um job que monte um bucket do Cloud Storage. O job também tem três tarefas, em que cada uma executa um script para criar um arquivo no bucket chamado output_task_TASK_INDEX.txt
, em que TASK_INDEX
é o índice de cada tarefa: 0
, 1
e 2
.
Console
Para criar um job que use um bucket do Cloud Storage com o Console do Google Cloud, faça o seguinte:
No console do Google Cloud, acesse a página Lista de jobs.
Clique em
Criar. A página Criar job em lote é aberta. No painel esquerdo, a página Detalhes do job é selecionada.Configure a página Detalhes do job:
Opcional: no campo Nome do job, personalize o nome.
Por exemplo, insira
example-bucket-job
.Configure a seção Detalhes da tarefa:
Na janela Novo executável, adicione pelo menos um script ou contêiner para que esse job seja executado.
Por exemplo, faça o seguinte:
Marque a caixa de seleção Script. Uma caixa de texto será exibida.
Na caixa de texto, insira o seguinte script:
echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt
Substitua MOUNT_PATH pelo caminho de montagem que os executáveis deste job usam para acessar um bucket atual do Cloud Storage. O caminho precisa começar com
/mnt/disks/
seguido por um diretório ou caminho escolhido. Por exemplo, se você quiser representar esse bucket com um diretório chamadomy-bucket
, defina o caminho de ativação como/mnt/disks/my-bucket
.Clique em Concluído.
No campo Contagem de tarefas, insira o número de tarefas desse job.
Por exemplo, insira
3
.No campo Paralelismo, insira o número de tarefas a serem executadas simultaneamente.
Por exemplo, digite
1
(padrão).
Configure a página Outras configurações:
No painel à esquerda, clique em Outras configurações. A página Outras configurações é aberta.
Para cada bucket do Cloud Storage que você quer ativar nesse job, faça o seguinte:
Na seção Volume de armazenamento, clique em Adicionar novo volume. A janela Novo volume será exibida.
Na janela Novo volume, faça o seguinte:
Na seção Tipo de volume, selecione Bucket do Cloud Storage.
No campo Nome do bucket de armazenamento, insira o nome de um bucket atual.
Por exemplo, insira o bucket especificado na função executável deste job.
No campo Caminho de montagem, insira o caminho de ativação do bucket (MOUNT_PATH), que você especificou no executável.
Clique em Concluído.
Opcional: configure os outros campos deste job.
Opcional: para revisar a configuração do job, clique em Visualizar no painel esquerdo.
Clique em Criar.
A página Detalhes do job exibe o job que você criou.
gcloud
Para criar um job que use um bucket do Cloud Storage usando a
CLI gcloud, use o
comando gcloud batch jobs submit
.
No arquivo de configuração JSON do job, ative o bucket no campo volumes
.
Por exemplo, para criar um job que gera arquivos para um Cloud Storage:
Crie um arquivo JSON com o seguinte conteúdo:
{ "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt" } } ], "volumes": [ { "gcs": { "remotePath": "BUCKET_PATH" }, "mountPath": "MOUNT_PATH" } ] }, "taskCount": 3 } ], "logsPolicy": { "destination": "CLOUD_LOGGING" } }
Substitua:
BUCKET_PATH
: o caminho do diretório do bucket que você quer acessar por este job, que precisa começar com o nome do bucket. Por exemplo, para um bucket chamadoBUCKET_NAME
, o caminhoBUCKET_NAME
representa o diretório raiz do bucket, e o caminhoBUCKET_NAME/subdirectory
representa o subdiretóriosubdirectory
.MOUNT_PATH
: o caminho de ativação que os executáveis do job usam para acessar o bucket. O caminho precisa começar com/mnt/disks/
seguido por um diretório ou caminho escolhido. Por exemplo, se você quiser representar esse bucket com um diretório chamadomy-bucket
, defina o caminho de ativação como/mnt/disks/my-bucket
.
Execute este comando:
gcloud batch jobs submit JOB_NAME \ --location LOCATION \ --config JSON_CONFIGURATION_FILE
Substitua:
JOB_NAME
: o nome do job.LOCATION
: o local do job.JSON_CONFIGURATION_FILE
: o caminho de um arquivo JSON com os detalhes de configuração do job.
API
Para criar um job que use um bucket do Cloud Storage usando a API Batch, use o método jobs.create
e ative o bucket no campo volumes
.
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME
{
"taskGroups": [
{
"taskSpec": {
"runnables": [
{
"script": {
"text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
}
}
],
"volumes": [
{
"gcs": {
"remotePath": "BUCKET_PATH"
},
"mountPath": "MOUNT_PATH"
}
]
},
"taskCount": 3
}
],
"logsPolicy": {
"destination": "CLOUD_LOGGING"
}
}
Substitua:
PROJECT_ID
: o ID do projeto (link em inglês).LOCATION
: o local do job.JOB_NAME
: o nome do job.BUCKET_PATH
: o caminho do diretório do bucket que você quer acessar por este job, que precisa começar com o nome do bucket. Por exemplo, para um bucket chamadoBUCKET_NAME
, o caminhoBUCKET_NAME
representa o diretório raiz do bucket, e o caminhoBUCKET_NAME/subdirectory
representa o subdiretóriosubdirectory
.MOUNT_PATH
: o caminho de ativação que os executáveis do job usam para acessar o bucket. O caminho precisa começar com/mnt/disks/
seguido por um diretório ou caminho escolhido. Por exemplo, se você quiser representar esse bucket com um diretório chamadomy-bucket
, defina o caminho de ativação como/mnt/disks/my-bucket
.
Go
Go
Para mais informações, consulte a documentação de referência da API Go em lote.
Para autenticar no Batch, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Java
Java
Para mais informações, consulte a documentação de referência da API Java em lote.
Para autenticar no Batch, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Node.js
Node.js
Para mais informações, consulte a documentação de referência da API Node.js em lote.
Para autenticar no Batch, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Python
Python
Para mais informações, consulte a documentação de referência da API Python em lote.
Para autenticar no Batch, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
C++
C++
Para mais informações, consulte a documentação de referência da API C++ em lote.
Para autenticar no Batch, configure o Application Default Credentials. Para mais informações, consulte Configurar a autenticação para um ambiente de desenvolvimento local.
Usar um sistema de arquivos de rede
É possível criar um job que use um sistema de arquivos de rede (NFS, na sigla em inglês) atual, como um compartilhamento de arquivos do Filestore, usando o console do Google Cloud, a CLI gcloud ou a API Batch.
Antes de criar um job que use um NFS, verifique se o firewall da rede está configurado corretamente para permitir o tráfego entre as VMs do job e o NFS. Para mais informações, consulte Como configurar regras de firewall para o Filestore.
Este exemplo descreve como criar um job que especifica e
monta um NFS. O job também tem três tarefas, em que cada uma executa um script para criar um arquivo no NFS chamado output_task_TASK_INDEX.txt
, em que TASK_INDEX
é o índice de cada tarefa: 0
, 1
e 2
.
Console
Para criar um job que use um NFS usando o console do Google Cloud, faça o seguinte:
No console do Google Cloud, acesse a página Lista de jobs.
Clique em
Criar. A página Criar job em lote é aberta. No painel esquerdo, a página Detalhes do job é selecionada.Configure a página Detalhes do job:
Opcional: no campo Nome do job, personalize o nome.
Por exemplo, insira
example-nfs-job
.Configure a seção Detalhes da tarefa:
Na janela Novo executável, adicione pelo menos um script ou contêiner para que esse job seja executado.
Por exemplo, faça o seguinte:
Marque a caixa de seleção Script. Uma caixa de texto será exibida.
Na caixa de texto, insira o seguinte script:
echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt
Substitua MOUNT_PATH pelo caminho de montagem que o executável do job usa para acessar esse NFS. O caminho precisa começar com
/mnt/disks/
seguido por um diretório ou caminho escolhido. Por exemplo, se você quiser representar esse NFS com um diretório chamadomy-nfs
, defina o caminho de montagem como/mnt/disks/my-nfs
.Clique em Concluído.
No campo Contagem de tarefas, insira o número de tarefas desse job.
Por exemplo, insira
3
.No campo Paralelismo, insira o número de tarefas a serem executadas simultaneamente.
Por exemplo, digite
1
(padrão).
Configure a página Outras configurações:
No painel à esquerda, clique em Outras configurações. A página Outras configurações é aberta.
Para cada bucket do Cloud Storage que você quer ativar nesse job, faça o seguinte:
Na seção Volume de armazenamento, clique em Adicionar novo volume. A janela Novo volume será exibida.
Na janela Novo volume, faça o seguinte:
Na seção Tipo de volume, selecione Sistema de arquivos de rede.
No campo Servidor de arquivos, insira o endereço IP do servidor em que o NFS especificado no executável deste job está localizado.
Por exemplo, se o NFS for um compartilhamento de arquivos do Filestore, especifique o endereço IP da instância do Filestore, que pode ser conseguido descrevendo a instância do Filestore.
No campo Caminho remoto, insira um caminho que possa acessar o NFS especificado na etapa anterior.
O caminho do diretório NFS precisa começar com um
/
seguido pelo diretório raiz do NFS.No campo Caminho de montagem, insira o caminho de montagem para o NFS (MOUNT_PATH), que você especificou na etapa anterior.
Clique em Concluído.
Opcional: configure os outros campos deste job.
Opcional: para revisar a configuração do job, clique em Visualizar no painel esquerdo.
Clique em Criar.
A página Detalhes do job exibe o job que você criou.
gcloud
Para criar um job que use um NFS usando a
CLI gcloud, use o
comando gcloud batch jobs submit
.
No arquivo de configuração JSON do job, monte o NFS no campo volumes
.
Crie um arquivo JSON com o seguinte conteúdo:
{ "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt" } } ], "volumes": [ { "nfs": { "server": "NFS_IP_ADDRESS", "remotePath": "NFS_PATH" }, "mountPath": "MOUNT_PATH" } ] }, "taskCount": 3 } ], "logsPolicy": { "destination": "CLOUD_LOGGING" } }
Substitua:
NFS_IP_ADDRESS
: o endereço IP do NFS. Por exemplo, se o NFS for um compartilhamento de arquivos do Filestore, especifique o endereço IP da instância do Filestore, que pode ser encontrado descrevendo a instância do Filestore.NFS_PATH
: o caminho do diretório NFS que você quer acessar por este job. Ele precisa começar com/
seguido pelo diretório raiz do NFS. Por exemplo, para um compartilhamento de arquivos do Filestore chamadoFILE_SHARE_NAME
, o caminho/FILE_SHARE_NAME
representa o diretório raiz do compartilhamento de arquivos, e o caminho/FILE_SHARE_NAME/subdirectory
representa o subdiretóriosubdirectory
.MOUNT_PATH
: o caminho de montagem que os executáveis do job usam para acessar esse NFS. O caminho precisa começar com/mnt/disks/
seguido por um diretório ou caminho escolhido. Por exemplo, se você quiser representar esse NFS com um diretório chamadomy-nfs
, defina o caminho de montagem como/mnt/disks/my-nfs
.
Execute este comando:
gcloud batch jobs submit JOB_NAME \ --location LOCATION \ --config JSON_CONFIGURATION_FILE
Substitua:
JOB_NAME
: o nome do job.LOCATION
: o local do job.JSON_CONFIGURATION_FILE
: o caminho de um arquivo JSON com os detalhes de configuração do job.
API
Para criar um job que use um NFS usando a API Batch, use o método jobs.create
e monte o NFS no campo volumes
.
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME
{
"taskGroups": [
{
"taskSpec": {
"runnables": [
{
"script": {
"text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
}
}
],
"volumes": [
{
"nfs": {
"server": "NFS_IP_ADDRESS",
"remotePath": "NFS_PATH"
},
"mountPath": "MOUNT_PATH"
}
]
},
"taskCount": 3
}
],
"logsPolicy": {
"destination": "CLOUD_LOGGING"
}
}
Substitua:
PROJECT_ID
: o ID do projeto (link em inglês).LOCATION
: o local do job.JOB_NAME
: o nome do job.NFS_IP_ADDRESS
: o endereço IP do sistema de arquivos de rede. Por exemplo, se o NFS for um compartilhamento de arquivos do Filestore, especifique o endereço IP da instância do Filestore, que pode ser encontrado descrevendo a instância do Filestore.NFS_PATH
: o caminho do diretório NFS que você quer acessar por este job. Ele precisa começar com/
seguido pelo diretório raiz do NFS. Por exemplo, para um compartilhamento de arquivos do Filestore chamadoFILE_SHARE_NAME
, o caminho/FILE_SHARE_NAME
representa o diretório raiz do compartilhamento de arquivos, e o caminho/FILE_SHARE_NAME/subdirectory
representa um subdiretório.MOUNT_PATH
: o caminho de montagem que os executáveis do job usam para acessar esse NFS. O caminho precisa começar com/mnt/disks/
seguido por um diretório ou caminho escolhido. Por exemplo, se você quiser representar esse NFS com um diretório chamadomy-nfs
, defina o caminho de montagem como/mnt/disks/my-nfs
.
A seguir
- Se você tiver problemas para criar ou executar um job, consulte Solução de problemas.
- Visualizar jobs e tarefas
- Saiba mais sobre mais opções de criação de jobs.