Estatísticas de DMLs particionadas ativas

A linguagem de manipulação de dados particionados (DML, na sigla em inglês) ativa fornece o progresso em tempo real para os DMLs particionados atualmente ativos no banco de dados.

O Spanner fornece uma tabela integrada, SPANNER_SYS.ACTIVE_PARTITIONED_DMLS, que lista DMLs particionadas em execução e o progresso feito nelas.

Neste artigo, vamos descrever a tabela em detalhes, mostrar alguns exemplos de consultas que a utilizam e, por fim, demonstrar como usá-las para ajudar a reduzir problemas causados por DMLs particionadas ativas.

Disponibilidade

Os dados do SPANNER_SYS só estão disponíveis nas interfaces SQL. Por exemplo:

Outros métodos de leitura única fornecidos pelo Spanner não são compatíveis com SPANNER_SYS.

ACTIVE_PARTITIONED_DMLS

SPANNER_SYS.ACTIVE_PARTITIONED_DMLS retorna uma lista de DMLs particionadas ativas classificadas pelo horário de início.

Esquema de tabela

Veja a seguir o esquema da tabela para SPANNER_SYS.ACTIVE_PARTITIONED_DMLS.

nome da coluna Tipo Descrição
TEXT STRING O texto da instrução de consulta da DML particionada.
TEXT_FINGERPRINT INT64 A impressão digital é um hash do texto DML particionado.
SESSION_ID STRING O ID da sessão que está executando a DML particionada. A exclusão do ID da sessão cancelará a consulta.
NUM_PARTITIONS_TOTAL INT64 O número total de partições na DML particionada.
NUM_PARTITIONS_COMPLETE INT64 O número de partições que a DML particionada concluiu.
NUM_TRIVIAL_PARTITIONS_COMPLETE INT64 O número de partições completas sem linhas processadas.
PROGRESS DOUBLE O progresso de uma DML particionada é calculado como o número de partições não triviais concluídas dividido pelo número total de partições não triviais.
ROWS_PROCESSED INT64 O número de linhas processadas até o momento, atualizado após a conclusão de cada partição.
START_TIMESTAMP. TIMESTAMP Um limite superior no horário de início de uma DML particionada.
LAST_UPDATE_TIMESTAMP TIMESTAMP Último carimbo de data/hora em que a DML particionada progrediu. Atualizado após a conclusão de uma partição.

Exemplo de consultas

É possível executar as instruções SQL de exemplo a seguir usando as bibliotecas de cliente, a Google Cloud CLI ou o Console do Google Cloud.

Como listar consultas em execução mais antigas

A consulta a seguir retorna uma lista de DMLs particionadas em execução, classificadas pelo horário de início da consulta.

SELECT text,
       session_id,
       num_partitions_total,
       num_partitions_complete,
       num_trivial_partitions_complete,
       progress,
       rows_processed,
       start_timestamp,
       last_update_timestamp
FROM spanner_sys.active_partitioned_dmls
ORDER BY start_timestamp ASC;
texto session_id num_partitions_total num_partitions_complete num_trivial_partitions_complete para indicar seu progresso rows_processed start_timestamp last_update_timestamp
UPDATE Concerts SET VenueId = \'amazing location\' WHERE SingerId < 900000 5bd37a99-200c-5d2e-9021-15d0dbbd97e6 27 15 3 50% 2398654 21-01-2024 15:56:30.498744-08:00 22-01-2024 15:56:39.049799-08:00
UPDATE Singers SET LastName = NULL WHERE LastName = '' 0028284f-0190-52f9-b396-aa588e034806 8 4 4 00% 0 22-01-2024 15:55:18.498744-08:00 22-01-2024 15:56:28.049799-08:00
DELETE de Singers WHERE SingerId > 1000000 0071a85e-7e5c-576b-8a17-f9bc3d157eea 8 4 3 20,00% 238654 22-01-2024 15:56:30.498744-08:00 22-01-2024 15:56:19.049799-08:00
UPDATE Singers SET MarketingBudget = 1000 WHERE true 036097a9-91d4-566a-a399-20c754eabdc2 8 5 0 62,50% 238654 22-01-2024 15:57:47.498744-08:00 22-01-2024 15:57:39.049799-08:00

Limitações

O uso da tabela SPANNER_SYS.ACTIVE_PARTITIONED_DMLS tem as seguintes limitações:

  • Os resultados PROGRESS, ROWS_PROCESSED e LAST_UPDATE_TIMESTAMP são incrementados nos limites de partição completos para que a DML particionada continue atualizando linhas enquanto os valores nesses três campos permanecem os mesmos.

  • Se houver milhões de partições em uma DML particionada, o valor na coluna PROGRESS pode não capturar todo o progresso incremental. Use NUM_PARTITIONS_COMPLETE e NUM_TRIVIAL_PARTITIONS_COMPLETE para fazer referência ao progresso de granularidade mais fina.

  • Se você cancelar uma DML particionada usando uma solicitação RPC, a DML particionada cancelada ainda poderá aparecer na tabela. Se você cancelar uma DML particionada usando a exclusão da sessão, ela será removida da tabela imediatamente. Para mais informações, consulte Como excluir o ID da sessão.

Usar dados de consultas de DML particionadas ativas para resolver problemas de alta utilização da CPU

As estatísticas de consulta e de transações fornecem informações úteis ao solucionar problemas de latência em um banco de dados do Spanner. Essas ferramentas fornecem informações sobre as consultas que já foram concluídas. No entanto, às vezes é preciso saber o que está em execução no sistema. Por exemplo, considere o cenário quando a utilização da CPU for alta e você quiser responder às perguntas a seguir.

  • Quantas DMLs particionadas estão em execução no momento?
  • O que são essas DMLs particionadas?
  • Quantas dessas DMLs particionadas estão em execução há muito tempo?
  • Qual sessão está executando a consulta?

Se você tiver respostas para as perguntas anteriores, poderá fazer o seguinte:

  • Exclua a sessão que executa a consulta para uma resolução imediata.
  • Reduza a frequência de uma DML particionada.

No tutorial a seguir, vamos examinar DMLs particionadas ativas e determinar qual ação tomar, se houver.

Recuperar um resumo de DMLs particionadas ativas

No cenário de exemplo, notamos um uso de CPU maior do que o normal. Por isso, decidimos executar a consulta a seguir para retornar a contagem de DMLs particionadas ativas.

SELECT count(*) as active_count
FROM spanner_sys.active_partitioned_dmls;

A consulta gera o seguinte resultado.

active_count
22

Listando os dois principais DMLs particionados em execução mais antigos

Em seguida, podemos executar uma consulta para encontrar mais informações sobre as duas DMLs particionadas mais antigas em execução classificadas pelo horário de início da DML particionada.

SELECT text,
       session_id,
       num_partitions_total,
       num_partitions_complete,
       num_trivial_partitions_complete,
       progress,
       rows_processed,
       start_timestamp,
       last_update_timestamp
FROM spanner_sys.active_partitioned_dmls
ORDER BY start_timestamp ASC LIMIT 2;
texto session_id num_partitions_total num_partitions_complete num_trivial_partitions_complete para indicar seu progresso rows_processed start_timestamp last_update_timestamp
UPDATE Concerts SET VenueId = \'amazing location\' WHERE SingerId < 900000 5bd37a99-200c-5d2e-9021-15d0dbbd97e6 27 15 3 50% 2398654 21-01-2024 15:56:30.498744-08:00 22-01-2024 15:56:39.049799-08:00
UPDATE Singers SET LastName = NULL WHERE LastName = '' 0028284f-0190-52f9-b396-aa588e034806 8 4 4 00% 0 22-01-2024 15:55:18.498744-08:00 22-01-2024 15:56:28.049799-08:00

Cancelar uma consulta cara

Encontramos uma DML particionada que está em execução há dias e não está progredindo. Portanto, podemos executar o seguinte comando gcloud spanner databases sessions delete para excluir a sessão usando o ID da sessão que cancela a DML particionada.

gcloud spanner databases sessions delete\
   5bd37a99-200c-5d2e-9021-15d0dbbd97e6 \
    --database=singer_db --instance=test-instance

A seguir