Um embedding de texto é uma representação vetorial de dados de texto. Ele é usado de muitas maneiras para encontrar itens semelhantes. Você interage com elas sempre que faz uma pesquisa no Google ou recebe recomendações ao fazer compras on-line. Ao criar embeddings de texto, você recebe representações vetoriais de texto natural como matrizes de números de ponto flutuante. Isso significa que todo o texto de entrada recebe uma representação numérica. Ao comparar a distância numérica entre as representações vetoriais de duas partes do texto, um aplicativo pode determinar a semelhança entre o texto ou os objetos representados pelo texto.
Com a API Text-embeddings da Vertex AI, é possível criar um
embedding de texto com a IA generativa. Usando este tutorial, é possível gerar embeddings de texto para os dados armazenados no Spanner e nos modelos de incorporação da Vertex AI, como o modelo textembedding-gecko
.
Para saber mais sobre embeddings, consulte Acessar embeddings de texto.
Objetivo
Neste tutorial, você aprenderá a realizar as seguintes tarefas:
- Registrar o modelo
textembedding-gecko
da Vertex AI em um esquema do Spanner usando instruções DDL - Fazer referência ao modelo registrado usando consultas SQL para gerar embeddings a partir de dados armazenados no Spanner.
Custos
Neste tutorial, há componentes faturáveis do Google Cloud, entre eles:
- Spanner
- Vertex AI
Para mais informações sobre os custos do Spanner, consulte a página de preços do Spanner.
Para mais informações sobre os custos da Vertex AI, consulte a página de preços da Vertex AI.
Gerar e armazenar embeddings de texto
Dependendo do modelo usado, a geração de embeddings pode levar algum tempo. Para cargas de trabalho sensíveis ao desempenho, a prática recomendada é evitar gerar embeddings em transações de leitura/gravação. Em vez disso, gere os embeddings em uma transação somente leitura usando os exemplos de SQL a seguir.
GoogleSQL
Registrar um modelo de embeddings de texto no Spanner
No GoogleSQL, é preciso registrar um modelo antes de usá-lo com a função ML.PREDICT
. Para registrar o modelo textembedding-gecko
em um banco de dados do Spanner, execute a seguinte instrução DDL:
CREATE MODEL MODEL_NAME
INPUT(content STRING(MAX))
OUTPUT(
embeddings
STRUCT<
statistics STRUCT<truncated BOOL, token_count FLOAT64>,
values ARRAY<FLOAT64>>
)
REMOTE OPTIONS (
endpoint = '//aiplatform.googleapis.com/projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko@002'
);
Substitua:
MODEL_NAME
: o nome do modelo de embeddingPROJECT
: o projeto que hospeda o endpoint da Vertex AILOCATION
: o local do endpoint da Vertex AI.
O Spanner concede as permissões apropriadas automaticamente. Caso contrário, revise o controle de acesso do endpoint do modelo.
A descoberta e a validação de esquemas não estão disponíveis para modelos de IA
generativa. É necessário fornecer cláusulas INPUT
e OUTPUT
que correspondam
ao esquema do modelo. Para ver o esquema completo do modelo Gecko, consulte
Receber embeddings de texto.
Gerar embeddings de texto
Para gerar embeddings, transmita um trecho de texto diretamente para a função
ML.PREDICT
usando o seguinte SQL:
SELECT embeddings.values
FROM ML.PREDICT(
MODEL MODEL_NAME,
(SELECT "A product description" as content)
);
Para gerar embeddings para dados armazenados em uma tabela, use o seguinte SQL:
SELECT id, embeddings.values
FROM ML.PREDICT(
MODEL MODEL_NAME,
(SELECT id, description as content FROM Products)
);
Armazenar embeddings de texto
Depois de gerar os embeddings em uma transação somente leitura, armazene-os no Spanner para que possam ser gerenciados com seus dados operacionais. Para armazenar os embeddings, use uma transação de leitura/gravação.
Para cargas de trabalho menos sensíveis ao desempenho, é possível gerar e inserir embeddings com o seguinte SQL em uma transação de leitura e gravação:
INSERT INTO Products (id, description, embeddings)
SELECT @Id, @Description, embeddings.values
FROM ML.PREDICT(
MODEL MODEL_NAME,
(SELECT @Description as content)
);
PostgreSQL
Gerar embeddings de texto
Para gerar embeddings, transmita um trecho de texto diretamente para a função
spanner.ML_PREDICT_ROW
usando o seguinte SQL:
SELECT
spanner.ML_PREDICT_ROW(
'projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko@002'::text,
'{"instances": [{"content": "A product description"}]}'::jsonb
) ->'predictions'->0->'embeddings'->'values';
Substitua:
PROJECT
: o ID do projetoLOCATION
: a região em que você está usando a Vertex AI.
Para gerar embeddings para dados armazenados em uma tabela, use o seguinte SQL:
SELECT id, spanner.ML_PREDICT_ROW(
'projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko@002'::text, JSONB_BUILD_OBJECT('instances', JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content', description))))
) -> `predictions`->0->`embeddings`->`values``
FROM Products;
Substitua:
PROJECT
: o ID do projetoLOCATION
: a região em que você está usando a Vertex AI.
Armazenar embeddings de texto
Depois de gerar os embeddings em uma transação somente leitura, armazene-os no Spanner para que possam ser gerenciados com seus dados operacionais. Para armazenar os embeddings, use uma transação de leitura/gravação.
Para cargas de trabalho menos sensíveis ao desempenho, é possível gerar e inserir embeddings com o seguinte SQL em uma transação de leitura e gravação:
INSERT INTO Products (id, description, embeddings)
SELECT @Id, @Description, spanner.ML_PREDICT_ROW(
'projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko@002'::text,
JSONB_BUILD_OBJECT('instances', JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content', @Description)))) -> 'predictions'->0->'embeddings'->'values'
)
Substitua:
PROJECT
: o ID do projetoLOCATION
: a região em que você está usando a Vertex AI.
Atualizar embeddings de texto
Para atualizar seus embeddings ou para ingerir dados em tempo real, use a instrução UPDATE
(GoogleSQL e PostgreSQL).
Para atualizar a tabela Products
no exemplo anterior, use o seguinte SQL:
GoogleSQL
UPDATE Products
SET
description = @description,
embeddings = (SELECT embeddings.values
FROM ML.PREDICT(MODEL MODEL_NAME, (SELECT @description as content))
)
WHERE id = @id;
Substitua:
MODEL_NAME
: o nome do modelo de embedding
PostgreSQL
UPDATE
Products
SET
description = $1,
embeddings = ARRAY(
SELECT
UNNEST::real
FROM
UNNEST((
SELECT
spanner.JSONB_QUERY_ARRAY(spanner.ML_PREDICT_ROW('projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko',
JSONB_BUILD_OBJECT('instances',
JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content',
$1)))) -> 'predictions'->0->'embeddings'->'values'))))
WHERE
id = $2;
Substitua:
PROJECT
: o ID do projetoLOCATION
: a região em que você está usando a Vertex AI.
A seguir
- Saiba como usar a Pesquisa de vetores da Vertex AI para pesquisar itens semanticamente semelhantes.
- Saiba mais sobre machine learning e embeddings no nosso curso intensivo sobre embeddings.