Partitioned DML을 사용하여 텍스트 데이터에 대한 벡터 임베딩 일괄 생성

GoogleSQL

CREATE TABLE Products (
  product_id INT64 NOT NULL,
  name STRING(MAX),
  description STRING(MAX)
) PRIMARY KEY(product_id);

PostgreSQL

CREATE TABLE Products (
  product_id INT8 NOT NULL,
  name TEXT,
  description TEXT,
  PRIMARY KEY(product_id)
);

GoogleSQL

Spanner 데이터베이스에서 Vertex AI textembedding-gecko 엔드포인트에 임베딩 모델을 등록합니다.

CREATE MODEL MODEL_NAME
INPUT(
  content STRING(MAX)
)
OUTPUT(
  embeddings STRUCT<values ARRAY<FLOAT32>>
)
REMOTE OPTIONS(
    endpoint = '//aiplatform.googleapis.com/projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko$MODEL_VERSION',
  default_batch_size = 5
)

다음을 바꿉니다.

• MODEL_NAME: 임베딩 모델의 이름입니다.
• PROJECT: Vertex AI 엔드포인트를 호스팅하는 프로젝트입니다.
• LOCATION: Vertex AI 엔드포인트의 위치입니다.
• MODEL_VERSION: textembedding-gecko 임베딩 모델의 버전입니다.

PostgreSQL

PostgreSQL 언어에서는 모델을 등록할 필요가 없습니다. 엔드포인트 이름을 직접 spanner.ML_PREDICT_ROW 함수 호출에 전달합니다.

GoogleSQL

SELECT embeddings.values
FROM SAFE.ML.PREDICT(
  MODEL MODEL_NAME,
  (SELECT description AS content FROM products LIMIT 10)
);

다음을 바꿉니다.

• MODEL_NAME: 임베딩 모델의 이름

PostgreSQL

SELECT spanner.ML_PREDICT_ROW(
    'projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko$MODEL_VERSION',
    JSONB_BUILD_OBJECT('instances', JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content', description))))
FROM Products
LIMIT 10;

다음을 바꿉니다.

• PROJECT: Vertex AI 엔드포인트를 호스팅하는 프로젝트입니다.
• LOCATION: Vertex AI 엔드포인트의 위치입니다.
• MODEL_VERSION: textembedding-gecko 임베딩 모델의 버전입니다.

GoogleSQL

ALTER TABLE TABLE_NAME
ADD COLUMN EMBEDDING_COLUMN_NAME ARRAY<FLOAT32>;

다음을 바꿉니다.

• TABLE_NAME: 소스 테이블 이름입니다.
• EMBEDDING_COLUMN_NAME: 생성된 임베딩을 추가할 열의 이름입니다.

PostgreSQL

ALTER TABLE TABLE_NAME
ADD COLUMN EMBEDDING_COLUMN_NAME real[];

다음을 바꿉니다.

• TABLE_NAME: 소스 테이블 이름입니다.
• EMBEDDING_COLUMN_NAME: 생성된 임베딩을 추가할 열의 이름입니다.

GoogleSQL

ALTER TABLE Products
ADD COLUMN desc_embed ARRAY<FLOAT32>;

PostgreSQL

ALTER TABLE Products
ADD COLUMN desc_embed real[];

GoogleSQL

ALTER TABLE Products
ADD COLUMN desc_embed_model_version INT64;

PostgreSQL

ALTER TABLE Products
ADD COLUMN desc_embed_model_version INT8;

GoogleSQL

UPDATE TABLE_NAME
SET
  TABLE_NAME.EMBEDDING_COLUMN_NAME = (
    SELECT embeddings.values
    FROM SAFE.ML.PREDICT(
      MODEL MODEL_NAME,
      (SELECT TABLE_NAME.DATA_COLUMN_NAME AS content)
    ) @{remote_udf_max_rows_per_rpc=MAX_ROWS}
  ),
  TABLE_NAME.EMBEDDING_VERSION_COLUMN = MODEL_VERSION
WHERE FILTER_CONDITION;

다음을 바꿉니다.

• TABLE_NAME: 텍스트 데이터가 있는 테이블의 이름입니다.
• EMBEDDING_COLUMN_NAME: 생성된 임베딩을 추가할 열의 이름입니다.
• DATA_COLUMN_NAME: 텍스트 데이터가 있는 열의 이름입니다.
• MODEL_NAME: 임베딩 모델의 이름입니다.
• MAX_ROWS: RPC당 최대 행 수입니다.
• EMBEDDING_VERSION_COLUMN: 임베딩 백필에 사용되는 textembedding-gecko 임베딩 모델의 버전을 관리하는 열입니다.
• MODEL_VERSION: textembedding-gecko 임베딩 모델의 버전입니다.
• FILTER_CONDITION: 적용할 파티셔닝 가능 필터 조건입니다.

SAFE.ML.PREDICT를 사용하면 실패한 요청에 대해 NULL이 반환됩니다. 또한 SAFE.ML.PREDICT를 WHERE embedding_column IS NULL 필터와 함께 사용하여 이미 계산된 필드의 임베딩을 계산하지 않고 쿼리를 다시 실행할 수도 있습니다.

PostgreSQL

UPDATE TABLE_NAME
SET
  EMBEDDING_COLUMN_NAME = spanner.FLOAT32_ARRAY(spanner.ML_PREDICT_ROW(
    'projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko$MODEL_VERSION',
    JSONB_BUILD_OBJECT('instances', JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content', DATA_COLUMN_NAME)))
  ) /*@ remote_udf_max_rows_per_rpc=MAX_ROWS */ ->'predictions'->0->'embeddings'->'values'),
  EMBEDDING_VERSION_COLUMN = MODEL_VERSION
WHERE FILTER_CONDITION;

다음을 바꿉니다.

• TABLE_NAME: 텍스트 데이터가 있는 테이블의 이름입니다.
• EMBEDDING_COLUMN_NAME: 생성된 임베딩을 추가할 열의 이름입니다.
• DATA_COLUMN_NAME: 텍스트 데이터가 있는 열의 이름입니다.
• PROJECT: Vertex AI 엔드포인트를 호스팅하는 프로젝트입니다.
• LOCATION: Vertex AI 엔드포인트의 위치입니다.
• MODEL_VERSION: textembedding-gecko 임베딩 모델의 버전입니다.
• MAX_ROWS: RPC당 최대 행 수입니다.
• EMBEDDING_VERSION_COLUMN: 임베딩을 백필하는 데 사용되는 textembedding-gecko 임베딩 모델의 버전을 관리하는 열입니다.
• FILTER_CONDITION: 적용할 파티셔닝 가능 필터 조건입니다.

GoogleSQL

UPDATE products
SET
  products.desc_embed = (
    SELECT embeddings.values
    FROM SAFE.ML.PREDICT(
      MODEL gecko_model,
      (SELECT products.description AS content)
    ) @{remote_udf_max_rows_per_rpc=200}
  ),
  products.desc_embed_model_version = 3
WHERE products.desc_embed IS NULL;

PostgreSQL

UPDATE products
SET
  desc_embed = spanner.FLOAT32_ARRAY(spanner.ML_PREDICT_ROW(
    'projects/PROJECT/locations/LOCATION/publishers/google/models/textembedding-gecko@003',
    JSONB_BUILD_OBJECT('instances', JSONB_BUILD_ARRAY(JSONB_BUILD_OBJECT('content', description)))
  ) /*@ remote_udf_max_rows_per_rpc=200 */ ->'predictions'->0->'embeddings'->'values'),
  desc_embed_model_version = 3
WHERE desc_embed IS NULL;