Esta página apresenta como criar aplicativos com tecnologia de LLM usando o LangChain. As visões gerais nesta página têm links para guias de procedimento no GitHub.
O que é o LangChain?
O LangChain é um framework de orquestração de LLMs que ajuda os desenvolvedores a criar aplicativos de IA generativa ou fluxos de trabalho de geração aumentada de recuperação (RAG, na sigla em inglês). Ele fornece a estrutura, as ferramentas e os componentes para otimizar fluxos de trabalho complexos de LLM.
Para mais informações sobre o LangChain, consulte a página Google LangChain. Para mais informações sobre o framework LangChain, consulte a documentação do produto LangChain.
Componentes do LangChain para o Spanner
O Spanner oferece as seguintes interfaces do LangChain:
Saiba como usar esses componentes em um aplicativo com o Guia de início rápido do LangChain para o Spanner.
Armazenamento de vetores para o Spanner
O armazenamento de vetores recupera e armazena documentos e metadados de um banco de dados de vetores. O armazenamento de vetores dá a um aplicativo a capacidade de realizar pesquisas semânticas que interpretam o significado de uma consulta do usuário. Esse tipo de pesquisa é chamado de pesquisa vetorial e pode encontrar tópicos que correspondam conceitualmente à consulta. No momento da consulta, o armazenamento de vetores recupera os vetores de embedding mais semelhantes ao embedding da solicitação de pesquisa. No LangChain, um repositório de vetores cuida do armazenamento de dados incorporados e da realização da pesquisa de vetor para você.
Para trabalhar com armazenamento de vetores no Spanner, use a classe SpannerVectorStore
.
Para mais informações, consulte a documentação do produto LangChain Vector Stores.
Guia de procedimento de armazenamento de vetores
O guia do Spanner para armazenamento de vetores mostra como fazer o seguinte:
- Instale o pacote de integração e o LangChain
- Inicializar uma tabela para o armazenamento de vetores
- Configurar um serviço de incorporação usando
VertexAIEmbeddings
- Inicializar
SpannerVectorStore
- Adicionar e excluir documentos
- Pesquisar documentos semelhantes
- Criar um repositório de vetores personalizado para se conectar a um banco de dados pré-existente do Spanner que tenha uma tabela com embeddings de vetores
Carregador de documentos para o Spanner
O carregador de documentos salva, carrega e exclui objetos Document
do
LangChain. Por exemplo, é possível carregar dados para processamento em embeddings e armazená-los em um armazenamento de vetores ou usá-los como uma ferramenta para fornecer contexto específico para cadeias.
Para carregar documentos do Spanner, use a classe SpannerLoader
.
Use a classe SpannerDocumentSaver
para salvar e excluir
documentos.
Para mais informações, consulte o tópico Carregadores de documentos LangChain.
Guia do procedimento do carregador de documentos
O guia do Spanner para o carregador de documentos mostra como fazer o seguinte:
- Instale o pacote de integração e o LangChain
- Carregar documentos de uma tabela
- Adicionar um filtro ao carregador
- Personalizar a conexão e a autenticação
- Personalize a construção de documentos especificando o conteúdo e os metadados do cliente
- Como usar e personalizar um
SpannerDocumentSaver
para armazenar e excluir documentos
Histórico de mensagens do Chat para o Spanner
Aplicativos de perguntas e respostas exigem um histórico do que foi dito na
conversa para dar contexto ao aplicativo para responder a outras perguntas
do usuário. A classe ChatMessageHistory
do LangChain permite que o aplicativo
salve mensagens em um banco de dados e as recupere quando necessário para formular outras
respostas. Uma mensagem pode ser uma pergunta, uma resposta, uma declaração, uma saudação ou qualquer outro texto que o usuário ou aplicativo faz durante a conversa.
O ChatMessageHistory
armazena cada mensagem e encadeia mensagens para cada
conversa.
O Spanner estende essa classe com SpannerChatMessageHistory
.
Guia do procedimento do histórico de mensagens do Chat
No guia do Spanner para o histórico de mensagens de chat, mostramos como fazer o seguinte:
- Instale o LangChain e faça a autenticação no Google Cloud
- Inicializar uma tabela
- Inicialize a classe
SpannerChatMessageHistory
para adicionar e excluir mensagens - Usar um cliente para personalizar a conexão e a autenticação
- Excluir a sessão
SpannerChatMessageHistory