Ferramenta de Dados Externos

Anteriormente, o recurso da Base de Conhecimento permitia que os desenvolvedores carregassem diretamente vários formatos de textos longos e dados estruturados para construir datasets, permitindo que aplicativos de IA interagissem com base no contexto mais recente fornecido pelo usuário.

Com esta atualização, a Ferramenta de Dados Externos capacita os desenvolvedores a usarem suas próprias capacidades de busca ou bases de conhecimento internas como dados externos para o contexto do LLM. Isso é feito estendendo a API para recuperar e incorporar dados externos em prompts. Comparado ao upload de datasets para a nuvem, usar a Ferramenta de Dados Externos oferece vantagens significativas, como a segurança dos dados privados, personalização das buscas e acesso a dados em tempo real.

Quando um usuário final faz uma solicitação ao sistema de diálogo, o backend da plataforma acionará a ferramenta de dados externos (isto é, chamará sua própria API). Ela buscará informações externas relacionadas à pergunta do usuário, como perfis de funcionários ou registros em tempo real, e retornará as partes relevantes via API. O backend da plataforma montará os resultados retornados em texto e os injetará no prompt como contexto para fornecer respostas mais personalizadas e alinhadas com as necessidades do usuário.

Antes de usar a ferramenta de dados externos, você precisa preparar uma API e uma Chave de API para autenticação. Leia a documentação da Ferramenta de Dados Externos.

O Paragraph fornece um gerenciamento centralizado de APIs. Após adicionar a configuração de extensão da API na interface de configurações, ela pode ser usada diretamente em várias aplicações no Paragraph.

Por exemplo, para "consultar o clima", insira o nome, o endpoint da API e a Chave de API na caixa de diálogo Adicionar Extensão baseada em API. Após salvar, podemos chamar a API.

Na página de orquestração de prompts, clique no botão + Adicionar ao lado de Ferramentas. Na caixa de diálogo Adicionar Ferramenta que será aberta, preencha o nome e o nome da variável (o nome da variável será referenciado no prompt, preencha em inglês), e selecione a extensão baseada em API adicionada no passo 2.

Dessa forma, podemos montar os dados externos consultados no prompt. Por exemplo, para consultar o clima de hoje em Londres, você pode adicionar a variável de localização, inserir "Londres", combiná-la com o nome da variável de extensão da ferramenta de dados externos weather_data, e o output de depuração será o seguinte: