Integre Modelos Open Source do Hugging Face

o paragraph suporta geração de texto e embeddings abaixo estão os tipos de modelos correspondentes do hugging face geração de texto text generation, text2text generation embeddings feature extraction os passos específicos são os seguintes você precisará de uma conta no hugging face defina a chave da api do hugging face selecione um modelo para acessar a página da lista de modelos do hugging face o paragraph suporta o acesso a modelos no hugging face de duas maneiras hosted inference api esse método usa o modelo implantado oficialmente pelo hugging face não é necessário pagar nenhuma taxa, mas a desvantagem é que apenas um número limitado de modelos suporta essa abordagem inference endpoint esse método usa recursos como aws acessados pelo hugging face para implantar o modelo e requer pagamento modelos que acessam a hosted inference api selecione um modelo a hosted inference api é suportada apenas quando há uma área contendo hosted inference api no lado direito da página de detalhes do modelo, conforme mostrado na imagem abaixo na página de detalhes do modelo, você pode obter o nome do modelo usando modelos de acesso no paragraph selecione hosted inference api para o tipo de endpoint em configurações > provedor de modelos > hugging face > tipo de modelo como mostrado abaixo o token da api é a chave da api definida no início do artigo o nome do modelo é o nome do modelo obtido na etapa anterior método 2 inference endpoint selecione o modelo para implantar o inference endpoint é suportado apenas para modelos com a opção inference endpoints sob o botão deploy no lado direito da página de detalhes do modelo, conforme mostrado abaixo implantação do modelo clique no botão deploy para o modelo e selecione a opção inference endpoint se você não tiver vinculado um cartão de crédito anteriormente, será necessário vinculá lo basta seguir o processo após vincular o cartão, a seguinte interface aparecerá modifique a configuração conforme necessário e clique em create endpoint no canto inferior esquerdo para criar um inference endpoint depois que o modelo for implantado, você poderá ver a url do endpoint usando modelos de acesso no paragraph selecione inference endpoints para o tipo de endpoint em configurações > provedor de modelos > hugging face > tipo de modelo como mostrado abaixo o token da api é a chave da api definida no início do artigo o nome do modelo de geração de texto pode ser arbitrário, mas o nome do modelo de embeddings precisa ser consistente com o hugging face a url do endpoint é a url do endpoint obtida após a implantação bem sucedida do modelo na etapa anterior nota o "nome de usuário / nome da organização" para embeddings precisa ser preenchido de acordo com o seu método de implantação nos inference endpoints do hugging face, com o "nome de usuário" ou o "nome da organização"