Modelo

paragraph é uma plataforma de desenvolvimento para aplicações de ia baseada em llm apps ao usar paragraph pela primeira vez, você precisa ir para configurações > provedores de modelos para adicionar e configurar o llm que você vai utilizar paragraph suporta os principais provedores de modelos, como a série gpt da openai e a série claude da anthropic as capacidades e parâmetros de cada modelo diferem, então selecione um provedor de modelo que atenda às necessidades da sua aplicação obtenha a chave api no site oficial do provedor de modelo antes de usá la no paragraph tipos de modelos no paragraph paragraph classifica os modelos em 4 tipos, cada um para diferentes usos modelos de inferência de sistema usados em aplicações para tarefas como chat, geração de nomes e sugestão de perguntas de acompanhamento provedores incluem openai, azure openai service, anthropic, hugging face hub, replicate, xinference, openllm, iflytek spark, wenxinyiyan, tongyi, minimax, zhipu (chatglm), ollama, localai modelos de embedding empregados para incorporar documentos segmentados em conhecimento e processar consultas de usuários em aplicações provedores incluem openai, zhipu (chatglm), jina ai (jina embeddings 2) modelos de rerank melhoram as capacidades de busca em llms provedor cohere modelos de reconhecimento de fala para texto convertem palavras faladas em texto em aplicações conversacionais provedor openai paragraph planeja adicionar mais provedores de llm conforme a tecnologia e as necessidades dos usuários evoluem serviço de teste de modelos hospedados paragraph oferece cotas de teste para usuários de serviços em nuvem experimentarem diferentes modelos configure seu provedor de modelo antes que o período de teste termine para garantir o uso contínuo da aplicação teste de modelos hospedados openai inclui 200 invocações para modelos como gpt 3 5 turbo, gpt 3 5 turbo 16k, e modelos text davinci 003 configurando o modelo padrão paragraph seleciona automaticamente o modelo padrão com base no uso configure isso em configurações > provedor de modelo configurações de integração de modelo escolha seu modelo em configurações > provedor de modelo no paragraph os provedores de modelo se dividem em duas categorias modelos proprietários desenvolvidos por provedores como openai e anthropic modelos hospedados oferecem modelos de terceiros, como hugging face e replicate os métodos de integração diferem entre essas categorias provedores de modelos proprietários o paragraph se conecta a todos os modelos de um provedor integrado configure a chave api do provedor no paragraph para integrá la paragraph usa criptografia pkcs1 oaep para proteger suas chaves api cada usuário (tenant) tem um par de chaves único para criptografia, garantindo que suas chaves api permaneçam confidenciais provedores de modelos hospedados integre modelos de terceiros individualmente métodos de integração específicos não são detalhados aqui hugging face replicate xinference openllm usando modelos uma vez configurados, esses modelos estão prontos para uso na aplicação