---
title: Balanceamento de Carga
slug: balanceamento-de-carga
createdAt: 2024-09-03T19:58:30.330Z
---

Os limites de taxa dos modelos são restrições impostas pelos provedores de modelos sobre o número de vezes que os usuários ou clientes podem acessar serviços de API dentro de um período de tempo especificado. Esses limites ajudam a prevenir abusos ou usos indevidos da API, garantem acesso justo para todos os usuários e controlam a carga geral na infraestrutura.

Em chamadas de API de modelos em larga escala, de nível empresarial, altas solicitações simultâneas podem exceder os limites de taxa e afetar o acesso dos usuários. O balanceamento de carga pode distribuir as solicitações de API entre vários endpoints de API, garantindo que todos os usuários recebam a resposta mais rápida e a maior taxa de invocação de modelo, assegurando, assim, operações comerciais estáveis.

Você pode habilitar esse recurso navegando para **Fornecedor de Modelos** -- **Lista de Modelos** -- **Configurar Balanceamento de Carga de Modelos** e adicionando várias credenciais (chaves de API) para o mesmo modelo.

![](https://api.archbee.com/api/optimize/NB-ulyH02IT7Ep_VosDsd/_xYSilBVOnGe_r0Yf5E-I_image.png)

**Balanceamento de Carga de Modelos** 

O balanceamento de carga de modelos é um recurso pago. Você pode habilitá-lo assinando serviços pagos SaaS ou adquirindo a edição empresarial.

A chave de API padrão é a credencial adicionada ao configurar inicialmente o provedor de modelos. Você precisa clicar em **Adicionar Configuração** para adicionar diferentes chaves de API para o mesmo modelo, a fim de usar corretamente o recurso de balanceamento de carga.

![](https://api.archbee.com/api/optimize/NB-ulyH02IT7Ep_VosDsd/0Jb8PX1gNBuUgE3v22GPF_image.png)

**Configurando o Balanceamento de Carga** 

Pelo menos uma credencial adicional de modelo deve ser adicionada para salvar e habilitar o balanceamento de carga.

Você também pode desativar temporariamente ou excluir as credenciais configuradas.

![](https://api.archbee.com/api/optimize/NB-ulyH02IT7Ep_VosDsd/m7eHed-xyS3-XXVMqtSoZ_image.png)

Uma vez configurados, todos os modelos com balanceamento de carga habilitado serão exibidos na lista de modelos.

![](https://api.archbee.com/api/optimize/NB-ulyH02IT7Ep_VosDsd/MhC0ftYN0B2iTb9uwvvM3_image.png)

**Habilitando o Balanceamento de Carga** 

Por padrão, o balanceamento de carga usa a estratégia Round-robin. Se o limite de taxa for atingido, será aplicado um período de espera de 1 minuto.

Você também pode configurar o balanceamento de carga ao adicionar um modelo, seguindo o mesmo processo descrito acima.

![](https://api.archbee.com/api/optimize/NB-ulyH02IT7Ep_VosDsd/R8McdAXC9noBGuUmxJ7R1_image.png)