PT EN
Voltar ao site

Configurar a triagem em lote

A tela Sistema → Triagem em Lote controla quanto do orçamento de IA a triagem pode usar e como cada lote é dimensionado — sem release e sem restart. Ela existe porque, até setembro de 2026, mudar o tamanho do lote ou a fatia da cota exigia editar o chart e publicar a plataforma inteira; e porque um formulário que só grava números seria um pé-de-cabra: a tela valida a combinação antes de gravar e explica o que recusou.

Quem pode usar

AçãoPermissão
Ver o plano em vigor, os parâmetros e simular por contextoAUDIT_VIEW
Gravar parâmetros e restaurar o baselineAUDIT_CONFIG_EDIT (perfil usuário avançado e administradores)

Sem a permissão de escrita a tela abre normalmente, com o formulário desabilitado e um aviso dizendo qual permissão falta. A barreira real é do serviço — a tela é só a dica visual.

O que a tela mostra

Plano em vigor

O que o planejador escolheria agora para um processo típico, com a cota e as medidas atuais: lote (regras por chamada), maxTokens pedido, chamadas em voo, custo p90 por análise (medido, ou o inicial enquanto não há amostra), tamanho típico do prompt, latência p50 e a cota da lane de lote (RPM/TPM). O motivo diz qual teto decidiu o lote — batch-maximo, teto de saida, tempo de geracao ou ajuste apos falha observada.

Se a configuração em vigor tiver inconsistência (por exemplo, um lote máximo que não cabe no teto de saída com o custo medido), ela aparece aqui em vermelho, antes de qualquer edição.

Fatia do orçamento de IA

A fração da cota do modelo (RPM e TPM) reservada à triagem. O restante fica garantido para chat, copilot e NER. A fatia vive no limitador distribuído do gateway de IA — vale para todas as réplicas, e uma mudança chega ao limitador em até 15 segundos.

O cartão ao lado mostra a cota do modelo ativo, a cota da lane que a fatia produz e quantas chamadas em voo ela permite. Se o limitador estiver inativo para o modelo (cota desconhecida), a fatia não tem efeito até o gateway conhecer a cota — a tela diz isso.

Parâmetros do lote

ParâmetroO que protege
Lote dinâmicoDesligado, vale o par estático do chart (mostrado logo abaixo do formulário).
Lote máximoTeto duro de regras por chamada. O planejador escolhe o maior lote que cabe — subir o teto não obriga o lote a crescer.
Folga do teto de saídaMargem sobre lote × custo por análise ao pedir maxTokens. O gateway debita o maxTokens inteiro da cota.
Custo inicial por análiseUsado até haver amostra real; depois vale o p90 medido.
Teto de saída do modeloMaior maxTokens pedido ao provedor.
Velocidade de saídaConverte o custo do lote em tempo de geração — limita o lote pelo timeout.
Latência inicialUsada até haver amostra real; converte a cota em vagas em voo.
Concorrência máximaTeto de chamadas em voo por processo.

Cada parâmetro traz a origem do valor em vigor: configuração (gravado por esta tela) ou baseline (o valor do chart ou o padrão do serviço). O botão Restaurar baseline apaga só aquela sobreposição — os demais ficam.

Só o que mudou é gravado. Gravar tudo transformaria cada baseline em "configuração", e a origem deixaria de dizer a verdade.

Timeouts

Somente leitura: o timeout da chamada ao modelo e o da resposta HTTP mudam pelo chart e valem no restart do serviço. A tela avisa quando o timeout de transporte não é maior que o da chamada de IA — a inversão que faz regras sumirem do laudo sem erro.

Simulação por contexto

Escolha um contexto triável: a tela conta as regras ativas e os processos reais dele e aplica a conta da triagem ao plano em vigor — chamadas por processo (lotes + laudo), chamadas por minuto que a cota da lane permite e qual eixo aperta primeiro (RPM ou TPM), tempo por processo e para o contexto inteiro. É uma conta de capacidade, não uma promessa: um processo grande custa mais.

Quais processos entram na conta. Os mesmos que a triagem varreria: os que têm peça própria no acervo. Um número de processo apenas citado dentro da peça de outro não tem texto próprio e nunca entra na fila — logo, também não entra aqui. A diferença costuma ser grande: num acervo real, 70 processos identificados no grafo para 12 com peça. O número deste cartão é o mesmo que o painel de processos mostra para o contexto; se os dois discordarem, um deles está errado.

Quando a contagem não pode ser lida, a simulação não acontece e a tela diz por quê — banco do contexto sem resposta (tente de novo em instantes) ou banco inexistente (aí o conserto é no cadastro do contexto, e repetir não adianta). "Este contexto ainda não tem processo carregado" só aparece quando a contagem rodou e o resultado foi zero de verdade.

O que a tela recusa

A validação roda no serviço sobre a combinação resultante (baseline mais o que você mudou), e a resposta diz o que corrigir:

  • Fatia fora de 1%–90%. Zero desliga a triagem; acima de 90% chat, copilot e NER ficam sem cota.
  • Lote máximo que não cabe no teto de saída: lote × custo × folga acima do teto. A mensagem diz quantas regras cabem com o custo atual.
  • Folga fora de 1,00–1,50; teto de saída fora de 512–65.536; custo inicial fora de 16–4.096; concorrência fora de 1–64; velocidade fora de 5–5.000 tokens/s; latência fora de 1–300 s.

Avisos não bloqueiam e voltam junto com a confirmação: teto de saída mais de 2,5× acima do necessário (cota reservada e nunca usada), lote dinâmico desligado, timeouts invertidos.

Quando a mudança vale

A partir do próximo processo triado — um lote em andamento termina com o plano com que começou. Nenhum serviço reinicia.

Toda gravação e toda restauração ficam na trilha de auditoria da plataforma (TRIAGEM.CONFIG_ALTERADA e TRIAGEM.CONFIG_RESTAURADA), com quem alterou e os valores antes e depois.

Relação com o chart

O chart continua sendo o baseline: o que vale quando nada foi gravado pela tela, e o que volta quando você restaura um parâmetro. A ordem é configuração → chart (env) → padrão do serviço. Mudar o chart não apaga o que a tela gravou — para voltar ao chart, restaure o parâmetro.

Veja também: Triagem em lote (guia do usuário) e, em Arquitetura, Triagem: lote dinâmico por fatia do orçamento de IA.