Sistema de Controle Neural
Uso com Alias
Use um nome do catálogo BYOK ou digite um alias personalizado. Se o alias coincidir com um modelo de plataforma, o pedido vai para este modelo local.
Parâmetros do Motor
Otimização Sistêmica
Marca se a GPU/CPU participa do carregamento do modelo. USO |
GPU principal (--main-gpu): recebe tensores centrais e costuma carregar mais peso no split. PRINCIPAL |
DISPOSITIVO | Percentual do modelo neste dispositivo (tensor-split). A soma das GPUs/CPU ativas deve totalizar 100%. DISTRIBUIÇÃO |
|---|---|---|---|
|
System RAM / CPU Offload
Latencia superior a VRAM
|
Offload para RAM/CPU quando a VRAM não comporta o modelo. Mais lento que GPU; o auto-balance usa como último recurso se habilitado.
%
|
Console de Instância
Integração
Autenticação
—
—
Modelos Disponíveis
Inicie a integração para listar modelos.
Uso com Alias
Use um nome do catálogo (gpt-4o, gpt-4o-mini, …), um alias personalizado, ou o ID opaco da listagem — ex.: antigravity-31prolow.gguf. Se o alias tiver o mesmo nome de um modelo da plataforma, o alias vence e o pedido vai para o alvo. Alguns clientes BYOK bloqueiam nomes de provedor como gemini/claude.
Modo Proxy Inteligente
Usado quando esta plataforma não é a principal: requisições encaminhadas ao proxy são atendidas por este modelo.
Tentado uma vez quando o modelo padrão retorna limite de cota, antes de bloquear a plataforma inteira.
Limites & Uso
—
Console de Requisições