Jev vs Kev

O Kev é uma família de modelos de decisões pequenos Apache-2.0 que falam o mesmo contrato /v1/systemone — você os hospeda. O Jev é hospedado. Mesma forma de requisição, donosidade bem diferente dos pesos e da operação. Gateway hospedado independente; não é o site oficial da TypeSafe.

O que é o Kev

O Kev, de Jared Palmer, ajusta bases Qwen em modelos de decisões com os mesmos tipos de pergunta. Os tamanhos publicados vão de 0.8B — que roda em um Mac Apple Silicon — até checkpoints de GPU maiores, e cada checkpoint vem com uma temperatura ajustada. O servidor fala o formato de requisição do System One, então um cliente existente mantém os payloads e troca a base URL.

Mesma requisição, a sua máquina

O corpo pode parecer idêntico: um state, mais perguntas de choice, score e sim/não, e volta uma distribuição. O que muda é tudo à volta: a versão do modelo que você fixa e aplica patch, a GPU que você mantém quente, a calibração que você recheca a cada upgrade, e o caminho dos dados que nunca sai do seu parque. Isso é controle real, com uma conta de operações real.

Custo e escala

Self-hosting do Kev é praticamente gratuito por chamada, com o hardware ligado; vence em alto volume estável, requisitos air-gapped ou frotas exclusivas de Mac. O caminho hospedado é por uso — 1 crédito por 1,000 tokens de entrada, $10 por 100,000 créditos, créditos que nunca expiram — e entrega versionamento, capacidade e comportamento sob falha à Optio. A sua lista de bugs muda de forma: em vez de servir, você ajusta criteria e thresholds.

Quando escolher qual

Escolha o Kev quando o formato de requisição em hardware sob o seu controle for o requisito. Escolha o Jev pela Optio quando quiser esse mesmo formato de requisição contra o Jev hospedado — chaves, créditos pré-pagos, sem GPU — e preferir gastar tempo de engenharia decidindo o que os seus criteria dizem a manter um servidor de decisões vivo.

Pontos fortes e limites honestos

Os limites honestos do Jev: você não pode aplicar patch aos pesos dele nem rodá-lo no seu próprio hardware — essa é a restrição de produto, não técnica. O avesso do Kev: fixar um checkpoint também é congelá-lo. Decida qual risco você prefere assumir — dependência de um endpoint hospedado, ou dependência de a sua própria pilha de serving continuar calibrada.

Comparação rápida

PerguntaJevKev
PesosProprietários, via endpoint da OptioCheckpoints Apache-2.0, a partir de 0.8B
HardwareNenhumApple Silicon ou as suas GPUs
OperaçõesNenhuma — endpoint, chaves, créditosServing, versionamento, checagens de calibração
Formato de custoPor uso: 1 crédito ≈ 1,000 tokens de entradaHardware + o seu tempo; custo marginal quase zero

FAQ

Posso apontar o meu cliente Jev existente para o Kev?
Muitas vezes sim — o Kev fala o mesmo contrato de requisição /v1/systemone, então o payload quase todo sobrevive à troca. As respostas vão diferir, porque os pesos diferem: revalide nos seus casos e reajuste os thresholds antes de confiar.
O Kev e o Jev têm qualidade equivalente?
Não necessariamente — modelos diferentes, treinamentos diferentes. A 0.8B, o Kev troca qualidade por custo de hardware; julgue os dois no seu próprio conjunto de validação de dez casos, em vez de qualquer alegação em qualquer um dos sites.
Qual é mais barato em um ano?
O Kev em alto volume estável — amorteça a GPU dele e o seu tempo de operação. O Jev em créditos em volume baixo ou espicado, ou sempre que ninguém da sua equipe quiser servir um modelo.
Este é o site oficial do Jev?
Não. A Optio é um gateway operado de forma independente para chamar o Jev e não tem vínculo com a TypeSafe nem com nenhum modelo alternativo mencionado nesta página.