Jev vs AnyJev
AnyJev, da Nokia Applied Research, transforma um LLM que você já tem num modelo de decisão lendo os estados ocultos.
O que é o AnyJev
AnyJev é Apache-2.0. Não treina um modelo de tarefa. Lê os estados ocultos de um LLM existente, aplica correção de viés e calibração, e serve o próprio endpoint de decisão. O LLM pode ser um modelo do Hugging Face ou um servidor vLLM.
Sem treino não quer dizer sem operação
Você ainda escolhe o modelo base, serve ele e confere a calibração nos seus próprios casos. A precisão depende do modelo para o qual você aponta. O AnyJev não inclui uma conta de Jev hospedado.
Quando serve
Use o AnyJev quando esse LLM já está na sua pilha e você quer escolha, nota e sim/não por cima. Use o JEV Gateway quando a decisão deve ser uma única chamada a uma API hospedada.