Jev vs AnyJev
AnyJev, de Nokia Applied Research, convierte un LLM que ya tienes en un modelo de decisión leyendo sus estados ocultos.
Qué es AnyJev
AnyJev es Apache-2.0. No entrena un modelo de tarea. Lee los estados ocultos de un LLM existente, aplica corrección de sesgo y calibración, y sirve su propio endpoint de decisión. El LLM puede ser un modelo de Hugging Face o un servidor vLLM.
Sin entrenamiento no significa sin operación
Sigues eligiendo el modelo base, sirviéndolo y comprobando la calibración con tus propios casos. La precisión depende del modelo al que lo apuntes. AnyJev no incluye una cuenta de Jev alojado.
Cuándo encaja
Usa AnyJev si ese LLM ya está en tu pila y quieres elección, puntuación y sí/no encima. Usa JEV Gateway si la decisión debe ser una sola llamada a una API alojada.