JJEV Gateway
登录

Jev 对阵 AnyJev

AnyJev 来自 Nokia Applied Research,通过读取隐藏状态,把你已有的 LLM 变成决策模型。

AnyJev 是什么

AnyJev 是 Apache-2.0。它不训练任务模型。它读取现有 LLM 的隐藏状态,做去偏和校准,然后提供自己的决策接口。底座可以是 Hugging Face 模型,也可以是 vLLM 服务。

免训练不等于免运维

底座模型仍要你选、你部署,校准仍要用你自己的样本去核。准不准取决于你指给它的那个模型。AnyJev 不附带托管的 Jev 账号。

什么时候合适

这个 LLM 已经在你的技术栈里,你只想在上面加选择题、分数题和是非题,用 AnyJev。这个判断应该是一次托管 API 调用,用 JEV Gateway。