Jev vs AnyJev
Nokia Applied Research の AnyJev は、既存 LLM の隠れ状態を読んで意思決定モデルにします。
AnyJev とは
AnyJev は Apache-2.0 です。タスクモデルは学習しません。既存 LLM の隠れ状態を読み、バイアス除去と較正をかけて、独自の意思決定エンドポイントを出します。ベースは Hugging Face のモデルでも vLLM でも構いません。
学習不要でも運用は残る
ベースモデルの選定、サーブ、自分の事例での較正確認は残ります。精度は向けたモデルに依存します。AnyJev にホスト型の Jev アカウントは含まれません。
向いているとき
その LLM がすでにスタックにあり、その上に選択・スコア・はい/いいえがほしいなら AnyJev です。判断を 1 回のホスト型 API 呼び出しにしたいなら JEV Gateway です。