notes
Tools

System One モデル / Jev

RLCD で calibrated + 型安全出力を返す非 LLM モデル。LLM の前段フィルタ / 後段 verifier として役割分担する

要点#

System One モデル (typesafe.ai Jev が代表) は LLM とは別軸の AI モデル分類。

  • 入力: text (現状) — "structured program state" 前提
  • 出力: 型安全な構造値 + 各枝の calibrated probability。type error を絶対起こさない保証
  • 学習: RLCD (Reinforcement Learning for Calibrated Decisions) — 人間 preference を追う LLM とは違い、epistemically honest な確率を最適化
  • 速度: 70-500ms (LLM の 40-200x)
  • 料金: input $0.042 / M tokens、output 無料
  • 制約: 255 カーディナリティ、text only、cloud API のみ

Kahneman の System 1 / System 2 の類推:

  • System 1 = 反射的 / 型判定 / 分類 / ルーティング → Jev
  • System 2 = 熟慮 / 因果推論 / 文章生成 → LLM

LLM とどう役割分担するか#

タスク向いてる方理由
分類 / ルーティング / スコアリングJev型が明確、calibration が要る
短時間で決めたい yes/noJev100ms 未満
自由文の要約・生成LLMJev は文生成しない
因果推論 / なぜ壊れたか説明LLM開放的推論、type にはめられない
structured output 抽出 (schema 準拠)JevLLM は 1-5% で type error、Jev は 0%
LLM 出力の verify / guardrailJev型と確率で検証、retry が不要
多モーダル (画像/センサ)LLM (vision) or 専用モデルJev は現状 text only

Agent graph 上の設計パターン#

[観測 raw]  →  [text 要約 (LLM or rule)]  →  [Jev: 型付き分類]  →  branch
                                                     │
                    ┌────────────────────────────────┤
                    ▼                                ▼
              [高信頼: 既知パターン]           [低信頼: LLM に詳細調査]
              → 自動 patch / 定型対応         → open-ended reasoning

Jev を挟むメリット:

  1. LLM 呼び出しの 回数と入力長を圧縮 できる (料金 + レイテンシ)
  2. calibrated confidence で threshold gate が使える (LLM の "self-report confidence" は当てにならない)
  3. 型が graph node 間で担保 される (structured output の retry が消える)
  4. LLM は開放推論に専念できる

使い所と使えない所#

使い所:

  • ログ分類、issue 起票時の severity / component ラベリング
  • LLM 出力の verifier (schema 準拠検査 + 意味的整合検査)
  • 大量観測から異常だけを LLM に渡す前段フィルタ
  • routing (どの sub-agent / どの tool を呼ぶか)

使えない所:

  • 生の時系列 / 画像 (text 化のロスあり)
  • 開放的な文章生成
  • オンプレ / air-gapped 環境 (現状 cloud API)
  • 255 を超えるカーディナリティ (2 段 scoring はできるが 1 発ではない)

現状 (2026-09 時点)#

  • Early access (waitlist)
  • typesafe.ai が提供、 West Coast の cloud API
  • 学習を "RLCD" と名付けている点はマーケ用語かもしれないが、"人間 preference ではなく calibration を最適化" という差別化はコンセプトとして筋が通っている
  • 他社が追随するかは未知数、System 1 / System 2 の役割分担という考え方は独立に有用

関連#

  • LLM structured output (JSON schema + retry) — 現状の "Jev の代替" だが calibration も型保証も甘い
  • Agent graph 系 (LangGraph, autogen) — Jev を node として組み込むと計算量・信頼性が両立する
  • Bayesian filter / Kalman — 「観測から belief を更新」という発想は Jev と同じで、Jev は "多クラス categorical posterior を LLM 風入力で更新できる" と読める
最終更新:

On this page