Jev AI：比 LLM 快 40–200 倍的決策模型

你叫 AI 做決策，它給了你一篇八百字的小作文。

你要的不是文章，是一個「是或否」、一個分類、一個分數。但你得自己從它的回覆裡拆出來，然後猜它到底有多大把握。每一次自動化流程卡在這裡——太精細的規則寫不完，太聰明的模型又慢又貴。

我最近看了 TypeSafe AI 發布的全新模型 Jev，它做的事情很直接：不寫文字，只給帶機率的結構化判斷。它的創辦人 Diogo Almeida 是 OpenAI InstructGPT 技術的共同作者——ChatGPT 背後的訓練技術就有他一手。現在他做了個「不靠文字生成的 AI 模型」。

---

Jev 是什麼？一個不做翻譯、只做決斷的 AI

一般語言模型的任務是「理解你的話，然後回你一段文字」。Jev 的任務完全不同——它把你的資料吃進去，然後吐出一個你事先定義好的結構。

想像你有一個客服工單分類的需求。傳統做法是寫一堆規則：包含「退款」就分到 A 類、有「投訴」關鍵字就分到 B 類……但自然語言太複雜了，規則永遠寫不完。於是有人把工單丟給大型語言模型（Large Language Model，簡稱 LLM，一種能理解並生成自然文字的 AI），問它「這屬於哪個類別？」LLM 回了一整段分析，你再用正規表達式去拆出它說的答案。

Jev 的做法是：你直接給它一個 choice 問題，最多 255 個選項，它回傳的是哪一個選項被選中、每個選項的機率是多少、信心分數多高。沒有文字可以誤解，程式可以直接用。

{
  "category": {
    "type": "choice",
    "options": ["billing", "technical", "account", "feature-request"],
    "value": "billing",
    "probability": 0.94,
    "confidence": 0.88
  }
}

這看起來很像應用程式介面（API，程式之間溝通的管道）呼叫。背後是一個被特別訓練來做機率性判斷的模型，跟傳統規則引擎的做法完全不同。TypeSafe AI 稱它為「System One Model」——借用了快思慢想（Thinking, Fast and Slow）裡的 System 1 概念：快速、直覺、不需要反覆思考的判斷。

Jev 有三種原語（primitive，最基本的操作類型），每一個都對應一種決策類型：

• choice：從選項中選一個，回傳 winning key 和每選項機率
• score：在自訂刻度上打分數（例如 1–5），回傳分數與分佈
• noul：是或否的問題，回傳 0 到 1 的機率

三種原語可以在一次呼叫中並行提問。你不需要打三次 API，一次 POST 全部搞定。

---

為什麼它比傳統 AI 模型快那麼多？

這是最讓人好奇的部分。TypeSafe AI 宣稱 Jev 比主流大型語言模型快 40 到 200 倍，回應時間在 70 到 500 毫秒之間。對比之下，同樣的決策任務丟給 GPT-5.6 Luna 需要約 8.5 秒。

關鍵不在於「更快的文字生成」，而在於根本沒有文字生成。

語言模型是「自回歸」的——一個 token（文字處理的基本單位，大約相當於一個字或詞的一部分）接著一個 token 地產生。你問它「這封信該分到哪個類別？」它得先想好開頭、中間分析、結尾結論，然後逐字輸出。就算你只想要一個分類結果，它也得把整段推理寫出來。

Jev 不走這條路。它的架構做兩件事：

1. 平行評估：所有選項同時計算，不需要等前一個 token 完成
2. 機率決策：不產生文字，直接輸出帶機率的結構化值

TypeSafe AI 的訓練方法叫做 RLCD（Reinforcement Learning for Calibrated Decisions，強化學習與校準決策）。這不是 RLHF。RLHF 的目標是讓模型的回答更符合人類評審的偏好。RLCD 的目標則是讓信心分數更可靠。

如果信心值不準，自動化流程很難做出正確判斷——你的 AI 代理（agent，自動執行任務的程式）可能該停的時候不停、該停的時候繼續跑。RLCD 就是為了解決這個問題。

---

價格：每百萬 tokens 4.2 分錢，輸出免費

Jev 的價格低得驚人。根據 TypeSafe AI 官方文件（docs.typesafe.ai/models），輸入是 $0.042 每百萬 tokens——也就是說你送 100 萬個 token 進去，只要 4.2 分錢。輸出完全免費，因為它根本不產生文字。

讓我拿主流模型來比：

模型	輸入 / 百萬 tokens
Jev	$0.042
GPT-5.6 Luna	$0.20
GPT-5.6 Terra	$2.00
Claude Sonnet 5	$2.00
Claude Fable 5.1	$10.00

差距不是幾倍，是幾個數量級。Claude Fable 5.1 的輸入價格是 Jev 的 238 倍——這也是 TypeSafe 首頁上寫著的數字。

但這只是「單價」。實際成本還要看你送多少 token。

為什麼差這麼多？因為 Jev 的輸出不計費，而且它的推理方式不需要生成大量文字。你送一個工單內容進去，它回一個 choice 結果——這個結果只有幾個 token，根本不用錢。

---

實際應用：誰在用 Jev？

Jev 不是概念驗證，已經有企業在用了。2026 年 9 月 22 日，自動化平台 Kognitos 宣布與 TypeSafe AI 合作，把 Jev 整合進他們的企業流程中。

具體案例包括：

• 票務分類：客服工單進來後，Jev 判斷類別和優先級
• 保險理賠流程：評估理賠申請的風險等級
• 應收帳款 inbox 排序：把 incoming email 分類為付款承諾、爭議或需要補充文件

TypeSafe AI 的官方頁面列出了更多使用場景：

• 模型路由：根據請求複雜度，自動分流到不同的大型語言模型（簡單的用快模型、複雜的用人類專家模型）
• 工具呼叫防護：AI 代理要執行 shell 命令或修改檔案前，先用 Jev 評分風險
• 上下文壓縮：AI 代理在長對話中，決定哪些舊的工具結果該保留、截斷或刪除

一個有趣的應用是「上下文壓縮」。當一個 AI 代理在長對話中使用工具時，會產生大量歷史記錄。傳統做法是用另一個 AI 模型來摘要——但這又貴又慢，而且可能丟失資訊。

Jev 可以直接判斷：這個舊結果還重要嗎？保留、截斷、還是刪除？一次呼叫搞定，70 毫秒內回傳。

---

Jev 不是開源的，但工具鏈是

TypeSafe AI 沒有釋出 Jev 的模型權重。你只能透過他們的 API 使用——目前支援 Python SDK、JavaScript SDK 和 HTTP API。

不過，圍繞 Jev 的工具生態是開放的：

• awesome-jev：社群整理的資源列表
• jev-mcp：Model Context Protocol 整合，讓 Claude Code 等工具可以直接呼叫 Jev
• LangChain integration：可以在 LangChain 工作流中使用 Jev

TypeSafe AI 也提供了 Vercel AI Gateway、OpenRouter 和 Cloudflare Workers AI 作為中間層使用 Jev。如果你已經在用這些平台，接 Jev 的成本很低。

---

怎麼開始用 Jev？

TypeSafe AI 提供了三種方式接入：

程式碼很簡短。你不需要 AI 模型的開發經驗——因為 Jev 的輸入是結構化的資料、輸出也是結構化的判斷，整個流程就像填空一樣直觀。

---

它會取代傳統 AI 模型嗎？不會，但它會改變自動化遊戲規則

Jev 不是萬能的。你不能拿它來寫文章、做創意工作、或跟客戶聊天——它根本不會產生文字。它的強項是小規模、高頻率的決策任務。

一個典型的 AI 代理在執行任務時，可能需要做數十甚至數百個小決策：這個請求安全嗎？這個工單該分給誰？這個結果還需要保留嗎？如果把每個決策都丟給 AI 模型，成本會很高、速度會很慢。

Jev 的出現讓這些決策變得不需要那麼「昂貴」。就像 TypeSafe AI 創辦人 Diogo Almeida 說的：「模型在聊天方面已經超人類了，那自動化呢？」（原文：‘Models have been superhuman at chat for years, so where is all the automation?’）他認為過去兩年大家把 AI 都往對話導向優化，但真正的價值不在於更好的聊天，而在於更好的機器之間的協作。

Jev 的命名也很有趣——來自 1860 年代的經濟學家 William Stanley Jevons。他發現了一個悖論：當蒸汽引擎的效率提升時，英國反而燒了更多的煤（後來稱為「Jevons paradox」）。TypeSafe AI 認為 AI 決策也會走同樣的路：當一個決策的成本從幾分錢降到幾十萬分之一，你會把 AI 放在從來不敢放的地方。

---

誠實說：Jev 不是沒有風險

Jev 最吸引人的地方是 TypeSafe 宣稱它「不會產生幻覺」——因為它不輸出文字。但這句話需要加個註解：Jev 不產生文字故無文本幻覺，但決策結果仍可能出錯。

TypeSafe 強調 Jev 的架構保證了「類型安全」（type safety）：輸出一定是你定義好的格式，不會跑版、不會亂碼。這跟傳統 AI 模型不一樣——AI 模型可能會說出一段看起來合理但完全錯誤的答案，而且你看不出來。Jev 至少保證格式一定對。

不過，格式正確不等於答案正確。一個模型可以不產生任何幻覺文字，但仍然做出錯誤的判斷——只是那種錯誤比較容易從程式碼裡偵測到。

TypeSafe 對 RLCD 訓練方法的宣稱是讓信心分數更可靠，但這項能力在官方測試之外的實際表現如何，目前還沒有獨立的第三方驗證。（Capital & Compute 指出：「Whether the calibration holds outside TypeSafe’s own tests is still an open question。」）

換句話說，Jev 是一個很強大的工具，但它不是神。用它的時候，信心分數值得參考，但不該完全信任。

---

最後說兩句

Jev 代表了一種不同的 AI 哲學：不是所有問題都需要一個「更聰明的聊天機器人」來回答。有些問題只需要一個更快、更便宜、更可靠的判斷。

如果你正在做自動化流程、AI 代理系統、或任何需要大量小決策的應用，Jev 值得關注。它不搶 AI 模型的飯碗，但它讓那些本來因為成本太高而無法自動化的事情變得可行。

AI 的世界正在從「一個模型做所有事」走向「每個任務用最適合的工具」。Jev 是這個趨勢裡很明確的一塊拼圖。

延伸閱讀：

• Claude Code 超級紀律：幫 AI 裝上資深工程師的自律
• MCP server 教學：自己寫一個要多久？
• 7 個一個人就能做的 AI Agent 生意
• Cursor 教學：跟 Claude Code 到底該用哪個？