OpenAI 前研究員打造新模型 Jev，反應快、成本極低顛覆傳統 LLM

全新類別的尖端模型 System One Model 近日推出，由新創公司 TypeSafe AI 開發而成，已在 AI 社群引起高度討論。

「在 OpenAI 工作期間，我參與打造那些讓語言模型得以遵循指令、並與人們對話的相關方法，那些工作成果最終成為 ChatGPT 背後的基礎。」TypeSafe AI 執行長 Diogo Almeida 表示，「當時，我原以為對話模型或許能通往 AGI，儘管外界一片熱議，我卻越來越清楚意識到，其中缺少某種相當重要的東西。」

Diogo Almeida 是 OpenAI 前研究人員，參與奠定生成式 AI 基礎的 InstructGPT 論文與 RLHF（Reinforcement Learning from Human Feedback，基於人類意見回饋的強化學習）技術開發，是催生 ChatGPT 的關鍵人物之一。

歷經 2 年低調潛行、數不清的技術挑戰與各項研究突破後，Diogo Almeida 宣布推出 System One Model。它是一個全新類別的尖端模型，專為進行快速、結構化的決策而設計，讓軟體能直接取用。第一款 System One Model 稱為「Jev」，即日起開放存取測試。

TypeSafe AI 團隊為 System One Model 打造一整套全新技術堆疊，完全聚焦在自動化，包含一套全新模型架構、一個追求最高效率的平行取樣器（parallel sampler）、以及一套被稱為「校準決策強化學習」（Reinforcement Learning for Calibrated Decisions，RLCD）的訓練方法。

面對 System One Model 的任務，Jev 與現有大型語言模型相比有著接近水準的智慧表現。雖然 Jev 捨棄了字串生成能力，但針對結構化輸出最佳化，因此 TypeSafe AI 團隊聲稱絕不會產生幻覺。可以把 Jev 想像成是一個具有智慧的函式呼叫（function call），輸入非結構化的狀態，輸出類型化的機率決策。

各種大型語言模型的回應時間普遍會變動，有時甚至可能長達數分鐘。TypeSafe AI 團隊指出，Jev 的回應時間可介於 70 毫秒至 500 毫秒之間，較大型語言模型快上 40 倍至 200 倍。如 TypeSafe AI 網站公開的示範顯示，Jev 在 0.114 秒內便回應提問，相比之下，GPT-5.6 Terra 花了 8.566 秒。

接著來看成本，Jev 是每百萬個輸入 token 收費 0.042 美元，輸出方面幾乎免費。如 GPT-5.6 Terra 是每百萬個輸入 token 收費 2 美元、每百萬個輸出 token 收費 12 美元。若與 Claude Fable 5.1 這類頂尖模型相比，Jev 的成本更是低了 238 倍。

TypeSafe AI 團隊指出，Jev 適合用於 AI 自動化軟體、需要快速做出決策的即時應用、將 PB 等級巨量資料轉化為特徵與洞察的 map-reducing 作業、以及 AI 模型的執行框架等場景？

▲ 將各種大型語言模型與 Jev 並列比較，便能看出其中取捨。（Source：AI 生成）

Jev 這個名稱，是取自 19 世紀英國經濟學家 William Stanley Jevons，他以傑文斯悖論（Jevons Paradox）而聞名，其主張與煤炭使用相關的技術效率提升，反而會增加煤炭的消耗量。命名為 Jev 同時反映 AI 產業的一項賭注：即使 token 價格持續下跌，更高的 token 效率仍會推升 token 的整體消耗量。

至於 System One Model 的命名靈感，則是來自諾貝爾經濟學獎得主 Daniel Kahneman 在 2011 年出版的《快思慢想》（Thinking, Fast and Slow），書中談到，大腦有快速直覺的 System 1、以及緩慢思考 System 2 雙系統機制處理資訊，System One Model 就帶有快速直覺的特性。

（首圖來源：影片截圖）

立刻加入《科技新報》LINE 官方帳號，全方位科技產業新知一手掌握！