EP155 - 席捲 AI 圈的 Jev，到底在紅什麼？AI Agent 真的要大改了嗎？

Video summary

Jev 每次只需輸出分類機率，宣稱快 200 倍、省 400 倍，適合篩選與模型路由，不能取代完整 LLM。

主持人先談 iPhone 18 Pro：相較 17 Pro，續航、晶片與可變光圈相機雖有升級，但不一定值得多花一兩萬元；他看重 A20 Pro 的裝置端 AI 表現，長提示首 token 時間據測試從 A19 Pro 的 2,000 多毫秒降至約 1,000 毫秒。節目主軸轉向 TypeSafe AI 新模型 Jev，拆解其本質是基於 LLM 的通用分類模型，只回傳選項機率，不生成文字；公司宣稱速度快 200 倍、成本低 400 倍，關鍵在專為機率校準設計的 RLCD。Jev 不會消除所有錯誤，也無法取代能推理與處理視覺的 LLM。主持人以工作郵件分類實測，多數結果正確，逾期一天的活動繳費提醒也判為非常緊急，信心 47%。他認為 Jev 最適合大量篩選、客服分類與固定流程的電腦操作，並將推動 AI agent 採用模型路由，在不同任務間分配快慢、強弱模型。

Chapters

1. 0:00蘋果發表會與犀牛盾：A20 Pro 首 token 時間減半、AirX 通過三萬公尺測試
2. 6:04Jev 爆紅：TypeSafe AI 宣稱快 200 倍、便宜 400 倍
3. 10:46Jev 到底是什麼：以機率分布分類客服訊息與釣魚郵件
4. 15:16Jev 到底是什麼：後訓練將預訓練 LLM 變成機率選擇器
5. 19:46Jev 技術細節：RLCD 校準分類機率，餐廳留言判為 80% 負面
6. 23:47Jev 技術細節：API 限制 255 個選項，主持人推測採 255 維分類輸出
7. 30:02Jev 技術細節：單次輸出選項分布，解釋快 200 倍與省 400 倍
8. 34:04Jev 跟 LLM 的差別：用 Qwen3.5-4B 限定選項模擬 System 1
9. 38:46Jev 跟 LLM 的差別：Qwen3.5-4B 近似作答，RLCD 校準仍是 Jev 優勢
10. 43:28Jev 實際應用：從五千份履歷挑兩百份，並拆解電腦操作
11. 47:50Jev 實際應用：電腦操作成本低 Opus 百倍，但受 DOM 與 OCR 限制
12. 52:37Jev 實際應用：255 個選項難涵蓋網頁座標，Astra 多截圖破解 CAPTCHA
13. 56:55Jev 實測：逾期一天的活動繳費信判為非常緊急，機率 47%
14. 1:01:26Jev 的意義：加速模型路由，但工作流變動與 OpenAI 路由爭議仍是阻礙
15. 1:06:12Jev 的意義：降低路由門檻，並可能支援 AI agent 篩選