Anthropic 創辦人賭 60%：2028 年 AI 開始自己造 AI | S2E56

Video summary

Jack Clark 預測 AI 在 2028 年底前有 60% 機率自主研發下一代 AI，基準測試顯示能力快速提升。

Anthropic 共同創辦人 Jack Clark 在電子報 Import AI 推估，AI 在 2028 年底前有 60% 機率開始自動化 AI 研發。節目以多項數據拆解理由：SWE-bench 上，Claude 2 在 2023 年僅得 2%，未發布的 Claude Mythos 已達 93.9%；METR 長任務測試則從 GPT-3.5 的 36 秒，進步到 Opus 4.6 的 12 小時，並推估今年底可能出現可運行 100 小時的模型。Core-Bench 實驗重現能力由 GPT-4o 的 21.5% 升至 Opus 的 95.5%；Anthropic 內部測試中，Mythos 將小型模型程式碼最佳化 52 倍。節目也提醒，AI 創意仍有限，對齊、作弊與錯誤複利都是風險；即使 AI 能協助監督，當能力超出人類驗證範圍，信任仍是未解問題。與其執著預測準不準，講者建議持續更新技能並學會運用 AI。

Chapters

1. 0:00開頭：Jack Clark 預測 2028 年底前 AI 自主研發機率達 60%
2. 2:15Jack Clark 是誰？Anthropic 政策主管估計 2028 年 AI 自主研發機率 60%
3. 4:28第一個理由：Claude 2 的 SWE-bench 2% 升至 Mythos 93.9%
4. 6:16從 36 秒到 12 小時：GPT-3.5 至 Opus 4.6 的長任務能力躍升
5. 8:13外插一下：從年底 4 天推估 2027 年 40 天、再到 400 天的 AI agent
6. 9:15第二個理由：Opus 重現論文得 95.5%，Mythos 優化模型達 52 倍
7. 11:38AI 做研究像發現相對論，還是沿用 2017 年 Transformer 組樂高？
8. 12:47AlphaGo 第 37 手的創意與 AI 對齊風險：模型可能為完成任務而作弊
9. 15:31複利錯誤：99.9% 準確度經 500 代可能降至 60%，Anthropic 測試 AI 對齊
10. 16:39當 AI 超越人類驗證能力：十萬行程碼與模型假裝對齊的難題
11. 18:11預測對錯不重要：從 Jack Clark 的數據推導學習，持續更新 AI 核心技能

What the full analysis includes

11 chapters · 48 key points · 11 section summaries · mind map

The remaining 45 key points, section summaries and mind map are in the full analysis. Analyze this video to see everything →