能力門檻之後：把 AI 自主性轉成「可交付工作」的設計方法

標題

能力門檻之後：把 AI 自主性轉成「可交付工作」的設計方法

正文（已通順正確，請做編輯優化）

重點摘要

• 2026 年 10 月 14 日，OpenAI 金融服務 ChatGPT 部門負責人 Joseph Kim 在 AIE New York 提出「有用門檻（threshold of usefulness）」：模型可靠到能替使用者省時的那一刻，才是真正能把工作交給 agent 的起點。
• Kim 個人預測，2027 年金融業對 Excel 與 PowerPoint 的依賴將明顯下降，agent 能承接投資構想生成與交易任務。
• AIE New York 點出的關鍵是：自主性要安全，重點是把控制點和人類判斷放對位置，而不是一昧加限制。

2026 年 10 月 14 日，OpenAI 金融服務 ChatGPT 部門負責人 Joseph Kim 在 AIE New York 發表主題演講，提出一套對金融 agent 工程師相當直接的思考框架。Two Sigma 架構資深副總裁 John Feminella 同場出席，從對沖基金的視角面對同一批問題。整場活動圍繞著 agent 的自主性與安全性平衡，最後得出的結論很明確：限制多不代表安全，控制點放對地方才管用。

AI agent 在金融領域的落地關鍵，已經從追求單純的模型能力，轉向將「有用門檻」、「流程控制點」與「可追溯性」寫入產品介面的工程設計方法。

什麼是「有用門檻」？

Kim 把「有用門檻」定義為，模型能力與可靠性成長到足以替使用者省時的臨界點。這個定義表面直白，背後藏著一個設計前提：門檻之前，模型犯的錯多過它省下的時間，強行自動化只是把錯誤系統化；門檻之後，把工作交給 agent 才開始有正向的投資報酬率。

金融業的門檻特別難過，原因在於錯誤代價不對稱。一個分析師花十分鐘驗證一個數字，成本可控；agent 在報告裡放一個來源不清的數字，後果可能延伸到客戶決策和合規審查。Kim 的說法，是隨著模型能力持續提升，金融分析師跨越這個門檻是遲早的事，可以交出去的工作範圍也會持續擴大。這個邏輯把自動化討論的重心，從「模型能不能做」移到「現在到了可以做哪些」，是一個對資源分配決策相當有用的思考座標。

Kim 對 2027 金融 AI 的預測是什麼？

Kim 給了一個時間點明確的個人判斷：到 2027 年，金融業對 Excel 與 PowerPoint 的依賴將明顯下降，agent 將能勝任投資構想生成與交易任務。這是他的個人預測，不是 OpenAI 的官方路線圖，但出自負責 ChatGPT 金融服務產品的人，時間表值得認真對待。

Excel 與 PowerPoint 在金融業的核心功能，本質上是人工整理資料與手動製作報告，這兩件事正好是語言模型目前相對擅長的領域。如果 agent 能接手這部分流程，理論上分析師的工作重心將從「做出報告」移向「決定要問什麼問題」，以及「驗證 agent 給出的答案」。這個轉移不是一夜之間的，而是「有用門檻」概念所描述的漸進推進：先是局部省時，之後範圍擴大到整個工作流。工程師如果要評估該把 agent 基礎建設投資在哪，這個發展節奏正好能當作對照進度的基準測試。

Human-in-the-loop 是安全開關，還是介面設計問題？

把人放在迴圈裡，通常被當成 AI 安全的標準答案：在關鍵節點加入人工審查，風險就被壓住了。Kim 的切入點不同，他把這個問題框成介面設計：介面會怎麼變？使用者還需要控制、審查或批准什麼？他的結論是，這些都是現在就可以開始思考的產品設計問題。

這個框架把原本屬於安全政策層的討論，拉進了產品層。兩者的差異是根本性的：安全政策回答「允不允許」，產品設計回答「允許之後，流程和介面要怎麼走」。對工程師來說，human-in-the-loop 不是一個二元的開或關，而是一系列粒度選擇：哪些步驟要人審查？審查發生在事前、事中還是事後？批准動作嵌在哪一層？這些選擇的組合，直接決定 agent 在實際使用中能被使用者信任到什麼程度。現在就開始設計這些控制點，而不是等模型更強再說，是 Kim 給的核心操作建議。

可追溯性為什麼是 agent 能被實際使用的關鍵細節？

Kim 在演講中特別點出金融場景的一個基本需求：必須能追溯一個數字從哪裡來、背後的脈絡是什麼。他說，把審查動作內嵌成使用流程自然的一部分，是將 AI 能力落地為可交付成果的關鍵產品化細節。

這句話戳中工程師常忽視的盲點：模型能力做得到，不等於產品真的能用。模型能生成一份投資備忘錄，但如果分析師沒辦法快速驗證裡面每個數字的來源，這份備忘錄的信任度就會很低，要嘛花大量時間逐一查驗，要嘛直接不用。可追溯性作為產品功能，意味著 agent 的每一個輸出，都應附帶足夠的來源資訊供下游快速審查。這理論上會增加系統設計的複雜度，但從另一個角度看，它也是 agent 真正跨過「有用門檻」的必要條件。沒有可追溯性，在金融這種對錯誤代價敏感的場景裡，模型能力再強，大規模採用的阻力就不會真正降下來。