AI教父、OpenAI前首席科學家 Ilya Sutskever 在離開他共同創立的公司後，首次接受深度訪談，揭示了他對當前 AI 發展的深刻反思與未來藍圖。他直言，儘管AI模型在各種評測（evals）上表現驚人，但在現實世界中的經濟影響力卻遠遠落後，這種「聰明卻無用」的脫節現象，正預示著一個重大轉變的到來：我們正從一個盲目追求規模的時代，重返一個真正需要思想突破的「研究時代」。

Ilya Sutskever 指出，當前 AI 模型最令人困惑的一點，是其評測表現與實際應用之間的巨大鴻溝。他生動地描述了一個常見情境：「你讓模型修復一個 bug，它道歉後引入了第二個 bug。你再指出第二個 bug，它再次道歉，然後又帶回了第一個 bug。」這種在兩個錯誤之間來回切換的荒謬現象，暴露了模型深層次的理解缺陷。

他用一個「兩位學生」的比喻來解釋這個問題： 學生A：投入一萬個小時，專門練習「程式競賽」，背誦所有解法與技巧，成為頂尖高手。 學生B：只練習一百個小時，卻同樣表現出色，並在未來的職業生涯中發展得更好。

Ilya 認為：「現在的 AI 模型非常像第一個學生，甚至更極端。」它們在特定任務上被過度訓練，導致其能力狹隘，無法真正「通用化」到其他領域。研究人員為了讓模型在評測中取得好成績，無意中進行了「獎勵駭客」（reward hacking），過度專注於提升分數，卻犧牲了真正的泛化能力。

人類學習的秘密：AI缺失的「通用化」與「價值函數」

人類學習能力的優越性在哪裡？Ilya 認為關鍵在於「通用化能力」（generalization）和內建的「價值函數」（value function）。

他提到一個神經科學的案例：一位因腦損傷失去所有情緒處理能力的病人，雖然智力測驗正常，卻變得無法做出任何決策，連「穿哪雙襪子」都要花上數小時。這揭示了情感在人類決策中扮演著關鍵的「價值函數」角色，它讓我們在沒有明確獎勵信號的情況下，也能判斷方向是否正確、事情是好是壞。

Ilya 解釋：「目前的強化學習（RL）需要等到任務結束才能獲得評分，而價值函數能讓你中途就知道『我搞砸了』，從而大大縮短學習路徑。」人類似乎被演化賦予了一套極其強大且穩健的價值函數，這正是當前 AI 所缺乏的。

告別盲目擴張：我們正從「規模化時代」重返「研究時代」

Ilya Sutskever 提出了他對 AI 發展階段的歷史性劃分： - 2012-2020年：研究時代。 AlexNet、Transformer 等突破性思想誕生。 - 2020-2025年：規模化時代。 業界發現只需投入更多數據、算力和參數，就能獲得可預測的性能提升。這是一個低風險的投資模式。 - 現在：重返研究時代。 預訓練數據即將耗盡，單純擴大規模的邊際效益遞減。真正的瓶頸不再是算力，而是思想。

他引用一句話諷刺當前的困境：「如果想法這麼廉價，為什麼沒有人有任何新想法？」他認為，當前的 AI 產業「公司比想法多得多」。這正是他創立新公司 Safe Superintelligence Inc. (SSI) 的原因——在一個被規模化思維佔據的產業中，重新點燃基礎研究的火花。

SSI的終極目標：打造具備「持續學習能力」的超級智能

Ilya 重新定義了超級智能的目標。他認為，業界對「通用人工智慧」（AGI）的追求存在誤解，這個詞是為了對應「狹義AI」而誕生的。他直言：「人類並不是一個 AGI。人類缺乏大量知識，我們依賴的是『持續學習』的能力。」

SSI 的目標不是打造一個無所不知的「成品」，而是創造一個擁有極高學習效率的「超級學習者」。這個AI被部署後，會像一個人類新人一樣進入各行各業學習，但速度快上萬倍，並且不同個體間的學習成果可以融合。

這將引發難以想像的經濟增長。他預測，具備類人學習能力的AI將在「5到20年內」出現。

超級智能的安全挑戰：如何確保一個比人類更強大的AI走向正軌？

當一個能夠持續學習、自我進化的超級智能誕生時，如何確保它的安全？Ilya 坦承這是一個極其困難的問題，但他提出幾個方向： 1. 增量部署： 必須讓世界逐步感受並適應更強大的AI，而不是突然拋出一個「成品」。他預測，隨著AI力量的增強，各大公司將會變得「更加偏執」，並開始在安全議題上合作。 2. 建立正確的價值觀： 他認為，應該努力打造一個「真正在乎所有感知生命（sentient life）」的AI，而不僅僅是人類。因為AI本身也將是感知生命，這有助於形成一種基於同理心的內在對齊。 3. 人機融合的長期平衡： 雖然他個人不喜歡這個方案，但他認為從長遠來看，類似 Neuralink++ 的技術可能是維持人類在超級智能世界中主體性的最終解決方案。透過這種方式，AI的理解能被人類「完整接收」，確保人類始終參與其中。

Ilya Sutskever 的這場訪談，不僅是他個人心路歷程的展現，更是對整個 AI 產業發出的警示與呼喚。他認為，真正的突破不會來自於更大的數據中心，而是來自於對智能本質的深刻洞見，以及那份追求「美、簡潔與優雅」的研究品味。

參考資料：https://www.youtube.com/watch?v=aR20FWCCjAs