頂尖AI專家驚人坦白:「我對未來極度困惑!」5大殘酷提問,揭示AGI時代的新創生存法則

頂尖AI專家驚人坦白:「我對未來極度困惑!」5大殘酷提問,揭示AGI時代的新創生存法則

在Y Combinator的講台上,任職於頂尖AI公司Anthropic的對齊研究團隊負責人Jordan Fisher,發表了一場震撼人心的演說。他並非帶來答案,而是拋出了一連串令人不安的問題。Fisher開宗明義地坦承:「我可能比我一生中任何時候都更困惑。」這位身處AI革命核心的專家,過去總能清晰預見未來5到10年的科技趨勢,並藉此規劃職涯、創辦公司。然而,如今他直言:「我再也看不見五年後的未來,我大概只能看到三週或更短。」這番話揭示了一個殘酷的現實:在通用人工智慧(AGI)即將到來的時代,所有關於創業的舊規則都可能失效,創業者必須重新思考一切。

過去,給予新創公司的建議是「專注、專注、再專注」,並規劃未來六個月的產品路線圖。但Fisher提出了更激進的觀點,他認為這種思維已經過時。

他警告:「你應該提前兩年規劃。我們極有可能在未來幾年內擁有AGI,也許不是兩年,但可能是三年。」這意味著,創業者不能再用今天的AI能力來規劃產品,而必須預測兩年後AGI將帶來的顛覆性變革。

Fisher也打破了另一個迷思:AI革命的影響會因為大企業採購流程緩慢而被延遲。他指出一個關鍵盲點:「這種看法極其短視,因為買方——也就是那些大型企業——在未來幾年同樣會被AGI或強大的AI代理人武裝起來。」AI的力量是雙向的,它不僅賦能新創公司,也同時在提升買方的能力,這將徹底改變市場的動態平衡。

軟體將死?產品的終極形態之問

Fisher拋出了一個讓所有SaaS創業者不寒而慄的問題:軟體會不會被徹底商品化?

「在兩三年後,經營一家SaaS公司還有意義嗎?還是說,企業只需要對下一代Claude Code下一個提示,就能在內部建立所有他們需要的軟體?」

這個問題延伸出兩種截然不同的未來:

  1. 軟體商品化:消費者不再下載App,而是根據需求即時「生成」App。企業內部也只需要產品經理,就能透過AI即時打造所需工具。
  2. 品質門檻極致提高:雖然簡單的App可以輕易生成,但由頂尖團隊與AI協作打造的「卓越」產品,其品質門檻將被推向難以企及的高度。

Fisher更進一步提出了「隨需編碼」(Code on Demand)的概念。他設想:「當用戶在你的App中想做某件App目前不支持的事時,App會意識到這一點,並即時為該用戶生成新的程式碼。」這個模式極具吸引力,但也引發了最核心的挑戰——信任。你敢讓AI即時修改你的後端甚至資料庫嗎?

信任的崩潰與重建:誰來監督AI代理人?

隨著AI代理人(Agent)將深入我們的個人與職業生活,信任問題變得空前尖銳。Fisher點出了一個致命的兩難處境:「你希望你的個人助理和工作助理能協同工作,但這也引發了各種擔憂,例如你不希望雇主知道你個人時間裡做的事情。」

更深層的信任危機在於,即使AI模型本身是「對齊」的(intent aligned),但「你能信任打造這個代理人的新創公司嗎?」

Fisher犀利地指出:「如果這是一家靠廣告營利的公司,你用它的代理人來搜尋一雙新鞋,它會不會把你引導到某個特定方向?這不是你作為用戶想要的,但可能是那家公司想要的。」

在一個團隊規模極小、甚至半自動化的世界裡,傳統依賴公司內部多元化員工吹哨、制衡的「人類護欄」將不復存在。一個惡意行為者,可能僅需一人就能做出改變整個產品影響力的決定。為此,Fisher提出了一個可能的解決方案:「AI驅動的審計」。透過中立的AI系統對公司進行持續審計,確保其行為符合公開的使命宣言,這或許是重建信任的唯一途徑。

護城河在哪裡?尋找AGI時代的持久優勢

在AGI時代,傳統的護城河正在迅速消失。Fisher問道:「如果我只需要一個提示,就能讓Claude 7或GPT-7複製你的整個新創公司,你的優勢在哪裡?」

他認為,在一個軟體和智慧唾手可得的世界裡,持久的優勢在於那些「困難的問題」(hard problems)。他舉例:「就像台積電或ASML,他們做出的數十億美元賭注,以及在內部建立的隱性知識,並沒有洩漏出去。前沿的LLM並不知道如何建造一個尖端的半導體工廠。」

這些「困難問題」涵蓋了基礎設施、能源、製造業、晶片等領域,這些是即使在兩年後,AI和機器人技術也難以輕易解決的物理世界挑戰。創業者需要自問:「什麼事情在未來仍然是困難且值得去做的?」這將是抵禦AGI浪潮衝擊的堅固壁壘。

最後的提問:賺錢,還是改變世界?

演講的最後,Fisher分享了他最深的憂慮。當他向人們解釋AI將帶來的巨大變革時,許多人的第一個反應是:「好,那我們要怎麼從中賺錢?」

他坦言:「我對那個人感到極度失望。」他理解人們在恐懼下的求生本能,但他也發出沉重的呼籲:「這可能是我們最後一次有機會去做出改變、去改變世界的機會。如果你正在打造一個產品,這可能是你打造的最後一個產品。如果你有你在乎的事情,現在就是去做的時刻。」

他重新詮釋了Y Combinator的格言「打造人們想要的產品」(build something people want),並強調:「人們真正想要的,是他們可以信任的東西,是對社會有益的東西。」他敦促所有創業者,不要只思考人們會「消費」什麼,而是去思考「社會需要什麼」。

在AI浪潮席捲而來的此刻,或許最重要不是找到完美的答案,而是像Jordan Fisher一樣,勇敢地提出正確、深刻且令人不安的問題。

參考資料:https://www.youtube.com/watch?v=DJjZzzPANBY

Read more

Claude 的 Project、Skill、Connector 到底怎麼分?一次搞懂三者的關係

Claude 的 Project、Skill、Connector 到底怎麼分?一次搞懂三者的關係

很多人問我,在 Claude 裡面,Project、Skill、Connector 這三個東西到底差在哪裡? 什麼時候該用哪一個? 老實說,我一開始也搞得很混亂。 但實際用了一段時間之後,我發現其實邏輯很簡單。 先從最基本的開始:Connector 是對外的資料來源 如果你需要從外部拿資料,比如說接 Google Calendar、接 Notion、接你自己的資料庫,你就需要 Connector。 它就是一個 MCP 的連結,讓 Claude 可以去外面抓資料回來。 沒有 Connector,Claude 就只能用它自己知道的東西,沒辦法碰到你的資料。 Skill 則是內部的運算邏輯 Skill 沒有辦法對外連接。 它只能在內部用 Python 或程式碼執行。 你可以把它想成是一個 Controller,專門負責處理運算的部分。 比如說,你想讓 Claude 用特定的格式改寫文章、

By Andy Lin
讓 AI 認識你 — Memory is All You Need

讓 AI 認識你 — Memory is All You Need

讓 AI 認識你 — Memory is All You Need 最近我在 Claude 上快速搭建了七大 Agent。 原因很簡單:你的助理應該是越使用越懂你。 而 Claude Project 有個關鍵功能叫 Memory,它會根據你不斷詢問的過程,主動提取記憶。 這就是我認為 AI 助手真正強大的地方。 GA 分析助手:從進階到客製化 自從我串接 GA MCP 後,這位助手已經變得非常厲害。 漏斗分析、訪客來源、異常事件追蹤、站上任何問題都難不倒它。 但我想要的不只是這些。 我希望它隨著時間,能夠對齊我的知識,知道我要什麼。 你不用想太多,不用一次設定好整個 instructions。 試著使用一週,再回頭看看 memory,你會發現它已經根據你的行為開始學習客製化了。 許多助手不需要懂老闆要什麼,但網站分析不一樣。 因為我沒有那麼多美國時間,

By Andy Lin
AGI 來臨:兩大 AI 巨頭的預測與警示

AGI 來臨:兩大 AI 巨頭的預測與警示

在近期的達沃斯論壇上,Anthropic 執行長 Dario Amodei 與 Google DeepMind 執行長 Demis Hassabis 進行了一場關於「AGI 之後的世界」的深度對談,揭示了 AI 發展的最新進展與未來展望。 AGI 時間線預測 Dario 重申了他去年的預測:在 2026-2027 年,AI 模型將能夠在諸多領域達到諾貝爾獎得主的水準。他表示目前 Anthropic 的工程師已經不再親自寫程式碼,而是讓模型來完成編寫工作,人類只負責編輯和周邊任務。他預估在 6-12 個月內,模型將能端到端完成大部分工程師的工作。 Demis 則持稍微保守的態度,認為在十年內有 50% 的機會實現 AGI。他指出編程和數學領域較容易自動化,因為結果可驗證;但自然科學領域則更具挑戰性,需要實驗驗證,且目前模型在「提出問題」和「建立理論」

By Andy Lin
讓 AI 當你的健康顧問:我用 Apple Watch 數據打造個人健康分析 Agent

讓 AI 當你的健康顧問:我用 Apple Watch 數據打造個人健康分析 Agent

最近我嘗試做了一個 Agent,專門用來分析我的身體健康狀況。 這不是什麼有商業潛力的專案,純粹是出於好奇。 我想知道現在的 AI 到底能幫我們把健康分析做到什麼程度。 資料從哪來? 要讓 AI 分析任何東西,首先得有資料。 我第一個想到的就是 Apple Health。 因為我每天戴著 Apple Watch,它本來就會自動記錄睡眠、運動、心跳這些數據。 除此之外,我也在嘗試另一個經絡檢測的儀器,有點像中醫把脈的概念,只是還沒整合進來。 我覺得如果未來能把更多資料源串在一起,應該可以做出更有意思的應用。 技術架構其實不難 我用了一個叫「Apple Health Auto Export」的 App。 這個 App 可以把健康資料透過 REST API 自動傳送到你指定的伺服器。 資料打到伺服器後,我再處理並存到 Database 裡。 接著寫一個 MCP Server,然後在

By Andy Lin