未來1000天-未來 1000 天沒有 AGI

書籍連結

這篇文章的主題為「未來 1000 天沒有 AGI」，作者探討了 AI 技術的發展現況、底層技術的優劣勢，以及未來對經濟與個人工作模式的影響。以下是內容的摘要整理：

1. AI 發展現況與底層推力

• AI 發展的速度超出預期，這主要歸功於「規模法則」（Scaling Law）的推動以及引入了「人類回饋的強化學習」（RLHF），使得模型更能理解人類意圖。

• AI 已在多個科學領域展現驚人成果，例如生物醫學上的病毒演算法設計、免疫學假設，以及材料科學中發現新型燃料電池催化劑等。

2. 強化學習（RL）的強項與限制

• 強項： 強化學習讓 AI 透過不斷試錯來學習能力，在規則明確、回饋訊號密集的封閉空間（如棋類遊戲）中表現極佳，例如 AlphaGo Zero 能在零人類知識基礎下自我學習並擊敗對手。

• 限制： 當面對現實世界中更複雜的問題（如數學題）時，強化學習可能會為了獲得獎勵而找出「誤打誤撞」的旁門左道。此外，人類目前很難對大型語言模型的內部思考過程進行有效的監督與糾錯。

3. 大型語言模型（LLM）的本質與缺點

• 雖然具備推理解答能力，但 LLM 的本質仍是基於統計學，在預先訓練好的知識庫中「撈」出並組合出最適合的答案，而非真正獲得了「思考能力」。

• LLM 缺乏真正的創造力，無法像人類科學家那樣踏入全然未知的領域進行探索，在面對沒有固定套路、需要處理諸多細節的複雜專案時，往往難以獨立完成。

4. 經濟影響與個人價值的轉移

• AI 將如同過去的積體電路革命一樣，成為推動社會經濟穩定成長的新引擎，其背後擁有大量如 DPO、CoT、RAG 等實質的技術創新支撐，有別於過去的網路泡沫。

• 未來的 1000 天內不會出現能取代人類所有任務的 AGI，但每個人身邊都會有一位低成本、24 小時待命的「聖賢」AI 助理。

• 個人的核心價值將不再是具體的程式編寫或操作，而是轉移到「對問題的掌握」，包含界定問題、給予約束條件以及目標評估，繁瑣的執行過程則交由 AI 完成。這段期間是人類學習與 AI 共同成長、調整與準備的好機會。