談中李想針對 AI 數據流(Data Flow) 的架構與看法,主要分為兩個維度:一個是硬體晶片底層的計算架構(動態數據流),另一個則是企業軟體與 AI Agent 在應用層面對數據的讀取與管理(四維數據艙)。
這兩個層面的核心邏輯,都是為了徹底解決傳統 IT 結構在邁入 AI 時代後的「效率平頸」。以下為您詳細整理:
一、 晶片與算力底層:全球首創的「動態數據流架構」
李想在訪談中強調,理想最新旗艦車款配備的馬赫 M100 晶片,是全球首個在端側採用「動態數據流架構」的晶片,這顛覆了過往由英偉達(NVIDIA)等巨頭主導的傳統 GPU 架構。
1. 傳統 GPU/傳統 AI 晶片的平頸
傳統的 GPU 架構在端側推理時已經遇到平頸。李想提到,市面上主流的傳統晶片(如高通 8155、英偉達 Orin X 等)在兩三年內的性能提升已經不再顯著。這是因為傳統計算架構把過多資源消耗在晶片內部的計算和數據搬運上。
2. 「AI 的核心不是計算,是搬運」
這是李想對 AI 算力底層提出的硬核洞察。AI 大模型在推理時需要處理海量的上下文與參數,數據在內存與核心之間的搬運效率,才是決定晶片強弱的關鍵。
3. 動態數據流的優勢與驗證
高效率搬運: 動態數據流架構(Dynamic Data Flow Architecture)能夠針對 AI 計算的特性,優化數據在晶片內部的流動路徑,極大化提升數據搬運效率,降低延遲與能耗。
技術對比: 英偉達收購的某些 LPU(Language Processing Unit)技術屬於「靜態數據流」,推理效率雖高,但必須額外配一顆 GPU 晶片協同運行。而理想的「動態數據流」是直接做在主晶片上,不需額外堆疊晶片,避免了帶寬不夠的問題。
科學驗證: 理想團隊在決定這個架構前,寫了 140 萬字的可行性報告,並與全球最頂級的處理器專家(如吉姆·凱勒 Jim Keller 等)深談驗證,認定這將是未來 AI 晶片的主流方向。
二、 應用層與企業組織:「四維數據艙」顛覆傳統 SaaS 軟體
在企業內部管理與 AI Agent 的協同上,李想認為傳統的 SaaS 軟體與數據流格式,已經完全無法滿足 AI 時代的需求。
1. 傳統 IT 的「二維數據」vs AI 的「四維數據」
傳統 IT/SaaS: 過去的 ERP、CRM 等系統,是為了「人類的使用方式」而定義的。人類習慣看網頁、表格,因此傳統數據流本質上是「二維」的,中間築起了大量的軟體權限壁壘,AI Agent 讀取時極難打通。
AI 數據艙(Data Warehouse): AI 閱讀數據不需要精美的二維介面。AI 具備處理「四維數據」的能力——也就是帶有時間軸、涵蓋所有業務維度的多維度思維數據。
2. 數據管理的新挑戰
李想指出,未來的企業不需要再用傳統 SaaS 的方式去讀取數據,最有效率的方式是讓 AI Agent 直接進入底層數據庫。只要業務有在運作(生產、銷售、HR 執行),底層就會自然且源源不絕地生成數據。因此,如何構建一個強大的「AI 時代數據倉庫(數倉)團隊」來管理這些四維數據,會是企業新的巨大挑戰。
3. 避免「商增」與上下文浪費
李想提到,目前 2C 的 AI 工具在「記憶管理」上做得很糟糕,把一些 Markdown 文件當作記憶,動不動就把所有資料讀進上下文(Context)裡。這導致 AI 數據流在搬運、推理時消耗了幾萬個 Token,卻只為了解答一個像「上海天氣如何」的簡單問題,效率極低。
理想的架構是將數據流徹底隔離:
泛化任務交給大模型(Agent/Chatbot),走雲端或本地的大模型數據流。
精確控制與確定性任務,直接走本地的「知識圖譜」與「RAG(檢索增強生成)技術」,不需要動用大模型計算,一秒之內搞定,Token 消耗幾乎為零。
三、 戰略總結
李想對於 AI 數據流的看法是:「當你選擇了泛化(AI),其實你就放棄了確定性。唯有透過底層硬體(動態數據流晶片)與應用層(四維數據艙、知識圖譜隔離)的軟硬體一體化重構,才能在保有 AI 泛化能力的同時,兼顧企業與產品所需的效率與穩定性。」
沒有留言:
張貼留言