Meta 前首席 AI 科學家 Yann LeCun 在接受播客訪談時闡述了他的技術主張：LLM 雖然在語言、程式碼和數學領域表現出色，但無法成為通向人類級智慧的途徑。他創立了新公司 Ami Labs (Advanced Machine Intelligence），專注於開發「世界模型」與 JEPA（聯合嵌入預測架構）。LeCun 認為，要讓 AI 具備真正的規劃與推理能力，必須建立能預測自身行為後果的內部世界模型，而非依賴自回歸式語言生成。他預計這種新架構將在五年內徹底改變產業格局。

[[Yann LeCun]]：Meta 前首席 AI 科學家、FAIR 創辦人之一、圖靈獎得主，現為 Ami Labs 公司創始人。長期倡導自監督學習與世界模型研究。

LLM 的定位：好用但非終極方案

LeCun 對 LLM 的態度相當務實——它們並非一無是處，而是有明確的能力邊界：

  • LLM 擅長「語言操作」：人類語言、程式碼、數學證明、法律用語
  • LLM 不是通向人類級智慧的途徑，甚至無法達到類似動物的智慧水平
  • LLM 的核心問題在於：它們沒有預測自身行為後果的能力，也沒有真正的規劃能力

[!important] 核心主張 LeCun 認為現實世界比語言複雜得多——它是高維度、連續性、充滿雜訊且混亂的。訓練系統理解真實世界的難度遠高於處理語言。

在訪談開始時，主持人對 LeCun 的敬意溢於言表LeCun 敬語，而節目預告片段顯示了這次對話的幾個精彩片段：「You hire the best people… get the fuck out of the way」預告、以及關鍵提問「one thing you’ve changed your mind on in the last year?」提問。

世界模型的必要性

LeCun 對「世界模型」下了明確定義：

世界模型是讓代理系統能夠預測自身行為後果的能力。

他強調，如果沒有這種能力，就無法想像如何建立真正的代理系統。人類在做任何動作前都會預想結果——如果不思考後果就行動，我們往往會成為別人眼中的白癡。

他舉了一個生動的例子：面前有一瓶水，你推底部它會滑行，推頂部它可能會翻倒，但你不可能預測每一像素級的水如何灑出——我們的世界模型是在抽象層級上運作的。

JEPA 架構的演進與突破

LeCun 分享了他對自監督學習五到六年的研究歷程：

  • 非生成式架構勝過生成式：VAE、稀疏編碼器、MAE（遮蔽自動編碼器）等生成方法效果不佳
  • 聯合嵌入預測架構（JEPA）：將兩個影像分別通過編碼器，然後訓練預測器從一個表示預測另一個的表示
  • 關鍵挑戰是「表示崩塌」（representation collapse）——系統可能學到預測常數
  • 最新進展：Sigreg（高斯正則化方法），由 Randall Balestriero-Hero 等人開發

[!quote] Yann LeCun 的名言 “The best way to get breakthrough research is you hire the best people and you get the fuck out of the way.” — 這句話在訪談中引發了主持人的會心一笑LeCun 名言

為什麼離開 Meta？

LeCun 澄清了幾個關於他在 Meta 角色的誤解：

  • 對 Llama 開發沒有直接貢獻，唯一貢獻是主張公開 Llama 2
  • 2018 年卸任 FAIR 主任後，他成為首席 AI 科學家
  • JEPA 專案在 Meta 內部獲得 Zuckerberg 和 CTO Andrew 的支援
  • 2023 年 Meta 策略轉向：公司重新聚焦於 LLM 以追趕產業，導致探索性研究失去優先權
  • Meta 甚至解散了整個機器人 AI 團隊

[!info] 關鍵時間線

  • 2016 年 NIPS 主題演講：預言世界模型是 AI 研究的未來方向
  • 2020 年左右：形成 JEPA 概念
  • 2022 年：發表完整願景論文，號召團隊加入 JEPA 專案
  • 2023 年：Meta 策略轉向 LLM，LeCun 決定離開
  • 2024-2025 年：創立 Ami Labs 公司

VLA 的失敗與世界模型的興起

訪談中 LeCun 對當前 AI 研究趨勢做了犀利評論：

  • VLA（視覺語言動作模型）已被視為失敗：不可靠、需要太多訓練資料
  • Google 等公司正嘗試用影片模型生成合成資料來訓練機器人，但 LeCun 質疑其效率
  • 他以「17 歲少年只需幾小時就能學會開車」為例，說明人類不需要海量示範資料

Tapesty：開源 AI 主權的願景

LeCun 還介紹了另一個專案 Tapesty——一個開源的大型語言模型平台：

  • 目標是讓各國能夠建立符合自身文化、價值觀和政治立場的 AI 助手
  • 採用聯邦學習方式，貢獻者分享參數向量而非原始資料
  • 類似 Linux 對 Unix 的顛覆：開源最終將戰勝專有系統

[!warning] LLM 的本質不安全 LeCun 直言 LLM 在當前架構下本質上是不安全的，因為它們無法預測行為後果、無法保證可靠性。他認為這與 Anthropic 等人宣稱的 AI 末日情景不同——危險來自誤用而非系統失控。

對未來的展望

LeCun 對新架構的發展抱持樂觀態度：

  • 短期（1-2 年）：展示訓練世界模型的方法論，應用於工業流程控制、醫療領域
  • 中期（5 年）：「完全統治世界」——他引用 Linus Torvalds 的名言開玩笑說這是目標
  • 他認為到2027 年初，產業將普遍意識到需要改變範式

關鍵知識點

[[JEPA]]（聯合嵌入預測架構）：LeCun 提出的非生成式神經網路架構，透過在表示空間中進行預測來學習特徵，而非預測像素級輸出。是建構世界模型的基礎。

[[世界模型]]：讓 AI 系統能夠預測自身行為後果的內部表示。LeCun 認為這是建立真正代理系統的必需品，也是當前 LLM 所缺乏的關鍵能力。

[[自監督學習]]：從輸入資料本身學習表示的方法，不需人工標註。LLM 是其在語言領域的成功案例，但 LeCun 認為它在影像和真實世界處理上需要新架構。

[[VLA]]（視覺語言動作模型）：結合視覺、語言與動作輸出的 AI 模型，用於機器人控制。LeCun 明確表示此方向已被視為失敗。

[[LLM]]（大型語言模型）：基於 Transformer 的自回歸模型。LeCun 認為它們擅長語言操作但無法通向人類級智慧，因為缺乏預測行為後果與規劃的能力。

[[Tapesty]]：LeCun 參與推動的開源 AI 平台專案，旨在透過聯邦學習讓各國建立符合自身文化與價值觀的 AI 助手，實現「AI 主權」。

[[Ami Labs]]（Advanced Machine Intelligence）：LeCun 離開 Meta 後創立的新公司，專注於世界模型技術開發。副標為「AI for the real world」。

[[Meta AI / FAIR]]：Facebook AI Research，LeCun 曾領導此研究機構逾十年。2023 年後因公司策略轉向 LLM，探索性研究被邊緣化，導致 LeCun 離開。

引用來源