美股
基金
外匯、加密貨幣
滬、深港通
港股
 
納斯達克
 
恆生指數
 
道瓊斯
 
標準普爾
 
 
新聞分享
如欲分享新聞,請填寫收件人及閣下之電郵,再按「送出」。*必需填寫
收件者電郵*
請用分號「;」分隔不同電郵地址,例子:a@a.com;b@b.com
閣下之電郵*
分享內容
楊立昆再潑LLM冷水:連貓的智慧都不如、根本不理解世界
圖靈獎得主楊立昆(Yann LeCun)再度對當前席捲全球的大語言模型(LLM)發出嚴厲批判,他認為這些模型雖然在文字處理上表現驚人,但其「理解」能力仍是表層、統計性的,缺乏基礎的常識、因果推理及物理...
重設
送出
視窗將於5秒內關閉
楊立昆再潑LLM冷水:連貓的智慧都不如、根本不理解世界
鉅亨網新聞
推薦
0
利好
0
利淡
0
 
 

圖靈獎得主楊立昆(Yann LeCun)再度對當前席捲全球的大語言模型(LLM)發出嚴厲批判,他認為這些模型雖然在文字處理上表現驚人,但其「理解」能力仍是表層、統計性的,缺乏基礎的常識、因果推理及物理世界認知,甚至無法與 4 歲幼童,或如貓狗等動物的智慧相比。

LeCun 與 DeepMind 資深研究科學家 Adam Brown 在紐約展開一場對談,兩人針對 LLM 的能力邊界、意識議題及未來 AI 架構進行了激烈的思想交鋒。

在探討 LLM 是否真正「理解」對話內容時,Adam Brown 持肯定態度,指出模型已能在複雜物理與數學競賽中擊敗人類。然而,LeCun 則更為謹慎,他堅信 LLM 的理解僅是透過對數十兆字文本的統計匹配。

LeCun 拋出了一個極具說服力的類比:「訓練最大 LLM 所需的 30 兆字文本資訊量,相當於一個四歲孩子透過感官與物理世界互動所獲得的資訊量。但這個孩子能學會倒水、收拾餐桌,而 LLM 卻連洗碗都做不到。」

他進一步指出,人類智慧植根於對底層現實世界的認知,而 LLM 缺乏這種「世界模型」。對於現實世界這種高維、連續、充滿不確定性的感官數據,僅僅依賴「預測下一個 Token」的訓練方法是行不通的。

曾公開表示,現有機器學習範式「很糟糕」,原因在於它缺乏人類所具備的直覺物理知識,如重力與慣性。

樣本效率低落:50 萬年的文本 vs 1.6 萬小時的學習

LeCun 強調了 LLM 驚人的「樣本效率低落」問題。他計算,訓練一個 LLM 所需的數據,相當於透過光纜閱讀 50 萬年的文字。相比之下,人類孩童在醒著的 16,000 小時裡,透過視覺神經接收的資料量雖與 LLM 訓練資料量相當,但卻能從中學會複雜的物理操作。

他強調:「現實世界的訊息比文本豐富、複雜得多。」雖然 Brown 引用 AlphaGo 的案例,認為樣本效率慢不代表無法超越人類,但 LeCun 堅持認為,如果將所有資源押注於現有的「預測下一個字」範式,人類將錯失真正通往「理解世界」AI 的架構。

LeCun 正在大力推動名為 JEPA(聯合嵌入預測架構)的新方向。他認為,真正的智能系統不應在「像素層面」進行預測,而應在抽象的特徵空間中學習物理規律與因果關係。

他認為這才是人類和動物大腦的工作方式:「忽略無關細節,只預測重要的抽象概念。」他將此視為打破現有 LLM 天花板的關鍵。

當前的 AI「絕對沒有」意識

在敏感的「意識」議題上,兩位科學家也存在分歧。 Brown 認為,如果科技持續演進,AI 未來有可能具備某種形式的意識。

LeCun 則明確表示,當前的 AI「絕對沒有」意識,但他認為意識若被定義為「自我觀測與目標驅動的調節能力」,那確實可以被構建,這是一個工程問題,但當下的系統遠未達到。

針對 AI 安全問題,LeCun 則展現了樂觀的「文藝復興」視角,並支持開源。他認為,當前的 LLM 是被動、可控的,知識和智能本身是好的。他更擔心的是 AI 技術被少數公司壟斷,這將對全球文化、語言和民主造成災難。

儘管 LeCun 認同當前 LLM 的能力驚人,但他堅信其根植於文本預測的範式存在嚴重缺陷。他呼籲 AI 研究社群應將資源投入到能賦予機器常識、世界模型和因果推理能力的新架構上,才能真正實現通用人工智慧。

新聞來源 (不包括新聞圖片): 鉅亨網
公佈日期
指標
暫時沒有相關新聞。
 
美股網站地圖
支援電郵: support@aastocks.com
阿斯達克網絡信息有限公司 (AASTOCKS.COM LIMITED) 版權所有,不得轉載
免責聲明
閣下明確同意使用本網站/應用程式的風險是由閣下個人承擔。

AASTOCKS.com Ltd、香港交易所資訊服務有限公司、中國投資信息有限公司、深圳證券信息有限公司、Nasdaq, Inc.、其控股公司及/或該等控股公司的任何附屬公司、或其資訊來源及/或其他第三方數據供應商均竭力確保所提供資訊的準確和可靠度,但不能保證其絕對準確和可靠,且亦不會承擔因任何不準確或遺漏而引起的任何損失或損害的責任(不管是否侵權法下的責任或合約責任又或其他責任)。

AASTOCKS.com Ltd、香港交易所資訊服務有限公司、中國投資信息有限公司、深圳證券信息有限公司、Nasdaq, Inc.、其控股公司及/或該等控股公司的任何附屬公司、或其資訊來源及/或其他第三方數據供應商均對資訊不作任何明示或隱含的要約、陳述或保證 (包括但不限於可銷售性及特殊用途合適性的資訊保證) 。

AASTOCKS.com Ltd、香港交易所資訊服務有限公司、中國投資信息有限公司、深圳證券信息有限公司、Nasdaq, Inc.、或其控股公司及/或該等控股公司的任何附屬公司、或其資訊來源及/或其他第三方數據供應商不會就任何原因導致的中斷、不準確、錯誤或遺漏或因此而造成的任何損害賠償(不論直接或間接、相應而生、懲罰性或懲戒性)對任何人承擔責任。

AASTOCKS.com Ltd不負責,亦不承擔任何由於不可抗力的事故或在AASTOCKS.com Ltd不可合理控制的情況下導致的損失或損害,如颱風、暴雨、其他自然災難、政府或有關機構的限制、騷動、戰爭、病毒爆發,網絡故障或電信故障,引致AASTOCKS.com Ltd不能履行協議內的責任或提供服務。

Morningstar 免責聲明:版權所有©2020 Morningstar,Inc。保留所有權利此處包含的資料,數據,分析和意見(“信息”):(1)包含Morningstar及其內容提供者的專營資料; (2)除特別授權外,不得複製或轉載; (3) 不構成投資建議; (4)僅供參考,(5)並未為所載資料的完整性、準確性及時間性作出保證。Morningstar對於閣下使用任何相關資料而作出的任何有關交易決定、傷害及其它損失均不承擔任何責任。 請在使用所有資料前作出核實,並且在諮詢專業投資顧問意見前勿作任何投資決定。 過往業績並不代表將來表現,任何投資項目的價值及所得收入皆可升可跌。

本網站/應用程式包含的內容和信息乃根據公開資料分析和演釋,該公開資料,乃從相信屬可靠之來源搜集,這些分析和信息並未經獨立核實和AASTOCKS.com Limited並不保證他們的準確性、完整性、實時性或者正確性。

在本網站/應用程式的資料、金融市場數據、報價、圖表、統計數據、匯率、新聞、研究、分析、購買或者出售評分、財金教學及其他資訊僅作參考使用,在根據資訊執行證券或任何交易前,應諮詢獨立專業意見,以核實定價資料或獲取更詳細的市場信息。AASTOCKS.com Limited不應被視為游說任何訂戶或訪客執行任何交易,閣下須為所有跟隨在本網站/應用程式的資料、評論和購買或出售評分執行的交易負責。

AASTOCKS.com Limited之信息服務基於「現況」及「現有」的基礎提供,網站/應用程式的信息和內容如有更改恕不另行通知。AASTOCKS.com Limited有權但無此義務,改善或更正在本網站/應用程式的任何部分之錯誤或疏漏。

用戶在沒有AASTOCKS.com Limited明確的書面同意情況下,不得以任何方式複製、傳播、出售、出版、廣播、公佈、傳遞資訊內容或者利用在本網站/應用程式的信息和內容作商業用途。

投資涉及風險。 閣下可自行决定利用本網站的財金教學作學術參考用途,但 AASTOCKS.com Limited不能並不會保證任何在本網站/應用程式現在或未來的購買或出售評論和訊息會否帶來贏利。過往之表現不一定反映未來之表現,AASTOCKS.com Limited不可能作出該保證及用戶不應該作出該假設。

AASTOCKS.com Limited也許連結訂戶或訪客至其有興趣的網站,但AASTOCKS.com Limited只提供此服務給訂戶或訪客並不為此安排負責。

AASTOCKS.com Limited對於任何包含於、經由、連結、下載或從任何與本網站/應用程式有關服務所獲得之資訊、內容或廣告,不聲明或保證其內容之正確性或可靠性。 對於閣下透過本網站/應用程式上之廣告、資訊或要約而展示、購買或取得之任何產品、資訊資料,本公司亦不負品質保證之責任。

AATV是AASTOCKS.com Limited旗下的視頻網站平台。

閣下確認:(i) AATV只為提供資訊,並不為了任何交易目的;(ii) AATV節目內容以及其提供的資料並不構成任何AASTOCKS為售賣任何證券作出招攬、提出要約、意見或推薦,或對任何證劵或投資的收益或是否合適提供法律、稅務、會計、或投資意見或服務;及(iii)AATV並非為任何人士或法律實體在其他司法管轄區或國家使用,而在當地可能因該使用或分發而違反當地法律或法規。

AATV中節目內容中的個人意見和觀點僅供參考及討論,亦並不代表AASTOCKS.com Limited的立場。投資者必須按其本身投資目標及財務狀況自行作出投資決定。AASTOCKS.com Limited不對以下任何情況對閣下或任何人直接或間接負責:(i)AATV的不准確性,錯誤或遺漏,包括但不限於報價和財務數據; (ii)AATV中節目傳輸的延遲,錯誤或中斷; (iii)閣下由AATV中節目內容招致任何損失。

我們保留權利不時更改本免責聲明並於本網站/應用程式刊登更新版本。閣下必須定期查閱於本網站/應用程式刊登的資訊,以確保您即時知悉任何有關的改動。 如閣下於本免責聲明更新後仍繼續使用本網站/應用程式,即代表閣下同意接受更改後的本免責聲明的約束。

本免責聲明應受中華人民共和國香港特別行政區(「香港」)法律管限。閣下同意接受香港法院的專屬司法管轄權管轄。

本免責聲明的中英原文如有任何岐異,一切以英文原文為準。

更新日期為: 2023年1月6日