為什麼我們不太可能很快獲得通用人工智慧

科技巨頭們聲稱人工智慧很快就會匹敵人腦。他們是不是低估了我們?

凱德·梅茨 (Cade Metz)  2025年5月16日

圖片

OpenAI 首席執行官薩姆·奧特曼 (Sam Altman) 最近在一次私人電話中告訴特朗普總統,這項技術將在他的任期結束前實現。OpenAI 主要競爭對手 Anthropic 的首席執行官達里奧·阿莫迪 (Dario Amodei) 多次告訴播客,這項技術甚至可能更早實現。科技億萬富翁伊隆·馬斯克 (Elon Musk) 也曾表示,這項技術可能在今年年底前實現。

與矽谷及其他地方的許多其他聲音一樣,這些高管預測通用人工智慧(AGI)即將到來。

自21世紀初,一群邊緣研究人員將“AGI”一詞貼在一本書的封面上,這本書描述了他們希望有朝一日構建的自主電腦系統。自那時起,“AGI”就成了未來達到人類智慧水平的技術的簡稱。AGI並沒有固定的定義,只是一個令人著迷的概念:一種能夠匹敵人類思維諸多能力的人工智慧。

阿爾特曼、阿莫迪和馬斯克長期以來一直在追逐這一目標,谷歌和微軟等公司的高管和研究人員也是如此。部分得益於他們對這一雄心勃勃的理念的熱情追求,他們開發出的技術正在改變數億人的研究、藝術創作和電腦編程方式。如今,這些技術有望改變整個行業的面貌。

但自從OpenAI 的 ChatGPT 等聊天機器人問世,以及這些奇特而強大的系統在過去兩年中不斷改進以來,許多技術專家越來越大膽地預測 AGI 何時會到來。有些人甚至說,一旦他們實現了 AGI,一種名為“超級智慧”的更強大的創造物就會隨之而來。

這些永遠充滿信心的聲音預測著不遠的未來,他們的推測正在超越現實。儘管他們的公司正在以驚人的速度推動這項技術的發展,但一群更加冷靜的聲音迅速駁斥了任何關於機器很快將匹敵人類智力的說法。

“我們目前開發的技術不足以實現這一目標,”人工智慧新創公司 Cohere 的創始人尼克·弗羅斯特 (Nick Frosst) 說道,他曾在谷歌擔任研究員,並師從過去 50 年來最受尊敬的人工智慧研究員。“我們現在開發的是能夠接收單詞並預測下一個最可能的單詞,或者接收像素並預測下一個最可能的像素的東西。這與你我所做的截然不同。”

美國人工智慧促進會 (AIA) 近期開展的一項調查顯示,超過四分之三的受訪者表示,目前用於構建 AGI 技術的方法不太可能催生出 AGI。AIA是一個擁有 40 年歷史的學術團體,其成員包括該領域一些最受尊敬的研究人員。

觀點分歧的部分原因在於,科學家們甚至無法就如何定義人類智慧達成一致,圍繞智商測試和其他基準的優缺點爭論不休。將人類大腦與機器進行比較則更加主觀。這意味著,如何定義通用人工智慧(AGI)本質上是一個見仁見智的問題。(去年,在一場備受矚目的訴訟中,馬斯克的律師表示,通用人工智慧已經存在,因為馬斯克的主要競爭對手之一OpenAI已經與其主要資助者簽署了一項合同,承諾不會銷售基於AGI技術的產品。)

而且,科學家們還沒有確鑿的證據表明,當今的技術能夠完成大腦所能做到的一些更簡單的事情,比如識別諷刺或感受同理心。通用人工智慧即將到來的說法是基於統計推斷——以及一廂情願的想法。

根據各種基準測試,當今的技術在一些重要領域(例如數學和電腦編程)正在持續改進。但這些測試僅描述了人類能力的一小部分。

人類深諳如何應對混亂且瞬息萬變的世界。機器卻難以掌控那些意料之外的事情——無論大小,那些與過去截然不同的挑戰。人類能夠構思出前所未有的創意。機器通常能夠重複或增強它們之前所見的事物。

正因如此,弗羅斯特和其他懷疑論者認為,要讓機器達到人類水平的智慧,至少需要一個全球科技專家尚未想到的偉大構想。目前尚無定論,這需要多長時間。

“一個系統在某一方面優於人類,並不一定在其他方面也更勝一籌,”哈佛大學認知科學家史蒂芬·平克(Steven Pinker)說道。“根本不存在一個能夠自動解決所有問題的全知全能的機器,包括那些我們甚至還沒想過的問題。人們很容易陷入一種神奇的思維模式。但這些系統並非奇蹟。它們只是一些非常了不起的小玩意兒。”

“人工智慧可以實現目標”

像 ChatGPT 這樣的聊天機器人是由科學家所謂的神經網絡驅動的,這是一種能夠識別文本、圖像和聲音模式的數學系統。例如,通過從海量的維基百科文章、新聞報道和聊天記錄中找出模式,這些系統可以學習自行生成類似人類的文本,例如詩歌和電腦程式。

這意味著這些系統的進步速度遠超過去的電腦技術。在過去的幾十年裡,軟體工程師們只能一行一行地編寫程式碼來構建應用程式,這是一個循序漸進的過程,永遠無法創造出像 ChatGPT 這樣強大的東西。而由於神經網絡能夠從數據中學習,它們能夠達到新的高度,並且能夠快速達到。

在見證了過去十年這些系統的改進之後,一些技術專家相信,進步將以同樣的速度持續下去——達到 AGI 甚至更遠。

“所有這些趨勢都表明,所有限制都在消失,”Anthropic 首席科學官賈里德·卡普蘭 (Jared Kaplan) 表示。“人工智慧與人類智慧截然不同。人類學習新任務要容易得多。他們不需要像人工智慧那樣進行大量練習。但最終,通過更多的練習,人工智慧可以達到這個水平。”

在人工智慧研究人員中,卡普蘭博士因發表一篇開創性的學術論文而聞名,該論文描述了如今被稱為“縮放定律”的理論。這些定律的本質是:人工智慧系統分析的數據越多,其效能就越好。正如學生通過閱讀更多書籍來學習更多知識一樣,人工智慧系統能夠在文本中發現更多模式,並學會更準確地模仿人類的詞語組合方式。

最近幾個月,OpenAI 和 Anthropic 等公司幾乎耗盡了網際網路上所有的英文文本,這意味著他們需要一種新的方法來改進他們的聊天機器人。因此,他們更加依賴一種被科學家稱為強化學習的技術。通過這個過程,系統可以通過反覆試驗來學習行為,這個過程可能持續數週甚至數月。例如,通過解決數千道數學題,它可以了解哪些技巧容易得出正確答案,哪些技巧則不會。

得益於這項技術,像卡普蘭先生這樣的研究人員相信,“縮放定律”(或類似的定律)將會延續下去。研究人員表示,隨著這項技術在各個領域不斷嘗試和學習,它將追隨 AlphaGo 的軌跡。AlphaGo 是由谷歌研究團隊於 2016 年打造的。

通過強化學習,AlphaGo 通過數百萬場自對弈,掌握了圍棋(一種與國際象棋類似的複雜中國棋盤遊戲)的精髓。那年春天,它擊敗了世界頂尖棋手之一,震驚了人工智慧界乃至全世界。大多數研究人員此前認為,人工智慧還需要 10 年才能實現這一成就。

AlphaGo 以人類從未嘗試過的方式下棋,教會了頂尖棋手們應對這項古老遊戲的全新戰略方法。一些人相信,像 ChatGPT 這樣的系統也能實現同樣的飛躍,達到通用人工智慧 (AGI) 的水平,進而成為超級智慧。

但像 AlphaGo 這樣的遊戲遵循著一套狹小而有限的規則。現實世界僅受物理定律的約束。對整個現實世界進行建模遠遠超出了當今機器的能力範圍,那麼,誰能確定通用人工智慧(AGI)——更不用說超級智慧——即將到來呢?

人與機器之間的差距

無可爭辯的是,如今的機器在某些方面已經超越了人腦,但這早已是事實。計算器進行基本數學運算的速度比人類更快。像 ChatGPT 這樣的聊天機器人書寫速度更快,而且在書寫過程中,它們可以立即提取比人類大腦所能閱讀或記憶的更多的文本。在一些涉及高級數學和編碼的測試中,這些系統的表現甚至超過了人類。

但人類不能被簡化到這些基準。“自然界中存在著多種類型的智慧,”麻省理工學院計算認知科學教授喬希·特南鮑姆(Josh Tenenbaum)說道。

一個明顯的區別是,人類的智慧與物質世界息息相關。它超越了文字、數字、聲音和圖像,延伸到桌椅、爐灶、煎鍋、建築、汽車以及我們日常生活中接觸到的一切。智慧的一部分就是知道何時翻動放在煎鍋上的煎餅。

一些公司已經開始以與其他公司訓練聊天機器人大致相同的方式訓練人形機器人。但這比構建 ChatGPT 更困難、更耗時,需要在實體實驗室、倉庫和家中進行大量的訓練。機器人研究比聊天機器人研究落後多年。

人與機器之間的差距甚至更大。無論是在物理領域還是數字領域,機器仍然難以匹敵人類智慧中那些更難定義的部分。

構建聊天機器人的新方法——強化學習——在數學和電腦編程等領域效果良好,公司可以清晰地定義哪些行為是好是壞。數學問題有不可辯駁的答案。電腦程式必須編譯並運行。但這項技術在創意寫作、哲學或倫理學方面效果不佳。

奧特曼先生最近在X上撰文稱,OpenAI訓練了一個“擅長創意寫作”的新系統。他補充說,這是我第一次“被人工智慧寫出的東西深深震撼”。寫作是這些系統最擅長的。但“創意寫作”很難衡量。它在不同情況下會呈現出不同的形式,並展現出一些難以解釋、更難以量化的特徵:真誠、幽默、誠實。

當這些系統部署到世界上時,人類會告訴它們該做什麼,並指導它們度過新奇、變化和不確定的時刻。

“人工智慧需要我們:我們這些不斷生產、為機器提供能量的生物,”威尼斯卡福斯卡里大學科學哲學教授馬泰奧·帕斯奎內利說道。“它需要我們思想和生活的獨創性。”

驚險奇幻

無論科技行業內外,通用人工智慧(AGI)的到來都令人興奮不已。人類對創造人工智慧的夢想可以追溯到12世紀出現的傀儡神話。瑪麗·雪萊的《科學怪人》和斯坦利·庫布裡克的《2001:太空漫遊》等作品都源於這種幻想。

如今,我們許多人都在使用能夠像我們一樣書寫甚至說話的電腦系統,因此我們很自然地認為智慧機器即將到來。這是我們幾個世紀以來一直期盼的。

20世紀50年代末,一群學者創立了人工智慧領域,他們確信很快就能製造出能夠模擬人腦的電腦。一些人認為,十年之內,機器就能擊敗世界西洋棋冠軍,並發現它自己的數學定理。但這一切並沒有在那個時間段內發生。有些至今仍未實現。

當今科技領域的許多開發者都認為自己正在實現某種科技宿命,推動著某個不可避免的科學時刻,就像火的發明或原子彈的誕生一樣。但他們卻無法給出一個科學理由來證明這一時刻即將到來。

正因如此,許多其他科學家認為,如果沒有新想法,就不可能實現通用人工智慧——某種超越僅僅在數據中尋找模式的強大神經網絡的東西。這種新想法可能明天就會出現。但即便如此,業界也需要數年時間來開發它。

Meta 首席人工智慧科學家 Yann LeCun 自從 9 歲時在巴黎一家電影院觀看了 70 毫米寬銀幕全景電影《2001:太空漫遊》以來,就一直夢想著構建我們現在所說的通用人工智慧 (AGI)。他也是2018 年三位因在神經網絡領域早期研究而獲得圖靈獎(被認為是電腦界的諾貝爾獎)的先驅之一。但他並不認為通用人工智慧 (AGI) 的到來遙不可及。

在 Meta,他的研究實驗室正在探索令科技行業著迷的神經網絡之外的領域。LeCun 先生和他的同事們正在尋找缺失的理念。“下一代架構能否在未來 10 年內實現人類級別的人工智慧,這至關重要,”他說道。“或許不能。目前我們還無法確定。”

凱德·梅茨 (Cade Metz)是《紐約時報》記者,撰寫有關人工智慧、無人駕駛汽車、機器

主標籤:通用人工智慧 (AGI)

次標籤:人工智慧人類智能技術預測機器學習


上一篇:Qwen突破:用「平行計算」代替「堆參數」,新方法記憶體降22倍、延遲降6倍

下一篇:Reasoning 新突破:SoftCoT++ 如何讓 LLM「多想幾條路」?

分享短網址