Sam Altman一年也僅發表2-3篇部落格文章。
昨天發表的這篇「溫和的奇點」(the gentle singularity)，和Ilya前天的演講一樣，語言樸實，不故作高深，不像某些大V顯擺「高級」的「認知」。
但是，如果你和我一樣，將它閱讀5678遍，你會發現它非常有指導實踐的價值。
標題：溫和的奇點
作者：Sam Altman
日期：2025-06-10
我們已經越過了「事件視界」，起飛已經開始。人類正接近建構數位超級智慧(super AGI)，而且至少目前為止，這一切遠沒有想像中那麼奇異。
事件視界(event horizon)：物理術語。在廣義相對論裡，黑洞的「事件視界」是把時空切成兩部分的那條無形邊界：一旦任何粒子或資訊跨過這條線，就再也無法返回，不論你多強大、速度多快，連光都逃不出來。
機器人還沒上街，大多數人也沒整天和AI說話。人類仍然會死於疾病，我們依然無法輕易進入太空。對於宇宙，我們仍然有很多不了解的地方。
儘管如此，我們最近已經建構出在許多方面都比人類更聰明的系統，並且能夠大幅提升人們使用它們所取得的成果。工作中原本最不可能實現的部分現已成為過去；讓我們開發出GPT-4和o3這類系統的科學洞見來之不易，但這些洞見將指引我們走向遠方。
AI將在諸多方面為世界作出貢獻，但藉助AI加速科學進步和提高生產力所帶來的生活品質提升將是巨大的；未來可能遠遠勝過現在。科學進步是整體進步最強大的推動力；一想到我們還能獲得多少新的成果，便令人無比振奮。
從某種宏觀意義上說，ChatGPT已經比有史以來任何一個人都更強大。每天有數以億計的人依賴它，並將其用於越來越重要的任務；一個微小的新功能就能帶來巨大的積極影響；而一個小小的錯誤對齊(misalignment)乘以數億人則可能造成巨大的負面影響。
錯誤對齊(misalignment)：術語。舉例：演算法短影片的本質，就是一個錯誤對齊的AI。這個AI的目的與你作為用戶的價值是不對齊的。
2025年已經出現了能夠執行真正認知工作的智能體；編寫電腦程式碼的方式將從此不再相同。2026年很可能會出現能夠發現全新見解的系統。2027年或許會出現能夠在現實世界中執行任務的機器人。
簡單來說：2025年，L3 AGI；2026年，L4 AGI；
將有更多的人能夠創作軟體和藝術作品。但世界需要更多的軟體和藝術，並且只要專家們擁抱這些新工具，他們很可能仍然比新手強得多。總體而言，一個人從2020年到2030年所能完成的工作量將有顯著變化，許多人將想辦法從中受益。
在最重要的方面，2030年代可能並不會與現在有天差地別。人們仍然會愛著家人，發揮創造力，玩遊戲，在湖中游泳。
但，在一些依然非常重要的方面，2030年代很可能會與以往任何時代截然不同。我們不知道在超越人類智能水平這件事上能走多遠，但我們即將找到答案。
到了2030年代，智慧和能源—也就是創意，以及將創意付諸實踐的能力—將會變得異常富足。這兩者長期以來一直是限制人類進步的根本因素；而有了充裕的智慧和能源（再加上良好的治理），理論上我們可以獲得其他一切。
實際上，我們已經與令人驚嘆的數位智慧共存。在經歷了最初的震撼之後，我們大多數人已經相當習慣於它了。我們很快從驚嘆AI能夠生成一段優美的文字，轉而想知道它何時能創作出一部品優美的小說；或者從驚嘆它能夠作出拯救生命的醫療診斷，轉而想知道它何時能研發出治癒疾病的方法；再或者從驚嘆它能夠創建一個小型電腦程式，轉而想知道它何時能創造出一家全新的公司。這就是奇點發展的過程：奇蹟變成日常，隨後成為「上桌的前提」。
table stakes: 撲克術語，指每位玩家在牌局開始前必須先放在桌面上的賭注。延伸為基本資格，入門的最低門檻。
據科學家反映，他們的生產力相較於有AI之前提高了兩到三倍。高階AI之所以引人注目有很多原因，但也許最重要的是我們可以利用它更快速地開展AI研究。我們可能會發現新的運算載體、更好的演算法，以及其他誰也無法預料的事物。如果我們能在一年甚至一個月內完成過去十年的研究，那麼進步的速度顯然將大不相同。
高階AI(advanced AI)：同Ilya昨天說的「the best AIs」(最好的AI)。AI和人一樣是智能體，不可一概而論，而是要以智能水平進行區分。
從現在開始，我們已經建構的工具將幫助我們獲取更多科學洞見，並協助我們創造更好的AI系統。當然，這與AI系統完全自主更新自身程式碼並不是一回事，但不管怎樣，這可以看作遞迴式自我改進的雛形。
還有其他自我強化的閉環在發揮作用。經濟價值的創造已經啟動了基礎設施擴建的飛輪，用於運行這些日益強大的AI系統。而能夠製造其他機器人的機器人（以及從某種意義上說，能夠建造其他數據中心）離實現也已經不遠了。
如果我們不得不用傳統方式製造首批一百萬個人形機器人，但之後它們可以操作整個供應鏈——挖掘和提煉礦物、駕駛卡車、運營工廠等等——來製造更多的機器人，而這些機器人又能夠建造更多晶片製造設施、數據中心等，那麼進步的速度顯然將大不相同。
隨著數據中心生產實現自動化，智慧的成本最終應該會趨近於電力成本。（人們經常好奇一次ChatGPT查詢消耗多少能量；平均每次查詢約消耗0.34瓦時，大致相當於烤箱運行一秒多鐘或一個高效燈泡亮幾分鐘所用的能量。每次查詢還約耗水0.000085加侖，約等於十五分之一茶匙的水量。）
技術進步的速度將持續加快，而且人類仍然能夠適應幾乎任何事物。確實會有非常棘手的方面，比如整個職業類別的消失；但另一方面，世界將變得極其富裕且富裕得非常之快，我們將能夠認真考慮一些以往根本不可能的新政策理念。我們或許不會一下子就訂立全新的社會契約，但當我們在幾十年後回顧時，這些漸進的變化將累積成巨大的轉變。
基於我的理解，唯一的出路是UBI，集體發錢。讓所有人來快速學習，終身學習，適應並駕馭AI，似乎很難。不願意或不指望UBI的人，就得每天用AI，學習AI知識和工具。
如果歷史可以作為借鑑，我們將會想出新的事情去做，也會產生新的渴望，並能迅速地吸納新工具（工業革命後的就業變遷就是一個很好的近期例子）。人們的期望會提高，但能力也會同樣快速地提升，我們都將獲得更好的東西。我們將為彼此創造出越來越奇妙的事物。相較於AI，人類在長期方面擁有一個重要而有趣的優勢：我們的天性使我們在乎他人及其所思所為，而我們並不怎麼關心機器。
一千年前的一位自給自足的農民，如果看到我們許多人如今所做的事情，可能會說我們的工作都是「假工作」，並覺得我們只是因為有充足的食物和難以想像的奢侈品而在玩遊戲自娛自樂。我希望當我們看到一千年後的那些工作時，也會覺得那些工作非常「虛假」；而我毫不懷疑，對於從事那些工作的人來說，那些工作將讓他們感到無比重要且令人滿足。
新奇蹟誕生的速度將極為驚人。今天我們甚至難以想像到了2035年我們會發現些什麼；也許我們會在某一年解決高能物理難題，而下一年就開始太空殖民；或者某一年在材料科學上取得重大突破，而下一年就實現真正的高頻寬腦機介面。許多人將選擇幾乎以同樣的方式過他們的生活，但至少會有一部分人可能決定「接入」。
展望未來，這一切聽起來讓人難以完全理解。但真正經歷時，可能會讓人覺得驚嘆卻依然可控。從相對的角度來看，奇點是逐步到來的，融合也是緩慢發生的。我們正沿著技術指數級進步的長弧攀登；向前看，這條弧線總顯得陡直，向後看，它又彷彿平坦，但實際上它是一條平滑的曲線。（回想2020年，如果有人說到2025年我們將接近擁有AGI，那聽起來會有多誇張；再看看過去5年的實際經歷。）
巨大的潛在收益伴隨著嚴峻的挑戰。我們確實需要在技術和社會層面解決安全問題，但隨後，鑑於超級智慧所帶來的經濟影響，將其存取權限廣泛開放就變得至關重要。最好的前進路徑可能是：
1. 解決對齊問題，也就是說我們能夠可靠地確保AI系統在長期內學習並朝著我們集體真正想要的方向行事。（社群媒體的資訊流就是「錯誤對齊AI」的一個例子；驅動這些資訊流的演算法極擅長誘使你不停地滾動瀏覽，並且清楚地了解你的短期偏好，但它們正是透過利用你大腦中的某些機制讓你的短期偏好凌駕於長期偏好之上來實現這一點的。）
2. 接下來要專注於讓超級智慧變得廉價、廣泛可及，並且不至於過度集中於任何個人、公司或國家。社會具有韌性和創造力，並且適應能力很強。如果我們能夠凝聚全人類的意志和智慧，那麼儘管我們會犯很多錯誤，也會出現一些嚴重的問題，我們仍能快速地學習和適應，並利用這項技術使好處最大化、壞處最小化。在由社會決定的寬泛界限內給予用戶充分的自由，這一點顯得非常重要。全球越早開始討論這些界限是什麼，以及我們如何定義「集體對齊」，就越好。
我們（整個產業，而不僅僅是OpenAI）正在為這個世界打造一個「大腦」。這個「大腦」將是高度個性化且每個人都能輕鬆使用的；我們未來唯一的限制將是有沒有好的創意。長期以來，創業圈的技術人員一直嘲笑那些「點子傢伙」——那些只有一個主意就想找團隊來實現的人。而現在在我看來，屬於他們大顯身手的日子即將到來。
OpenAI目前涉足許多方面，但首先，我們是一家超級智慧研究公司。我們面前還有大量工作要完成，但此刻我們前方的大部分道路都已經被照亮，黑暗未知的區域正在快速縮小。能夠從事我們所做的事情，我們感到無比感激。
「智慧廉價到無需計價」已在掌握之中。這樣說或許聽起來很瘋狂，但如果我們在2020年就告訴你我們今天會達到現在的局面，當時聽起來可能會比我們目前對2030年的預測還要瘋狂。
這篇文章發布的同時，OpenAI把o3價格降低到比GPT-4o還便宜。頂級AI，底部價格。
願我們能夠以平穩、指數級且波瀾不驚的方式擴展到超級智慧階段。
翻譯一下：祝願世界和平。奇點在快速到來，希望是一個「溫和的奇點」。
雜想
與文章有關的幾個想法。
首先，我來洩露一個「天機」：英文翻譯，最好的工具就是OpenAI Deep Research。一次成型，表達準確，語言恰當，基本沒有修改餘地（以本文為例，我只加了幾條註釋）。關鍵是不會漏，不會亂改，不會錯。
我很多年前是靠翻譯吃飯的（賈伯斯去世時的彭博商業週刊專刊，2/3是我翻譯的）。收費很貴，一個國慶假期能掙50k。但是，我現在用Deep Research的翻譯工作流，只能感嘆幸虧轉行了。
這個經驗是很有價值。基本上，人工翻譯和低品質AI翻譯，不應該存在了。你就把Deep Research當成一個翻譯代理即可。可以直接出活的那種。
其次，用一個具體的例子來證明一個可怕的觀點。
觀點：AI時代，智慧已經不具有「獨特性」（以前，高階智慧是「智人」獨占），而是淪為一種資源，和電力一樣的資源，沒什麼特別的，而且超級便宜。
有多便宜？智慧成本最終會逼近電價，便宜到幾乎不需要計價。Sam Altman給出了當前平均一次ChatGPT對話的能量消耗：0.34 Wh 電 + 0.000085 gal 水。
例子：以Sam Altman的最新部落格為例，15年前，翻譯這樣的一篇文章，價格大約在1000元左右（千字400）。現在，Deep Research一下，10分鐘搞定。更快，更好，價格幾乎為0。（那麼，為什麼大學裡還有英文系？）。
不少類型的智力勞動，跟翻譯勞動沒有本質區別。
證明完畢。