新智元報導
編輯：編輯部 JYH
【新智元導讀】奧特曼親筆長文「溫和的奇點」，在AI圈內掀起巨大震撼。他預示人類正邁向超級智能時代，奇點不會一夜襲來，而是悄然滲透。
o3-pro震撼登場後，奧特曼第一時間發布了最新部落格文章——溫和的奇點。
文章一開始，緊迫感便撲面而來：
人類已跨越AI發展的「事件視界」，進入指數級加速發展階段。
奧特曼認為，奇點並非一夜之間到來，而是悄然滲透：驚奇變成常態，常態變成底線。
內文中，他還對未來5年技術時間線，給出了自己的預測：
2025年：智能體可進行真實認知工作（如程式設計），工作方式正在被重塑；
2026年：AI可能具備發現新知識的能力；
2027年：機器人有望在物理世界中執行任務；
2030年：個體的產出能力遠超2020年，社會生產方式將有巨大變化。
值得一提的是，這是奧特曼最後一篇親筆文章，沒有一點AI含量。
他還指出，另一個被忽視的部分內容，就是ChatGPT每次查詢的消耗量。
ChatGPT平均每次查詢需要消耗約0.34瓦時的電能，大致相當於一台烤箱運行1秒多鐘，或者一個節能燈泡點亮幾分鐘。
此外，每次查詢還需耗約0.000085加侖的水，差不多是一茶匙的1/15。
接下來，一起跟著奧特曼的視角窺探AI的未來。
人類跨越臨界點，就是現在
我們已經越過了事件視界（event horizon），「飛升」已經開始。
在天體物理學中，事件（event）如果超過事件視界，將無法影響外部觀察者
人類距離建構數位超級智能僅一步之遙，但至少到目前為止，這個過程遠比想像的要平穩。
機器人還沒滿大街跑，大多數人也沒有整天和AI對話。我們依舊會生老病死，也仍然無法輕鬆進入太空，宇宙中還有許多未解之謎。
然而，我們確實已建構出在諸多方面遠超人類的智能系統，它們或將極大地提升生產力。那些曾被認為最不可能的科學突破已經完成；正是這些來之不易的洞見，催生了GPT-4和o3這樣的系統，而它們將引領我們走向更遠的未來。
在多方面，AI將為世界做出貢獻。
其中，AI將推動科學加速進步和提高生產力，為生活品質帶來巨大飛躍。未來會比現在美好得多。科學進步是整體發展的最大引擎，一想到未來無限的可能性，就令人無比激動。
從某種重要的意義上說，ChatGPT已比歷史上任何人都還要更強大。
每天有數億人依賴它處理日益重要的任務：微小的新功能可能產生巨大的積極影響，而微小的偏差在數億人的使用下，也能造成巨大的負面衝擊。
五年時間表 2030成下個節點
2025年，能勝任真正認知工作的AI智能體已經到來，編寫程式碼的方式將被永久改變。2026年，人類或許會迎來能夠洞察新知的系統。2027年，可以在物理世界執行任務的機器人或將問世。
更多的人將能夠創造軟體和藝術。但世界對這兩者的需求也將水漲船高。只要擁抱新工具，專家們很可能依舊遙遙領先於新手。
總而言之，到2030年，個人的工作效率將遠超2020年，這將是驚人的變化，很多人都將找到從中受益的方式。
在一些非常重要的方面，2030年或許不會有天翻地覆的差異。大家仍會關愛家人、表達創意、享受遊戲、湖中暢遊。
但在其他同樣重要的方面，2030年可能會與過往任何時代都截然不同。我們尚不知曉人工智慧可以超越人類多少，但即將找到答案。
在2030年代，智慧與能源——即創意，以及將創意變成現實的能力——將會變得空前充裕。
長久以來，這兩者一直是限制人類進步的根本因素；若能擁有充裕的智慧和能源（以及良好的治理），我們理論上便可擁有一切。
AI自轉飛輪越來越快 奇點悄然滲透
我們已然生活在令人難以置信的數位智能時代，在最初的震驚過後，大多數人已習以為常。
我們很快就從驚嘆AI能生成文筆優美的段落，轉而期待它能創作出版筆優美的小說；從驚嘆它能做出挽救生命的醫療診斷，轉而期待它能研發出治癒方案；從驚嘆它能編寫一個小型程式，轉而期待它能創立一家全新公司。
奇點的發展就是如此：昔日奇蹟淪為尋常之物，再變成平平無奇的標配。
從科學家口中，OpenAI得知，他們的生產力比使用AI前提高了兩到三倍。
高級AI，意義非凡，但或許沒有什麼比用它來加速AI自身的研究更重大的了。我們或許能發現新的計算載體、更優的演算法，以及其他意外之喜。若能用一年甚至一個月完成十年的研究，進步的速度顯然將完全不同。
從今以後，已有的工具將幫助我們獲得更深刻的科學洞見，並協助我們創造更優異的AI系統。
當然，這與AI系統完全自主地更新程式碼並非一回事，但它無疑已是遞迴自我改進的雛形。其他的自我強化循環，也已開始運轉。
巨大的經濟價值創造，開啟了基礎設施建設加速擴張的飛輪，以支撐這些日益強大的AI系統。
而機器人製造其他機器人，也已不再遙遠，而某種意義上，這也包括資料中心建造其他資料中心。
如果我們必須用傳統方式製造第一批百萬台人形機器人，但之後它們就能運作整個供應鏈——開採和提煉礦物、駕駛卡車、營運工廠等等——來製造更多機器人，而這些機器人又能建造更多晶片製造設施、資料中心等，那麼進步的速度顯然會大不相同。
隨著資料中心生產實現自動化，智能的成本最終應會趨近於電力成本。
（人們常好奇ChatGPT每次查詢的能耗：平均每次查詢約消耗0.34瓦時，相當於烤箱運行一秒多鐘，或高效節能燈泡工作幾分鐘。同時消耗約0.000085加侖水，約合十五分之一茶匙。）
逼近AGI終點，AI奇蹟成為常態
科技進步將持續加速，而人類也將一如既往地適應一切變化。
固然會有陣痛，比如某些產業的工作崗位整體消失，但另一方面，世界財富的增長將如此迅猛，以至於我們能夠認真探討以往無法想像的新政策構想。
或許，我們不會一蹴而就地訂立全新的社會契約，但幾十年後回望，量變終將引發質變。
以史為鑑，我們將找到新的目標和新的需求，並迅速吸收新工具。期望會上升，但能力提升同樣迅速，所有人的生活品質都會變得更好。
工業革命後的職業變遷，就是很好的例證
人類將為彼此創造出愈加美好的事物。
與AI相比，人類擁有一種長期、重要且獨特的優勢：我們天生就關心他人及其所思所為，而對機器則不太在意。
一千年前的農夫，如果看到今天許多人的工作，會說這根本就是「假工作」，會認為現代人不過是吃飽喝足、驕奢淫逸後，玩著遊戲自娛自樂。
一千年後的人們看待我們這個時代的工作時，真希望他們也會覺得那是非常「假」的工作，但毫不懷疑，從事者會感到它們極其重要，心滿意足。
新的奇蹟湧現速度驚人。
今天，我們甚至難以想像2035年會有什麼新發現——
或許我們今年剛解開高能物理之謎，明年就開始了太空殖民；又或許今年在材料科學上取得重大突破，明年就擁有了真正的高頻寬腦機介面。
許多人會選擇一如既往地生活，但至少有一部分人可能會決定「接入」。
展望未來，這一切似乎匪夷所思。但當我們身處其中時，也許會感到震撼，卻仍能應對自如。
從相對的視角來看，奇點漸進發生，融合緩慢進行。
我們正攀登在技術指數級增長的漫長曲線上：向前看時，它似乎陡峭得無法攀登；向後看時，卻又顯得平坦無奇。但它始終是一條平滑的曲線。
（試想2020年時，若有人說2025年就會出現接近AGI的產物，聽起來會有多麼不可思議，再對比一下過去這五年的真實歷程。）
超級智能大腦，任重道遠
巨大的機遇，也伴隨著嚴峻的挑戰。
我們固然需要從技術和社會層面解決安全問題，但鑑於其巨大的經濟影響，讓超級智能得到廣泛普及也至關重要。
最佳路徑或許是這樣的：
首先，解決對齊問題（alignment problem）。這意味著必須能強有力地保證，AI系統會朝著人類集體長遠追求的真正目標去學習和行動。
社群媒體的資訊流，便是目標錯位的AI例子：背後的演算法極其擅長讓你不停刷新，也清晰地洞察你的短期偏好，但它之所以能做到這一點，是利用了你大腦的某種機制，而這種機制會凌駕於你的長期偏好之上
然後，專注於讓超級智能變得廉價、易得，並且不過度集中於任何個人、公司或國家。
社會是富有韌性、創造力且適應力極強的。如果能駕馭人類的集體意願和智慧，那麼儘管會犯下許多錯誤，有些事態會變得非常糟糕，但我們終將快速學習和適應，並利用這項技術實現效益最大化、風險最小化。
在社會必須劃定的寬泛邊界內，給予使用者充分的自由，這一點似乎至關重要。全世界越早開始探討這些邊界，以及定義集體對齊（collective alignment），就越有利。
整個產業，而非僅是OpenAI，正在為世界建構一個大腦。
它將是高度個人化的，人人皆可輕鬆使用；我們唯一的瓶頸，將是好的創意。
長久以來，創業圈的技術人員總是取笑那些「點子大王」——他們有想法，卻需要找團隊來實現。但在奧特曼自己看來，這些人即將迎來自己的高光時刻。
如今，OpenAI扮演著多重角色，但首要身份，是一家超級智能研究公司。
前路漫漫，任重道遠，但大部分道路已被照亮，未知領域正迅速消散。能夠投身於我們所熱愛的事業，我們倍感榮幸。
「廉價到無需計量的智能」已觸手可及。這番話聽起來或許很瘋狂，但倘若我們在2020年就告訴您世界將是今天的樣貌，那聽起來恐怕比我們眼下對2030年的預測還要瘋狂。
願我們能平穩、指數級且波瀾不驚地邁向超級智能時代。
參考資料：
https://blog.samaltman.com/the-gentle-singularity
https://x.com/sama/status/1932547247243505924