新智元レポート
編集：編集部 JYH
【新智元概要】サム・アルトマンによる長文「穏やかなシンギュラリティ」がAI界に大きな衝撃を与えた。彼は人類が超知能時代へと向かっており、シンギュラリティは一夜にして訪れるのではなく、静かに浸透していくと予測している。
o3-proが発表された後、サム・アルトマンはすぐに最新のブログ記事——「穏やかなシンギュラリティ」を公開した。
記事の冒頭から、切迫感が押し寄せてくる。
人類はAI発展の「事象の地平線（event horizon）」を越え、指数関数的な加速段階に入った。
アルトマンは、シンギュラリティは一夜にして到来するのではなく、静かに浸透していくと考える。驚きは常態となり、常態は最低限のものとなる。
2025年：AIエージェントが実際の認知作業（プログラミングなど）を行えるようになり、仕事のやり方が再構築される。
2026年：AIが新しい知識を発見する能力を持つ可能性がある。
2027年：ロボットが物理世界でタスクを実行できるようになる見込み。
2030年：個人の生産能力が2020年をはるかに上回り、社会の生産方式に大きな変化が生じる。
特筆すべきは、これがアルトマンにとって最後の直筆記事であり、AIの関与が一切ないことだ。
彼はまた、見過ごされがちなもう一つの点として、ChatGPTのクエリごとの消費量を挙げている。
ChatGPTの平均的なクエリは、約0.34ワット時の電力を消費する。これは、オーブンを1秒強動かすか、省エネ電球を数分点灯させるのにほぼ相当する。
さらに、クエリごとに約0.000085ガロンの水も消費する。これは小さじ1/15に相当する。
それでは、アルトマンの視点からAIの未来を覗いてみよう。
人類は臨界点を越えた、
それは今だ
私たちはすでに事象の地平線（event horizon）を越え、「アセンション」が始まっている。
天体物理学では、事象（event）が事象の地平線を越えると、外部の観測者に影響を与えることはできない。
人類がデジタル超知能を構築するまであと一歩だが、少なくともこれまでのところ、そのプロセスは想像以上に円滑に進んでいる。
ロボットはまだそこら中にいるわけではないし、ほとんどの人が一日中AIと会話しているわけでもない。私たちは依然として生老病死を経験し、簡単に宇宙へ行くこともできず、宇宙にはまだ多くの未解決の謎がある。
しかし、私たちは確かに多くの点で人間をはるかに超える知能システムを構築しており、それらは生産性を劇的に向上させるだろう。かつて最も不可能と思われていた科学的ブレークスルーが達成された。これらの苦労して得た洞察がGPT-4やo3のようなシステムを生み出し、それらが私たちをさらに遠い未来へと導くだろう。
多方面で、AIは世界に貢献するだろう。
特に、AIは科学の進歩を加速させ、生産性を向上させ、生活の質を大きく飛躍させるだろう。未来は現在よりもずっと良くなるだろう。科学の進歩は全体の発展の最大の原動力であり、未来の無限の可能性を考えると、非常にわくわくする。
ある重要な意味で、ChatGPTは歴史上の誰よりも強力になっている。
毎日何億もの人々が、ますます重要になるタスクを処理するためにChatGPTに依存している。小さな新機能が大きなポジティブな影響を生み出す可能性があり、小さな偏りでも何億人もの使用によって大きなネガティブな影響を与える可能性がある。
5年間のタイムライン
2030年が次の節目となる
2025年には、真に認知的な仕事をこなせるAIエージェントが登場し、コードの書き方は永続的に変わるだろう。2026年には、人類は新しい知識を発見できるシステムを迎えるかもしれない。2027年には、物理世界でタスクを実行できるロボットが登場する可能性がある。
より多くの人々がソフトウェアやアートを創造できるようになるだろう。しかし、これら両方に対する世界の需要も高まるだろう。新しいツールを受け入れれば、専門家は初心者よりもはるかに先を行く可能性が高い。
要するに、2030年までに個人の生産性は2020年をはるかに上回るだろう。これは驚くべき変化であり、多くの人がそこから恩恵を受ける方法を見つけるだろう。
いくつかの非常に重要な点では、2030年は劇的な違いはないかもしれない。人々は引き続き家族を大切にし、創造性を表現し、ゲームを楽しみ、湖で泳ぐだろう。
しかし、他の同様に重要な点では、2030年はこれまでのどの時代とも全く異なる可能性がある。人工知能が人間をどれだけ超えることができるかはまだ分からないが、間もなくその答えが見つかるだろう。
2030年代には、知恵とエネルギー——すなわちアイデアと、そのアイデアを現実にする能力——がかつてないほど豊富になるだろう。
長い間、この二つが人類の進歩を制限する根本的な要因であった。十分な知恵とエネルギー（そして良いガバナンス）があれば、理論的には何でも手に入れることができる。
AIの自転するフライホイールはますます速くなる
シンギュラリティは静かに浸透する
私たちはすでに信じられないほどのデジタル知能の時代に生きており、最初の衝撃の後、ほとんどの人がそれに慣れてしまった。
私たちはAIが美しい文章を生成できることに驚嘆する状態から、美しい小説を創作できることを期待するようになり、命を救う医療診断ができることに驚嘆する状態から、治療法を開発できることを期待するようになり、小さなプログラムを作成できることに驚嘆する状態から、全く新しい会社を設立できることを期待するようになった。
シンギュラリティの発展とはこのようなものだ。かつての奇跡が当たり前になり、そして何ら特別なことではない標準となる。
科学者たちの話によると、OpenAIはAIを使用する前と比べて、生産性が2倍から3倍向上したと聞いている。
高度なAIは非常に重要だが、おそらくAI自身の研究を加速させることほど重要なものはないだろう。新しい計算媒体、より優れたアルゴリズム、その他の予期せぬ発見ができるかもしれない。10年かかる研究を1年、あるいは1ヶ月で完了できるなら、進歩の速度は明らかに全く異なるものになるだろう。
今後、既存のツールは私たちに、より深い科学的洞察を得させ、より優れたAIシステムを創造する手助けとなるだろう。
もちろん、これはAIシステムが完全に自律的にコードを更新することとは違うが、間違いなく「自己再帰的改善」の初期段階だ。他の自己強化ループもすでに動き始めている。
莫大な経済的価値の創造が、これらのますます強力なAIシステムを支えるためのインフラ建設の加速的な拡大のフライホイールを始動させた。
ロボットが他のロボットを製造することも、もはや遠い未来ではない。ある意味で、データセンターが他のデータセンターを建設することも含まれる。
もし私たちが最初の数百万台の人型ロボットを伝統的な方法で製造しなければならないとしても、その後それらがサプライチェーン全体——鉱物の採掘と精製、トラックの運転、工場の運営など——を動かし、より多くのロボットを製造できるようになり、そのロボットがさらに多くのチップ製造施設やデータセンターなどを建設できるようになったとしたら、進歩の速度は明らかに大きく異なるだろう。
データセンターの生産が自動化されるにつれて、知能のコストは最終的に電力コストに近づくはずだ。
（人々はChatGPTのクエリごとのエネルギー消費量についてよく疑問を抱く。平均的なクエリは約0.34ワット時を消費し、これはオーブンを1秒強動かすか、高効率の省エネ電球を数分間点灯させるのに相当する。同時に、約0.000085ガロンの水を消費し、これは小さじ1/15に相当する。）
AGI終点に迫る、AIの奇跡は常態となる
技術進歩は加速し続け、人類は常に変化に適応していくだろう。
確かに、特定の業界での仕事が全体的に失われるといった苦痛は伴うだろうが、一方で、世界の富の増加は非常に急速に進むため、これまで想像できなかった新しい政策構想を真剣に議論できるようになるだろう。
もしかしたら、私たちは一夜にして全く新しい社会契約を結ぶことはないかもしれないが、数十年後に振り返れば、量的な変化が質的な変化を引き起こすだろう。
歴史に学ぶように、私たちは新しい目標と新しい需要を見つけ、新しいツールを迅速に取り入れるだろう。期待は高まるが、能力向上も同様に迅速であり、すべての人の生活の質はより良くなるだろう。
産業革命後の職業の変遷は、良い例だ。
人類は互いのために、ますます素晴らしいものを創造していくだろう。
AIと比較して、人類は長期的に重要かつ独自の優位性を持っている。私たちは生まれつき他者とその思考や行動に関心があるが、機械に対してはあまりそうではない。
千年前の農夫が今日の多くの人々の仕事を見たら、それは「偽の仕事」だと言うだろう。現代人はただ食べて飲んで贅沢をして、ゲームで楽しんでいるだけだと考えるだろう。
千年後の人々が私たちの時代の仕事を見る時、それが非常に「偽の」仕事だと感じてくれることを心から願うが、従事者がそれが極めて重要で、心から満足していると感じるだろうことは疑う余地がない。
新しい奇跡の出現速度は驚くべきものだ。
今日、私たちは2035年にどのような新しい発見があるかさえ想像するのが難しい。
もしかしたら、今年高エネルギー物理学の謎を解き明かし、来年には宇宙植民が始まるかもしれない。あるいは、今年材料科学で大きなブレークスルーを達成し、来年には真に高帯域な「脳とコンピューターのインターフェース」を手に入れるかもしれない。
多くの人々はこれまで通りに生活することを選ぶだろうが、少なくとも一部の人々は「接続」することを決めるかもしれない。
未来を展望すると、これらすべては途方もなく思える。しかし、私たちがその中にいるとき、衝撃を受けるかもしれないが、冷静に対処できるだろう。
相対的な視点から見ると、シンギュラリティは漸進的に発生し、融合はゆっくりと進む。
私たちは技術の指数関数的成長という長い曲線の上に登っている。前を見ると、登れないほど急に見えるが、後ろを見ると、全く平坦に見える。しかし、それは常に滑らかな曲線なのだ。
（2020年に、2025年にはAGIに近いものが現れると誰かが言ったとしたら、どれほど信じられない話に聞こえたか考えてみよう。そして、過去5年間の実際の経過と比べてみよう。）
超知能脳、その道は遠い
巨大な機会には、厳しい課題も伴う。
技術的および社会的な側面から安全性の問題を解決する必要があるのは確かだが、その莫大な経済的影響を考えると、超知能を広く普及させることも極めて重要だ。
最良の道筋はこうかもしれない。
まず、「アライメント問題」（alignment problem）を解決する。これは、AIシステムが人類が長期的に追求する真の目標に向かって学習し、行動することを強力に保証できる必要があることを意味する。
ソーシャルメディアのフィードは、目標がずれたAIの例だ。その背後にあるアルゴリズムは、あなたがスクロールし続けるようにすることに非常に長けており、あなたの短期的な好みを明確に把握しているが、それはあなたの長期的な好みを凌駕する脳のメカニズムを利用しているからだ。
次に、超知能を安価で入手しやすく、いかなる個人、企業、国家にも過度に集中させないことに注力する。
社会は回復力、創造性、適応性に富んでいる。もし人類の集合的な意思と知恵を操ることができれば、多くの間違いを犯し、事態が非常に悪くなることがあったとしても、私たちは最終的に迅速に学習し適応し、この技術を最大限に活用し、リスクを最小限に抑えるだろう。
社会が定めるべき広範な境界内で、ユーザーに十分な自由を与えることが極めて重要であるようだ。世界がこれらの境界と集合的アライメント（collective alignment）の定義について早期に議論を始めるほど、より有利になるだろう。
OpenAIだけでなく、業界全体が世界のために脳を構築している。
それは高度にパーソナライズされ、誰もが簡単に利用できるだろう。唯一のボトルネックは、良いアイデアとなるだろう。
長い間、スタートアップ界の技術者たちは、「アイデアは持っているが、それを実現するチームを探さなければならない」という「アイデア大王」をからかってきた。しかし、アルトマン自身は、これらの人々が今こそ脚光を浴びる時だと考えている。
今日、OpenAIは複数の役割を担っているが、その最優先の役割は、超知能研究会社である。
道のりは長く、責任も重いが、ほとんどの道は照らされており、未知の領域は急速に消滅している。私たちが愛する事業に携われることを光栄に思う。
「測定不能なほど安価な知能」は手の届くところにある。この言葉は狂気じみているように聞こえるかもしれないが、もし2020年に私たちが今日の世界の様子をあなたに伝えていたら、それは私たちが現在予測する2030年の様子よりも狂気じみて聞こえただろう。
私たちが超知能時代へと、平穏に、指数関数的に、そして波乱なく進んでいけますように。
参考資料：
https://blog.samaltman.com/the-gentle-singularity
https://x.com/sama/status/1932547247243505924