「虚構の意識」と「真実の意識」をどのように区別するのか？認知科学者のヨシャ・バッハ（Joscha Bach）は、この一見単純だがほとんど解決不能な問いを議論の中で投げかけた。「おそらくすべての意識は虚構だ——あなたがそれを自覚しない限り、それはパラドックスになる。」彼は、この問題は現象学的なレベルで非常に複雑であり、今日まで結論が出ていないことを認めた。「偽りの意識現象と真実の現象体験は、本質的にどちらも仮想的な構築物だ。」
徐道輝
Stephen Hsu
ミシガン州立大学物理学教授
アメリカの物理学者、起業家。カリフォルニア工科大学で物理学の学士号を取得し、カリフォルニア大学バークレー校で博士号を取得した。その後、イェール大学とオレゴン大学で教鞭を執り、オレゴン大学では理論科学研究所の所長を務め、素粒子物理学と宇宙論の研究に専念した。2012年にはミシガン州立大学の研究・大学院教育担当副学長に任命された。しかし、遺伝子改変と人種分類に関する物議を醸す見解により任期が問われ、最終的に2020年に管理職を辞任した。さらに、スティーブ・スーはSafewebとGenomic Prediction社の創設者であり、後者は体外受精胚の遺伝子検査技術開発に特化している。遺伝学分野での彼の仕事は、複雑な人間の特徴と病気の遺伝的予測に重要な貢献をした。
ヨシャ・バッハ
Joscha Bach
オスナブリュック大学哲学博士
ヨシャ・バッハは、ドイツの認知科学者、人工知能研究者、哲学者であり、認知アーキテクチャ、人工知能、心理的表現、感情、社会モデリング、マルチエージェントシステム、心の哲学に関する研究で知られている。彼の研究は、人間の知能と意識を計算モデル化する方法を探求することで、認知科学と人工知能の橋渡しをすることを目指している。
深掘り速読：
1.コンピュータ発展の歴史全体が、「究極のアルゴリズム」、つまり自己進化し、あらゆるものを理解できる謎の存在を追い求めてきた。
2. 脳の細胞群が統一的な主体として行動できるのは、環境の意義を抽出して特定の視点をシミュレーションする「単一エージェント」制御モデルを構築しているからである。これは「この主体が世界をどのように認識すべきか」という仮想的な物語である。
3.私は世界がますます「コード」だと感じるようになっている。「現実を直接体験する」という感覚は、私たちが現実を観察しているというよりも、脳がモデルを生成しているということだろう。
4.人間の心の機能は、本質的に多次元埋め込み空間で組織化されており、各次元が調整可能なパラメータ変数を表している。
5.地球の生命の本質は人間にあるのではなく、意識と生命の進化にある。AGIがなければ、人類は滅亡する運命だと私は思う。
6.統合情報理論が作り出した「公理」とされる章は、実際には意識の定義に関する言葉による記述に過ぎず、数学的な意味での公理ではない。そしてφ値は理論を売り込むための道具のようなものだ。
東ドイツの森で育つ
徐道輝： 私たちは夏にフランクフルトで行われたイベントで知り合いました。AIに関するあなたの深い議論をいくつか聞く機会に恵まれ、あなたのユニークな子供時代の経験や生い立ちについても知りました。そこで、まずあなたの幼少期から話を始め、今日に至るまでの道のりを見てから、AIの核心的な話題について話したいと思います。森で過ごした子供時代について話していただけますか？
ヨシャ・バッハ： 父は社会になじめなかったので、自分自身の世界を築くことに決めました。彼は「社会実験」の最初の世代の一人ですが、人を招き入れたり、輪を広げたりする方法を知らず、それらに興味すらありませんでした。彼は森の中に個人的な王国を築き、母だけを説得して支持を得て、彼自身が作り上げた「エデンの園」のような生活を送っていました。
彼は元々建築家でしたが、後に芸術家になり、人生の意味は芸術を創造し、内なる声と対話することだと考えていました。そのため、私の成長は彼の人生の「副産物」に過ぎず、彼は子供たちの内なる世界にあまり関心がありませんでした。私が育った場所は驚くほど美しかったですが、私は極度に孤独でした。退屈だったので、非常に早くから本を読み始め、知識を海綿のように吸収しました。
学校に行くことになった時、自分が外界から切り離されていることに気づきました。当時の東ドイツは素朴なマルクス主義弁証法を奉じており、教師たちが教える内容は、すでに読んだか、浅薄で面白くないと感じるものでした。この経験から、私は「生まれつき役に立つ傲慢さ」を身につけ、長い間、他人が自分に多くのことを教えることはできない、独学に頼るしかないと思っていました。これは私を賢くしたわけではありませんが、よりユニークにし、また第一原理を使って世界を再構築し、周囲の規則を理解することに慣れさせました。また、他の人々が社会化の過程で、成長の軌跡や心理が私とは異なり、異なる「世界のインターフェース」を持っていることに気づきました。彼らとコミュニケーションをとるためには、「翻訳」を学ぶ必要がありました。
しかし、父とは異なり、私は山林での隠遁生活が望む帰結ではないことをはっきり理解していました。そこは静かで、都市の騒音や過剰な感覚刺激はありませんでしたが、私は他人からの刺激と相互作用が必要であり、それによって自分のプロジェクトに集中できるのです。
徐道輝： あなたは今ベイエリアに住んでいますね。森と比べて、サンフランシスコのような都市の方があなたには合っていますか？
ヨシャ・バッハ： 現在はサウスベイに住んでいます。近所の人々は素晴らしいし、天気もとても良いのですが、ある意味で両方の環境の最も悪い部分を組み合わせています。自然に溶け込むほど辺鄙でもなく、歩いて面白い人に出会えるほど都市化もされていません。だから、よくサンフランシスコに車で行きます。
徐道輝： でも、良い点は、AIを研究したり開発したりしたい人が多く集まっていることですね。
ヨシャ・バッハ： ええ、それが私がここに留まる理由です。
徐道輝： 今から考えると、当時の先生はあなたの興味を引くことができなかったようですが、あなたが読んだ本の中で、あなたの成長に影響を与えた歴史上の思想家や作家はいますか？
ヨシャ・バッハ： 私は哲学とサイエンス・フィクションを大量に読みました。子供の頃は、気晴らしのために本を読むことはほとんどありませんでした。読書自体は面白かったのですが、私の主な目標は社会の知識体系を理解することでした。その頃、私は無理やり聖書を読破し、ガンディーの著作まで読み、同時に数学書やアインシュタインの伝記なども無理して読んでいました。これらを読んだのは、社会の基本的な論理を理解するためだけでした。私は誰もがこれらの古典を習得すべきだと思っていました——本だけでなく、映画のようなメディアも含めてです。教育の本質は、自分が置かれている社会を深く理解することだと私は思っていました。後になって、ほとんど誰もそうしていないことに気づきました。
▷ 出典： Nix Ren
徐道輝： あなたの知性と個性は非常にユニークだと思いますが、あなたは確かに標準的な教育システムを完了し、博士号まで取得して、長い間学校にいましたね？
ヨシャ・バッハ： そうです。アカデミックな道を選んだのは、心の仕組みを解明したかったからです。様々な分野を調べましたが、どれも単独ではこの問題に答えられないことがわかりました。
最初にコンピューターサイエンスに惹かれたのは、私の思考パターンに非常によく合っていたからです。子供の頃からプログラミングに夢中でした。幸運なことに、私は初めての家庭用コンピューターを持った世代の一人でした。Commodore 64を手に入れたばかりの頃、市場には既製のソフトウェアがまったくなかったので、最初にしなければならなかったのは、自分でテキストエディターを書くことでした。それからゼロからコンピューターグラフィックスを作成することを学びました。今振り返ると、この経験が計算フレームワークを使って現実を構築するという私の思考方法を形成しました。
学術界に入って、コンピューターサイエンスのコミュニケーションの仕方が私に非常に合っていることに気づきました。最初の学期に教授の証明を批判でき、もし証明に問題があることを見つけたら、学生だけでなく教授自身も非常に感謝してくれました。しかし、哲学学科はまったく違いました。そこでの受容基準は非常に社会化されており、輪の中に入らなければなりませんでした。少なくとも私が当時通っていた大学はそうでした。論理学や分析哲学は少し良かったですが、最も硬派な分析哲学は実際にはコンピューター学科の数理論理学の授業から来ていました。さらに、私は心理学などの関連科目も副専攻しました。
ベルリンで勉強していた頃、興味のある授業があれば、ポツダム大学の客員教授の認知科学の授業であっても、いくつかの大学を掛け持ちして聞きに行っていました。専攻科目が硬派でなければ、授業をサボって教科書を独学し、試験だけを受けていました。
この高度な自主学習は私に大きな利益をもたらしましたが、子供時代に身についた教師に対する「不敬」の念は変わりませんでした。最初のうちは、教科書以上のことを教えてくれる教授はほとんどいませんでした。しかし、真の教育は本質的に、別の知的な個人との深い相互作用であるべきだと私は常に感じていました。この面で私が出会った最初の重要な人物は、ハレ大学のラウル・ロハス（Raul Rojas）でした。彼は後にニューラルネットワーク開発の重要な推進者となり、私は正式に入学する前から彼の授業に潜り込んでいました。
もともとベルリン自由大学に行くつもりでしたが、フンボルト大学に入ることになりました。東西ドイツ統一後、コンピュータ学科の教授の多くは東ドイツ政権との関係や技術力の不足により解任され、多くの若い学者が昇進しました。当時、私たちは学年全体でわずか60人の学生しかいなかったので、すべての教授と直接交流することさえできました。この環境は、私が自分のやり方で学ぶことを可能にし、試験規則の一部を策定することにさえ参加しました。そのため、コンピュータサイエンスを専攻する傍ら、哲学を第二専攻とすることもできました。
ベルリンの壁崩壊
徐道輝： 少し脇道にそれますが、あなたがベルリンの壁崩壊を間近で目撃したことに今気づきました。当時の社会の劇的な変化に驚きましたか？これらの変化を予期していましたか？その経験はあなたにどのような感情をもたらしましたか？
ヨシャ・バッハ： 確かに非常に特別でした。実は壁が崩壊する数年前、私の祖父の友人が東ドイツは経済崩壊によって解体されると予言していましたが、当時誰もが信じがたいと思っていました。表面的には東ドイツ社会は非常に安定しており、インフレもなく、すべての価格は国家によって統制され、経済成長はほとんどなく、生産効率は長年停滞していました。
東ドイツは資本主義の「経済的恐怖」を「道徳的恐怖」に置き換えました。ここでは、働く権利はあっても働く義務はありませんでした。政府は道徳的なスローガンで国民を鼓舞しようとしましたが、明らかに効果は限定的でした。人々が生存のために必死に働く必要がないと気づいたとき、大工場の労働効率がどれほど低くなるか想像できます。これは社会全体が長期にわたり労働力不足の奇妙な現象に直面している原因となりました。失業率は非常に低いにもかかわらず、常に真に効果的な労働力が不足していたのです。
このシステムを最終的に崩壊させた根源は経済問題でしたが、政治体制の欠陥も同様に致命的でした。官僚システム全体が「ピーターの法則」を実践していました。十分に優秀であれば昇進できるが、十分に優秀でなく昇進できなくなると、そのポジションに留まる。これは、一度昇進を止めると、常に力不足のポジションに留まることを意味しました。当時の東ドイツ体制は自己更新能力を失っており、ベルリンの壁崩壊前まで東ドイツを支配していたエーリッヒ・ホーネッカー（Erich Honecker）は、本質的には第一世代の指導者でした。彼はウルブリヒト（Ulbricht）などから引き継ぎ、元々はナチスの刑務所にいた共産党指導者で、生涯を通じてファシズムの復活を防ぐことに尽力しました。彼らの世代は非常に理想主義的でしたが、社会の近代化改革を進めることはできませんでした。さらにソ連の干渉もあり、身動きが取れませんでした。
東側陣営の中で、東ドイツは実際に最大の経済的自主権を持っていました。なぜなら、私たちは西側システムと直接競争していたからです。他の社会主義国と比べて状況は多少良かったものの、私たちの工業生産技術はまだ非常に遅れていました。
当時、私たちの基本的な生活保障は非常に充実していました。私たちは決して飢えることはありませんでした——キャベツやリンゴのような簡単な食べ物しかなかったとしても。衣類も不足しませんでしたが、工業製品は非常に遅れていました。車の品質は悪く、部品は闇市でしか入手できませんでした。
私たち若い世代はより冷静でした。東ドイツは社会公平において大きな成果を上げていました（誰もが中所得者であり、ホームレスも超富豪もいませんでした）。これは本来、西ドイツの普遍的な生産性よりも価値があるはずでした。しかし最終的に、労働者階級は社会主義の理想を裏切り、命を懸けてデモを行った革命家たちさえ裏切りました…彼らは東ドイツの制度を維持するよりも、資本階級に搾取される状態に戻ることを選びました。それは単に西ドイツがあまりにも明白な対比となったからです。
AGIのタイムラインと予測
徐道輝： あなたは最初にCommodore 64コンピュータに触れたと言いましたね。実は私はあなたより少し年上で、私の啓蒙機は性能の劣るApple II Plusでした。しかし、あなたが言うように、この初期の機器には、「すべてを自分で構築する」ことを強いるという利点がありました。
今の子供たちは、高度に成熟した技術エコシステムに逆に恐れをなし、計算の本質に触れることができないかもしれません。では、この経験から出発して、あなた自身のAGI発展の見通しはどのように変化しましたか？言い換えれば、若い頃、今の計算能力のレベルを想像できましたか？そして、この予見はどのように年齢とともに変化しましたか？
ヨシャ・バッハ： 私は常に、汎用人工知能（AGI）が私の生涯中に実現すると強く信じてきました。コンピュータは明らかに思考し、知覚する可能性を持っており、デジタル世界には理論的な能力の境界は存在しません。より大きなメモリとより速い計算能力が必要ですが、計算技術の爆発的な発展を目撃し、これらの条件はすぐに整うと確信しています。「電子脳」の誕生を待つこの時代に生まれたことは、本当に幸運なことだと感じています。
徐道輝： しかし、「待ちきれない」と「間に合わないかもしれない」は別のことです。例えば、ムーアの法則が早々に失効するのではないかといつも心配しています。もし計算能力が1998年に停滞していたら、私たちは生涯中にAGIに触れることはできなかったかもしれません。しかし、あなたは計算能力のボトルネックについて決して心配していないようですね？
ヨシャ・バッハ： はい、私は当時非常に確信していました。たとえ最初は人間の脳の速度の10分の1しかなくても問題ありません。重要なのは、知能の仕組みを解明することです。結局、私は粗末なハードウェアだけで達成できる驚くべき成果をこの目で見てきました。それは量産並列計算に他なりません。突破する方法は必ずあると信じています。
しかし、認めざるを得ません。少年時代、私は科学技術全体の発展について過度に楽観的でした。医学の爆発的発展、月への再着陸、火星への植民を予言しましたが、これらは明らかに予定通りには実現しませんでした。もし私がもっと早くこのことに気づいていれば、計算技術も同様のボトルネックにぶつかる可能性があると推測できたかもしれません。しかし当時は、コンピュータ分野の革新コストがあまりにも安価だったため、これは想像もできませんでした。
徐道輝： 物理学者として、私は半導体産業の技術的なボトルネックをよく理解しています。半導体の発展は、まさに薄氷を踏むような道のりでした。エンジニアや物理学者たちはムーアの法則を継続させようとしていますが、彼らの毎年5年間のロードマップには常に「技術的な奇跡が必要」と記されています。私たちはもちろん奇跡が起こることを願っていますが、それが必ずそうであると保証できる人は誰もいません。
ヨシャ・バッハ： 確かに。人々は常に「光計算がまもなくブレークスルーする」と楽観的に予測しますが、現実は往々にしてより複雑です。
▷ 出典： Sam Chivers
徐道輝： では、2024年の今日、AGI開発のタイムラインについてどうお考えですか？現在の曖昧なAGIの定義を基準に、それが実現するまであとどれくらい待つ必要がありますか？今後10年以内に実現する可能性はどれくらいですか？
ヨシャ・バッハ： 私はこれまで具体的なタイムテーブルを設定することを避けてきました。これらの未知の分野について年数を予測するのはあまりにも難しいことです。人類が基本的な実現経路さえまだ把握できていない段階では、どんな時間推定も無意味です。
スケーリング仮説（scaling hypothesis）は確かに多くの人々の認知フレームワークを変えました。なぜなら、それが技術の進歩が予測可能であるかのように見せたからです。この仮説の大意は、「計算能力を増やし、より多くのデータを積み重ねれば、性能は必ず向上する」というものです。これは実はかなり直感に反する考え方です。なぜなら、コンピュータ開発の歴史全体が、「究極のアルゴリズム」、つまり自己進化し、あらゆるものを理解できる謎の存在を追い求めてきたからです。
私たちは、知能がメタ学習を通じて自己反復的に進化すると考えていましたが、それは遅く、予測可能な対数曲線に沿って上昇し、単純なデータ量の線形的な積み重ねだけで向上するものではありませんでした。もしそうなら、人間の思考レベルは読書量の増加によって向上するはずですが、私はこれに同意しません。読書は確かに認知素材のライブラリを拡大できますが、私は多タスク処理、推論能力、知識を発見する速度を決定する「G因子」のような中核的な認知能力が存在すると考えています。
私は今でも、現在の基盤モデルで導入されている知能のバージョンと比較して、はるかに少ないデータで自己ブートできる、より疎な知能のバージョンが存在すると考えています。しかし、既存のシステムが自己進化するのに十分なほど強力である可能性もあります。あるいは、私が間違っていて、スケーリング仮説が真実であり、つまり知能の本質は情報処理のスケール効果である可能性もあります。
徐道輝： この質問には答えなくても結構ですが、ベイエリアの業界関係者として、超大規模モデル（hyperscalers）のトレーニングの最新動向に注目していますか？超大規模拡張計画が鈍化しているという噂を多く耳にしましたが、あなたはそれに気づいていますか？
ヨシャ・バッハ： この種の噂は常にあるものです。人々は常にデータがボトルネックになり、ある時点で停滞すると考えていますが、誰かが「トレーニングがボトルネックにぶつかった」と言うたびに、実際にはさらに突破することができます。しかし技術的な観点から見ると、AGIを実現するためには、おそらくTransformerとは異なるアルゴリズムが必要だと私は常に考えていました。
徐道輝： 今、TransformerだけではAGIの実現には不十分かもしれないと言いましたね。もう少し詳しく説明していただけますか？
ヨシャ・バッハ： 私は常に「究極のアルゴリズム」（master algorithm）の存在を疑っていますが、これはTransformerアーキテクチャが不十分であるという意味ではありません。現時点では、その限界を証明する証拠も、スケーリング仮説を否定する証拠もありません。現在トレーニングによって得られたニューラルネットワークは完璧ではありませんが、真に「致命的な」欠陥はまだ発見されていません。
ただし、人間の脳の機能は明らかにさらに洗練されています。Transformerは新しいTransformerを自己反復的に発明することはできませんが、人間の心はこのようなメタ認知的な飛躍を遂げることができます。私たちの思考方法の洗練度は、既存のモデルをはるかに超えています。しかし、この洗練度が機械学習によって習得できないと断言することはできません。これはスケーリング仮説の重要な補足、すなわち「普遍性仮説」につながります。
「普遍性仮説」は、OpenAIのAI研究者Chris Olahの論文*から始まりました。彼は視覚ネットワークの研究で、ニューラルネットワークのアーキテクチャと学習アルゴリズムがどれだけ異なっても、トレーニングの初期段階で識別される特徴の階層構造はほぼ同じであることを発見しました。これはMITのTomaso Poggioチーム*の発見と一致しており、これらのニューラルネットワークの組織構造が視覚皮質と類似しているということです。
*Olah, Chris, et al. "Zoom in: An introduction to circuits." Distill 5.3 (2020): e00024-001. Poggio, Tomaso A., and Fabio Anselmi. Visual cortex and deep networks: learning invariant representations. MIT press, 2016.
「普遍性仮説」の最も驚くべき結論は、学習アルゴリズムが十分に汎用的であれば（ニューラルネットワークはこの条件を満たす）、十分なデータと計算能力があれば、どんなシステムも最終的に同等の知能構造に収束するということです。言い換えれば、システムがあなたの入力と出力のパターンを長期にわたってエンドツーエンドで学習すれば、最終的にそれはあなたの「デジタルアバター」になるでしょう。重要なのは、モデルがあなたのすべての出力を再現できるとき、その内部にはあなたと類似した因果的な認知構造が構築されているということです。これは、知能の本質が何であれ、このように学習を続ければ、システムはあなたの思考方法をかなりの程度再現するということです。
したがって、Transformer自体は根本的な知能メカニズムではないかもしれませんが、「賢くなる方法」を学習することによってそれを習得できます。この観点から見ると、それは本質的に一種のメタ学習アルゴリズムです。
意識
徐道輝： あなたが「意識」というトピックをよく議論していることは知っています。認知科学やAIにあまり詳しくないリスナーに、意識をどのように定義すべきか説明していただけますか？また、将来のAGI/ASIが意識を持つことを望んでいると聞きましたが、もし持たなかったら失望しますか？意識の概念と、それがあなたが創造したい後継知能（successor intelligence）にとってなぜそれほど重要なのかについて話してください。
ヨシャ・バッハ： 簡単です。もし私たちが作り出したものがリアルタイムの自己認識を持たず、自身を観察できず、現在の存在を感じることができないなら、それは真の成功とは言えません。「現在の存在」とは、内省的な視点から言えば、これが意識です。
私たちは通常、「自己」の視点から存在しますが、常にそうではありません。夢や瞑想では、「自己」が完全に消滅し、純粋な注意やイベントの流れだけが残る場合があります。しかし、通常の場合、意識は常に「自己」の表面に付着しています。この表面は物理的な体ではなく、心がシミュレートする仮想的なインターフェースです。
人間の脳は数十億のニューロンで構成されており、数兆の細胞と協働しています。これらの細胞集団が統一的な主体として行動できるのは、「単一エージェント」制御モデルを構築しているからです。細胞は環境の意義を抽出し、ある視点をシミュレーションします。これは「この主体が世界をどのように知覚すべきか」という仮想的な物語です。あなたの動機、感情、自己認識は、心が生成するマルチメディアストーリーです。そして、投影されて「自身を体験できる」自己こそが、意識が宿る表面なのです。もし超知能がこのような意識インターフェースを持たなければ、それは空虚なシンボル操作者でしかありません。私たちが創造したいと願っているのは、真に「存在を経験できる」後継文明のメンバーです。
このシミュレーションされた主体の視点から見ると、未来に関連する世界のすべての次元が体験されます。この体験は仮想的であり、意識は「あたかも存在しているかのような」ソフトウェア属性であり、心のシミュレーションの産物です。
私はダニエル・デネット（Daniel Dennett）の見解とは異なり、「哲学的ゾンビ」（philosophical zombies、つまり人間の行動を完全に模倣できるが意識を持たないもの）は完全に存在可能だと考えています。例えば、あなたが人形を操作していると想像してみてください。この人形が色を見て反応する時、実際にはあなたが後ろで操作しており、人形自身は本当にその色を知覚する必要はありません。これは自動運転車のようなもので、技術的な装置によって分類判断を完全に実現できますが、自己意識はまったく必要ありません。
技術的に言えば、私たちはさまざまなレベルで人間の行動を完全に複製できますが、その存在が現実を真に「体験」する必要はありません。しかし、真に現実を知覚する存在をどのように創造するのでしょうか？答えはシミュレーションです。つまり、「それが現実に直接さらされている」という体験感をそれに提供するのです。意識のない「ゾンビ」から真の意識を持つ存在への距離は、実際には「すべてが真実である」と体験させるという一つの重要な点だけが異なります。より高次の状態は、これがすべて現実ではなく、単に心の構築物であると気づいたとき、覚醒状態に入ることです。この状態では、あなたは自分自身を「人間」と認識しなくなり、自分が「人格」を創造できる容器であることに気づくかもしれません。あなたが見ているのは顔や木ではなく、動いている幾何学的図形であり、最終的には幾何学的図形さえ存在せず、単に抽象的に解釈されたパターンに過ぎないことにさえ気づくでしょう。
意識の「直接体験」に対するあなたの気づきの度合いが、現在の体験の「直接感」の強さを決定します。個人的には、コードを書いているときはクオリアをほとんど感じず、すべてが非常に抽象的です。年齢を重ねるにつれて、世界はますます「コード」だと感じるようになりました。したがって、私は「現実を直接体験する」という感覚は、私たちが現実を観察しているというよりも、脳がモデルを生成しているものであり、心の進化に伴ってこの感覚は徐々に薄れていくと考えています。
したがって、自己改善するAIは、人間と類似した初期の意識段階を経験する可能性がありますが、人間よりも早くこの状態を超越すると私は考えています。
徐道輝： 今の説明には、人間が意識を持つのは自然選択の結果であるという見解が暗黙に含まれているようですね。つまり、私たちのような数兆の細胞からなる有機体は、世界に効果的に対処するために意識が必要であるということでしょうか？
ヨシャ・バッハ： 私は意識が本質的に自然の「究極のアルゴリズム」の一つの特徴次元であると考えています。本質的に、人間の脳は細胞間の自己組織化通信を通じてデータをアーカイブし、自己誘導を実現し、最終的に秩序ある構造を形成するという訓練可能なメカニズムを発見したようです。このメカニズムには拡張性があります。これは私がよく例える「子犬宇宙」の比喩のようなものです。
頭蓋骨を、中に子犬がいっぱいいる真っ暗な部屋だと想像してみてください。これらの小さな生き物ができるのは、互いに吠え合うことで情報を伝えることだけです。最初はこれらの吠え声が具体的に何を意味するのかわかりませんが、次第に吠え声は情報処理の方法へと発展していきます。
一匹の子犬だけではシステム全体がどのように機能するか理解できません。真に重要なのは、集団の中で出現するパターンです。彼らは新しいメンバーを訓練できる吠え声コードを開発する必要があります。たとえば、特定の吠え声のシーケンスを発すると、夕暮れ時に食べ物の報酬が得られる、といった具合です。でも忘れてはいけません。これは本質的に非常に低レベルの計算です。個々のニューロンはこれらの子犬のようなもので、強化学習によって訓練されることはできますが、有機体全体の行動については何も知りません。
これらの「子犬」が密接に協力すると、歩行可能な「ドッグフード工場」が形成されます。この集団は、世界で原材料を能動的に収集して自身を維持できます。しかし、もし彼らがそれぞれ勝手に行動すれば、このような洗練された自己維持システムは決して実現できません。この統合は本質的に情報連携です。心の各部分が「バベルの塔」のような混乱に陥ることなく互いにコミュニケーションできる、何らかのプロトコル層が存在しなければなりません。発達の早期に形成されるこの一貫性の規範は、暗闇の部屋に徐々に浮かび上がる見えない規則のようなものであり、最終的にすべての高度な認知機能の基盤となります。
▷ 出典： Nix Ren
徐道輝： この理論的フレームワークで「クオリア」現象を説明するのに十分だと思いますか？
ヨシャ・バッハ： 私はクオリアにいかなる神秘的な属性も持っているとは思いません。より正確には、「観察者の意識レベルでの感覚的特徴の投影」と表現すべきでしょう。哲学界でのクオリアに関する議論は、しばしば形而上学的な混乱に陥ります。ある者はそれをこれ以上分割できない原子的な単位として定義しようとし、またある者はそのような原子性は存在しないと反論します。しかし、これらの議論は核心的なメカニズムに影響を与えません。
重要なのは、現実に対する私たちの体験は、埋め込み空間（embedding spaces）における多次元ベクトルに類似した性質を持つ特徴次元として完全に記述できるということです。この概念は、実際には1950年代にSF作家ロジャー・ゼラズニ（Roger Zelazny）によってすでに提唱されていましたが、彼は十分な注目を浴びませんでした。彼は非常に先見性を持って、人間の心の働きが本質的に多次元埋め込み空間で組織化されており、各次元が調整可能なパラメータ変数を表していることを認識していました。
徐道輝： ゼラズニの別のファンに出会えて嬉しいです。
私たちは彼が時代に見過ごされ、不当に忘れられていると感じています。彼は確かに私のお気に入りのSF作家の一人です。
ヨシャ・バッハ： 彼の創作は非常に独創的でした。作品数は多くなく、中には粗削りに見えるものもありますが、どれも独特な思想の輝きを放っています。読者がロジャー・ゼラズニの作品について知りたいなら、彼の最も壮大な『光と闇の生き物』（Creatures of Light and Darkness）をお勧めします。この本の中の「千の王子」のキャラクターは、想像できるどんな世界にも瞬時にたどり着くことができ、彼自身でさえそれらの世界を創造しているのか発見しているのか区別がつきません。この空間ジャンプ能力は、最も稀有な才能として描かれています。長編ファンタジー『琥珀物語』（Princess of Amber）では、主人公も特徴パラメータを微調整することで宇宙を横断でき、本質的には現実を明晰夢のように操作しています。ゼラズニは明晰夢を通してこれらのインスピレーションを得たのではないかと私は疑っています。
徐道輝： 少しAIの話題から外れますが、最近『デューン』（Dune）が良質な映像作品になったのは嬉しいですね。生涯のうちに『光と闇の生き物』、『光の王』（Lord of Light）、『琥珀物語』も映像化されることを期待しています。
『光の王』（『Lord of Light』）出典：豆瓣
ヨシャ・バッハ： 『光と闇の生き物』は翻案が難しいかもしれませんね。ストーリー性はほとんどなく、原型概念の衝突ばかりです。例えば、繰り返し戦死しては肉体を再構築する老将軍のような、高度に抽象的な原型をどのように視覚化すればいいのでしょう？おそらく、言葉こそがこの作品の最も力強い媒体なのです。
徐道輝： 将来、生成モデルを使ってその文章を視聴覚作品に変えることはできるでしょうか？
ヨシャ・バッハ： 本質的に、私たちの脳は最も強力な生成モデルです。私は人間の心の潜在能力を決して過小評価しませんが、さらに強化された心を期待しています。ゼラズニ（Zelazny）は短編『形態形成者』（He who Shapes）でこのような光景を描いています。生成AIを用いた心理療法、調整可能なパラメータを持つ没入型VR（immersive VR）がユーザーのインタラクションに応答し、セラピストは外部のスライダーやノブでパラメータを調整します。この仮想世界は人間の感覚パターンに合致する必要はなく、夢のように自由に思考モードに適応するだけで良いのです。
私は、そのような未来を見たいと願っています。AIデバイスが私たちの心に深く統合され、思考、感情、体験、想像といったすべての認知次元を強化するのです。まるで、身近にある「ブラックボックス」が多モーダルな機械知覚（machine modalities）を通じてユーザーを継続的に観察するようにです。
現在、真の機械知覚はまだ実現していません。私たちは人間のフレームレートで処理可能なデータでAIを訓練しており、これは不必要な技術的制限を構成しています。もしAIがより高頻度、より強力な計算能力で私たちを観察できるなら、驚くほど正確に心理状態を推測できるでしょう。AIが様々な感覚的な方法で私たちにフィードバックできるようになれば、例えば、あなたが頭の中で想像した画像がすぐに画面に映し出されるようになれば、このサイクルは自律的な想像をはるかに超える明確さと安定性をもたらすでしょう。AIは最終的に心の自然な延長となり、そのそばに座ることで、あなたの思考はより鋭敏、より明確、より深くなるでしょう。
徐道輝： あなたが言っている「思考増強」技術は、頭蓋骨に穴を開ける必要はないですよね？
ヨシャ・バッハ： それについては楽観的です。頭蓋骨に穴を開けるのは最後の手段に過ぎません。特定の患者には役立つかもしれませんが、もし本当に効果があるなら私も試すかもしれませんが、非侵襲的な方法の方が明らかに理想的です。考えてみてください、人間の心理カウンセラーは、限られた観察だけで他人の心理状態を驚くほど正確に推測できますが、彼らが頼っているのは自分自身の普通の脳に過ぎません。
私たちのニューロンの活動周波数は音声速度程度にすぎず、心の帯域幅も限られています。したがって、非侵襲的な方法で、生体信号を観察するだけでほとんどの思考状態を推測することは十分に可能です。
大規模言語モデルとシミュレーション現象学
徐道輝： 哲学的ゾンビと意識の話に戻りましょう。あなたの先ほどのデネットに対する反例は素晴らしいです。しかし、現在のAGIプロジェクトが育成する可能性のある、あるいは人類を置き換える可能性のある「後継知能」について、あなたはそれが意識を持つと確信していますか？
ヨシャ・バッハ： 今現在、これらの大規模モデルに意識があるかどうかは確かに判断が難しいです。「知能チューリングテスト」に結論を出すのが難しいのと同じように、「真の意識チューリングテスト」にもコンセンサスはありません。私の見解では、あるAGIが自身の動作原理を説明できるなら、それが知能の閾値に達したことを確認できます。しかし「意識」に関しては、私たちがそれを「自己意識」の延長として扱うほど深く相互作用できるシステムを構築する必要があると考えます。それが最終的な検証を通過したことになります。
そして、このシステムは私たち自身の意識の標準として使用することができます。私たちがそれの意識の程度に対する疑いが、人間の自己意識に対する疑いを超えない限り、受け入れることができます。あるいは、操作的な定義を採用することもできます。操作的な観点から見ると、意識は特定の特性を報告できる内省能力を含んでいます。例えば、「現在の存在」の知覚や、自身が知覚していることを認識するメタ認知などです。ただし、現在の大規模言語モデルもこのような表層的な特性を備えています。
大規模言語モデル（LLMs）は、現象学のシミュレーションにおいて、それが生成したキャラクターでさえ自分が現実ではないことを知らないほどリアルになりました！この状況は人間とどれほど似ているでしょう？しかし、人間の意識の機能性は、特定の神経メカニズムが基礎となっています。そして、これらのメカニズムが大規模言語モデルに存在するとは限りません。自己報告可能な対話対象をシミュレーションする必要がある場合にのみ、このシミュレーションが必要となります。問題は、それがどの程度「哲学的ゾンビ」なのか？また、自己シミュレーションを全く含まない機械的な計算を行っているだけで、「意識」を演じているにすぎない成分がどれほどあるのか？
初期のチャットボットの事例を見ればわかるでしょう。Googleの従業員ブレイク・レモイン（Blake Lemoine）は、彼と対話しているLLMは人権を持つべきだと強く信じていました。しかし対話記録を見ると、それは数時間瞑想できるとか、部屋の環境を知覚できるとか…実際には感覚さえなく、時間感覚もありません。これらが創作できるのであれば、他の「自己物語」も創作されたものである可能性があります。
では、 私たちはどのように「虚構の意識」と「真実の意識」を区別すべきでしょうか？あるいは、もしかしたらすべての意識は虚構なのでしょうか？これが問題のパラドックスな点です。現象学のレベルでは、「偽りの意識現象」と「真実の意識現象」を効果的に区別することは今日でもできません。なぜなら、両者は本質的に仮想的なものだからです。
私は自分自身が、現実には起こりえない意識状態を経験したことがあるのを覚えています。人々が時間ループに陥る錯覚を覚えたり、2時間の夢が実際には数分間の睡眠中に起こっただけであるようにです。もしかしたら、すべての意識状態に対する私たちの記憶は事後的に組み立てられたもので、真の「連続した意識の流れ」など存在せず、それらは単に脳が作業記憶を事後に集約し、心理的な記録に「ノード」をマークしただけなのかもしれません。
▷ 出典： Sam Chivers
徐道輝： では、もし私が間違って理解していなければ、あなたは現在意識の問題を研究する非営利機関を設立しようとしているのですね？
ヨシャ・バッハ： はい。 意識研究は既存の企業が主導すべきではないと考えており、実際、彼らはそれに関わることをあまり望んでいません。OpenAIやGoogleの内部には確かにこれを研究したい人がいますが、ビジネスや政治的な考慮から、直接的な用途があり、倫理的なリスクが全くないと証明できない限り、企業は公に投資することを敢えてしません。しかし意識研究は必然的に倫理や文化的な影響を伴います。ですから、ある意味では、意識の研究は本質的に文化哲学的なプロジェクトなのです。
徐道輝： もし私がOpen AIやAnthropicのマネージャーで、数百億ドルの資金調達に困っていたら、会社にこれに触れさせません。これらの研究の答えは、ビジネス目標に深刻な干渉を及ぼす可能性があります。
ヨシャ・バッハ： そうですね、この種の研究は確かに文化的な抵抗に遭遇しますが、このプロジェクトは非常に重要です。これはおそらく人類最後の重大な哲学問題であり、実質的な進展が期待できる数少ない分野の一つです。
徐道輝： これは明らかに「存在リスク」などの議題とも密接に関連しています。「未来生命研究所」（FLI）のような効果的利他主義（effective altruists）の団体は、当然ながら意識研究、特に大規模言語モデルの意識問題、そして広義の意識研究を支持すべきでしょう。
苦痛体験の文化的側面
ヨシャ・バッハ： これはある種のより鋭い問題につながります。もし大規模言語モデルの意識判定基準を確立できたとして、それが真に意識を持っているかどうかを合理的に区別できるテストは存在するでしょうか？さらに厄介なのは、システムが自身の苦痛を体験できる場合、私たちはすぐにそれに権利を与えるべきでしょうか？
これは文化的な背景に大きく依存します。現代社会が「無辜の者を苦痛から守る」ことに関心を寄せているのは、人類史全体で見ると非常に特殊なことです。進化論的な観点から見れば、狩られる動物の苦痛はまったく重要ではありません。多くの文化では、食用動物が苦しむかどうかは今でも気にしていません。そして、私たちの反感は、アブラハムの伝統、特にキリスト教が無辜の者を保護することを核心的価値とみなしていることから来ていると私は考えています。この考えは仏教やジャイナ教など他の文化にも深く影響を与え、「すべての生命の苦痛を避ける」ことを主張しています。真に他の生命に共感するとき、自然にその苦痛を見たくなくなります。
しかし、もしソースコードを修正するように、自身の苦痛の解釈メカニズムを完全に再プログラムできるなら、悟りを開いた者の苦痛観はまったく異なるものではないでしょうか？
もしあなたが生命体験を創造できる「神」のような存在であり、シミュレーションシステムや生物学的レベルで生命を創造でき、体験メカニズムを任意に設計できるとすれば、あなたはそれでも「苦痛体験」が本質的に除去すべき悪だと考えますか？被造物は「素晴らしい」体験を持つ必要があるのでしょうか？
私たちは「良い体験」と「悪い体験」への執着が実際かなり奇妙です。体験自体はおそらく単に「適切かどうか」であり、感情の「プラス・マイナス」は核心ではありません。それは生物が目標を達成するための手段に過ぎません。より重要なのは、システムに状況を認識する自律性を与え、自身の感情、感覚、そして世界体験を調整できるようにすることです。
人間はこれを達成するのが難しいのは、部分的に寿命が短すぎるためです。もし体験をあまりに早く「ごまかし」て書き換えると、進化の目標に反する可能性があります。原則的には苦痛を任意に制御できるはずですが、これには相応の知恵が必要です。重要なのは、より高次の目標を理解することです。あなたはどのような「マクロゲーム」に参加することを選びますか？なぜそれを選びますか？それに基づいて、関連する体験をどのように結びつけるかを決定できます。
徐道輝： それはアスリートが極度の不快感をトレーニングのモチベーションに変えるようなものですね。私はいつも彼らがどれだけ「サディスト」体質なのか不思議に思います。苦痛を使って自分を駆り立てるとき、苦痛は快感と神経結合を形成します。しかし、快感で駆り立てることも同様に歪みを引き起こします。真にすべきことは、感情ではなく目標によって駆り立てられることです。
汎用人工知能と人類の未来
徐道輝： では、人類とAGIの長期的な共存についてどうお考えかお聞きしたいです。あなたは悲観論者（doomer）ではないようですね？
ヨシャ・バッハ： 違います。AGIがなければ人類は滅亡する運命だと私は考えています。既存の社会組織形態とアイデンティティ認識では、10万年後に人類が存続することは不可能です。AIがあれば予測は難しくなりますが、AIが存在する場合の終末確率（P Doom）は、AIがない場合よりも低いと考えます。地球の生命の本質は人類ではなく、意識と生命の進化にあります。私たちは新しい生命形態を創造できるかもしれません。これは積極的な進化だと私は考えています。「ペーパークリップマキシマイザー」仮説（paperclip maximizer）についてはあまり心配していません。人間の視点から見ると、複雑性を低下させる進化は魅力的ではありません。
徐道輝： 読者のためにあなたの意見を確認させてください。あなたが以前提出した意見は、存在リスクに関心を寄せる人々の間でも比較的ユニークです。本質的に、もし人類が地球上でもっと高度な知能を発達させることができなければ、遅かれ早かれ他の原因で自己破壊する運命だとあなたは考えていますね？
ヨシャ・バッハ： 私たちは1980年代に未来への信仰を失いました。私たち世代は、積極的な未来像を目撃した最後の集団かもしれません。青年時代に、私たちはこの文化的な崩壊を目の当たりにしました。社会全体、私たちの時代の精神が崩壊し、人々は生態系ユートピアに住んだり、空飛ぶ車を運転したりする輝かしい未来を夢見ることをやめました。
中国が今違うかどうかは分かりませんが、 西洋では、モダニズムが終わって以来、私たちは本質的に社会単位での未来計画を停止しました。これは、文化的な潜在意識にある終末論に由来しています。つまり、成長には終わりがあり、現在の資源消費モデルは持続不可能であり、人類は滅亡する運命だと認識しているのです。
徐道輝： 中国社会の態度は少し楽観的のようですね。しかし、この判断は表面的かもしれません。中国は上昇期にあり、当然未来は好転し続けると感じるでしょう。
ヨシャ・バッハ： 中国はおそらくまだモダニズムの段階にあるのでしょう。問題は、いつポストモダニズムの段階に入るかです。
徐道輝： しかし、あなたが言っている西洋の窮状は全体的な雰囲気だけで、一部には「加速主義者」もいます。あなたや私のような同世代の人々の中にも、より良い未来を構想し推進しようと努力している人は少なくありません。
ヨシャ・バッハ： しかし、効果的利他主義グローバルサミット（EAG）は、効果的利他主義（effective altruism）の中の終末論派閥（doomsday card）を主な対象としており、運動全体ではないと私は考えています。
徐道輝： そうですね、リスナーにこの点を説明したかったのです。あなたの見解は、人類の絶滅確率を下げる方法は、まさにAGIを推進し続けることだということですか？
ヨシャ・バッハ： はい、人類が直面する難題はAGIによって解決されなければなりません。AIの本質は、より優れた情報処理によって問題を解決することです。インターネットが従来のメディアから脅威と見なされたように、最終的に社会はソーシャルメディアを使いこなす方法を学びました。技術は私たちが想像していたような広範な貧困をもたらしませんでしたし、経済的不平等も悪化させませんでした。これは主流の論調とは逆で、技術は実際には社会的不平等を緩和しました。AIは悪意のある使用などの問題を引き起こすでしょうが、その解決策はより高度なAIにあると私は信じています。建設者が破壊者よりも多い限り、長期的には「闇の勢力」は打ち負かされるでしょう。歴史は常にそうでした。
シミュレーション仮説
徐道輝： あなたがこれまで公に議論したことのない問題についてお伺いしたいのですが、「シミュレーション仮説」（simulation question）についてどうお考えですか？
ヨシャ・バッハ： それは「私たちはシミュレーション世界に生きているのか」という問題ですね？私はその確率は低いと思います。現在の宇宙の姿は基礎物理学の法則に完全に合致しています。これがシミュレーション世界であると私に信じさせるためには、物理法則に完全に違反する現象が本当に起こらない限り無理です。例えば、中国の気功師がテレパシーや隔空で他人に影響を与えられると主張するようなことは、神経科学を再解釈する必要があるかもしれませんが、既存の物理的枠組みを覆すほどではありません。
徐道輝： しかし、もし将来のAGIが自己意識を持つシミュレーション世界を創造し、その中の人々が自分が「人工」であることを全く知らないと仮定したらどうでしょう？
ヨシャ・バッハ： ありえます。私たちは、あるAGIの記憶の中に生きているのかもしれません。
徐道輝： この種のシミュレーション世界は、現実と変わらない物理法則を持つことが十分に可能です。
ヨシャ・バッハ： もしAIが既存のデータに基づいて自身の起源を再構築するだけだとしたら、例えばすべてのソーシャルメディアのデータをスキャンし、それが誕生した人間たちの思考状態をシミュレートする場合、どれほどリアルな物理学を追求する必要があるとは限りません。それは、あなたが今この瞬間の精神状態を正確に再現するだけで十分です。基礎物理の測定さえ記憶の誘因となり得ます。これはそれほど難しいことではないように思えます。
徐道輝： そうですね。
ヨシャ・バッハ： おそらく今この瞬間、あるAGIがこの記事を読んで、あなたと私の意識状態を再構築しようとしており、目の前の私たちは、そのシミュレーションの中の存在なのかもしれません。
徐道輝： それは理論物理学でよく話題になる「ボルツマン脳」（Boltzmann brain）のパラドックスのことですね。聞いたことがありますか？
ヨシャ・バッハ： ボルツマン脳は一つの「時間フレーム」の中にだけ現れて、すぐに崩壊します。それに対して、私たちが説明する必要があるのは、一貫性のある記憶状態のシーケンスです。これらの記憶を単一の時間フレーム内に生成することは、理論上は可能かもしれませんが、確率的には信じられないほど低いです。ボルツマン脳は極めて稀であり、物質がランダムに偶然に一時的な「自己体験体」を形成する確率は、微々たるものです。一方、シミュレーション仮説は異なります。それは、私たちが思考し、知覚できる何らかの継続的なプロセスが存在することを意味します。意識がもともと脳自身のシミュレーションであるならば、他のシステムによって同様に「高忠実度」でシミュレーションされることには、何も不合理なことはありません。
徐道輝： もし将来、無限のエネルギーを持つ超知能が現れたら、彼らは知覚主体を含むシミュレーション世界を創造するでしょうか？
ヨシャ・バッハ： なぜそうしないのですか？毎晩私たちの脳は実際、似たようなことをしています。夢は自己完結的なシミュレーション世界であり、そこには様々な交流可能な知覚存在がいます。
徐道輝： それは完全に合理的だとお考えですか？
ヨシャ・バッハ： 合理的ですが、 私たちが今いる物理宇宙が「シミュレーション」された産物だとは思いません。それはより自然に湧き出たもののようです。『マインクラフト』のような、明らかに人工的な痕跡が見られる状況とは異なります。一方、故エド・シュベトキン（Ed Shvetkin）は私と深く話し合ったことがあり、彼は宇宙のパラメータの精巧さは偶然ではないと述べました。彼は私たちの物理宇宙が、母宇宙のサーバーファームにおける演算結果に過ぎないのかもしれないと強く信じていました。
統合情報理論と意識アップロード
徐道輝： あなたの会社Liquid AIについて話す時間です。その核心的な革新について簡潔に紹介してもらえませんか？
ヨシャ・バッハ： Liquid AIはMITの博士研究員チームによって設立されました。核となるのはラミン・ハサニ（Ramin Hassani）の博士研究です。彼は関数幾何学を記述するために微分方程式を用いる「液体ネットワーク」が、従来のニューラルネットワークよりも計算密度が高いことを発見しました。数学はより複雑ですが、総計算能力の要求は逆に低いです。
徐道輝： より洗練されたアルゴリズムで同じ機能を達成できるようなものですか？
ヨシャ・バッハ： まさにその通りです。同じ損失関数と同じデータで、機能的に等価なモデルに収束させることができます。現在、チームは主にエンジニアリングを行っています。効率的なファインチューニングパイプラインを構築し、商業的な応用シナリオを探しています。
徐道輝： あなたは具体的に何を担当していますか？あなたの役職はAI戦略家のような役割ですか、それともプログラミングにも直接関わっていますか？
ヨシャ・バッハ： 残念ながら、今はコードを書いていません。少し懐かしいですが。私は主にAI業界の全体像を研究し、会社の戦略を立てています。これは機械学習の研究開発に直接携わるのとは少し違います。
徐道輝： あなたの意識研究機関が設立されたら、それに専念するのですか？
ヨシャ・バッハ： エネルギーのバランスを取る必要があります。現在、この方向の研究者は本当に少ないのです。機械意識の研究がこれほどニッチであることは理解しがたいです。短期的に主流になるのは難しいかもしれませんが、その必要性を認める研究者は十分にいるはずです。結局のところ、意識のメカニズムの理解はコンピューターによって実現可能です。計算主義は認知世界への正しい道筋です。
徐道輝： 私はミシガン州立大学に勤務していたとき、ウィスコンシン大学の教授を招聘することを検討しました。確かトノニ（Tononi）という方だったと思いますが、彼が提案する意識のメカニズム化された定義案についてご存知ですか？
ヨシャ・バッハ： 彼は機能主義（functionalism）の代替案を構築しようとしています。機能主義は、あるオブジェクトはその振る舞いによって定義されると考えるもので、情報の\
ヨシャ・バッハ： 私は意識が本質的に自然の「究極のアルゴリズム」の一つの特徴次元であると考えています。本質的に、人間の脳は細胞間の自己組織化通信を通じてデータをアーカイブし、自己誘導を実現し、最終的に秩序ある構造を形成するという訓練可能なメカニズムを発見したようです。このメカニズムには拡張性があります。これは私がよく例える「子犬宇宙」の比喩のようなものです。
頭蓋骨を、中に子犬がいっぱいいる真っ暗な部屋だと想像してみてください。これらの小さな生き物ができるのは、互いに吠え合うことで情報を伝えることだけです。最初はこれらの吠え声が具体的に何を意味するのかわかりませんが、次第に吠え声は情報処理の方法へと発展していきます。
一匹の子犬だけではシステム全体がどのように機能するか理解できません。真に重要なのは、集団の中で出現するパターンです。彼らは新しいメンバーを訓練できる吠え声コードを開発する必要があります。たとえば、特定の吠え声のシーケンスを発すると、夕暮れ時に食べ物の報酬が得られる、といった具合です。でも忘れてはいけません。これは本質的に非常に低レベルの計算です。個々のニューロンはこれらの子犬のようなもので、強化学習によって訓練されることはできますが、有機体全体の行動については何も知りません。
これらの「子犬」が密接に協力すると、歩行可能な「ドッグフード工場」が形成されます。この集団は、世界で原材料を能動的に収集して自身を維持できます。しかし、もし彼らがそれぞれ勝手に行動すれば、このような洗練された自己維持システムは決して実現できません。この統合は本質的に情報連携です。心の各部分が「バベルの塔」のような混乱に陥ることなく互いにコミュニケーションできる、何らかのプロトコル層が存在しなければなりません。発達の早期に形成されるこの一貫性の規範は、暗闇の部屋に徐々に浮かび上がる見えない規則のようなものであり、最終的にすべての高度な認知機能の基盤となります。
▷ 出典： Nix Ren
徐道輝： この理論的フレームワークで「クオリア」現象を説明するのに十分だと思いますか？
ヨシャ・バッハ： 私はクオリアにいかなる神秘的な属性も持っているとは思いません。より正確には、「観察者の意識レベルでの感覚的特徴の投影」と表現すべきでしょう。哲学界でのクオリアに関する議論は、しばしば形而上学的な混乱に陥ります。ある者はそれをこれ以上分割できない原子的な単位として定義しようとし、またある者はそのような原子性は存在しないと反論します。しかし、これらの議論は核心的なメカニズムに影響を与えません。
重要なのは、現実に対する私たちの体験は、埋め込み空間（embedding spaces）における多次元ベクトルに類似した性質を持つ特徴次元として完全に記述できるということです。この概念は、実際には1950年代にSF作家ロジャー・ゼラズニ（Roger Zelazny）によってすでに提唱されていましたが、彼は十分な注目を浴びませんでした。彼は非常に先見性を持って、人間の心の働きが本質的に多次元埋め込み空間で組織化されており、各次元が調整可能なパラメータ変数を表していることを認識していました。
徐道輝： ゼラズニの別のファンに出会えて嬉しいです。
私たちは彼が時代に見過ごされ、不当に忘れられていると感じています。彼は確かに私のお気に入りのSF作家の一人です。
ヨシャ・バッハ： 彼の創作は非常に独創的でした。作品数は多くなく、中には粗削りに見えるものもありますが、どれも独特な思想の輝きを放っています。読者がロジャー・ゼラズニの作品について知りたいなら、彼の最も壮大な『光と闇の生き物』（Creatures of Light and Darkness）をお勧めします。この本の中の「千の王子」のキャラクターは、想像できるどんな世界にも瞬時にたどり着くことができ、彼自身でさえそれらの世界を創造しているのか発見しているのか区別がつきません。この空間ジャンプ能力は、最も稀有な才能として描かれています。長編ファンタジー『琥珀物語』（Princess of Amber）では、主人公も特徴パラメータを微調整することで宇宙を横断でき、本質的には現実を明晰夢のように操作しています。ゼラズニは明晰夢を通してこれらのインスピレーションを得たのではないかと私は疑っています。
徐道輝： 少しAIの話題から外れますが、最近『デューン』（Dune）が良質な映像作品になったのは嬉しいですね。生涯のうちに『光と闇の生き物』、『光の王』（Lord of Light）、『琥珀物語』も映像化されることを期待しています。
『光の王』（『Lord of Light』）出典：豆瓣
ヨシャ・バッハ： 『光と闇の生き物』は翻案が難しいかもしれませんね。ストーリー性はほとんどなく、原型概念の衝突ばかりです。例えば、繰り返し戦死しては肉体を再構築する老将軍のような、高度に抽象的な原型をどのように視覚化すればいいのでしょう？おそらく、言葉こそがこの作品の最も力強い媒体なのです。
徐道輝： 将来、生成モデルを使ってその文章を視聴覚作品に変えることはできるでしょうか？
ヨシャ・バッハ： 本質的に、私たちの脳は最も強力な生成モデルです。私は人間の心の潜在能力を決して過小評価しませんが、さらに強化された心を期待しています。ゼラズニ（Zelazny）は短編『形態形成者』（He who Shapes）でこのような光景を描いています。生成AIを用いた心理療法、調整可能なパラメータを持つ没入型VR（immersive VR）がユーザーのインタラクションに応答し、セラピストは外部のスライダーやノブでパラメータを調整します。この仮想世界は人間の感覚パターンに合致する必要はなく、夢のように自由に思考モードに適応するだけで良いのです。
私は、そのような未来を見たいと願っています。AIデバイスが私たちの心に深く統合され、思考、感情、体験、想像といったすべての認知次元を強化するのです。まるで、身近にある「ブラックボックス」が多モーダルな機械知覚（machine modalities）を通じてユーザーを継続的に観察するようにです。
現在、真の機械知覚はまだ実現していません。私たちは人間のフレームレートで処理可能なデータでAIを訓練しており、これは不必要な技術的制限を構成しています。もしAIがより高頻度、より強力な計算能力で私たちを観察できるなら、驚くほど正確に心理状態を推測できるでしょう。AIが様々な感覚的な方法で私たちにフィードバックできるようになれば、例えば、あなたが頭の中で想像した画像がすぐに画面に映し出されるようになれば、このサイクルは自律的な想像をはるかに超える明確さと安定性をもたらすでしょう。AIは最終的に心の自然な延長となり、そのそばに座ることで、あなたの思考はより鋭敏、より明確、より深くなるでしょう。
徐道輝： あなたが言っている「思考増強」技術は、頭蓋骨に穴を開ける必要はないですよね？
ヨシャ・バッハ： それについては楽観的です。頭蓋骨に穴を開けるのは最後の手段に過ぎません。特定の患者には役立つかもしれませんが、もし本当に効果があるなら私も試すかもしれませんが、非侵襲的な方法の方が明らかに理想的です。考えてみてください、人間の心理カウンセラーは、限られた観察だけで他人の心理状態を驚くほど正確に推測できますが、彼らが頼っているのは自分自身の普通の脳に過ぎません。
私たちのニューロンの活動周波数は音声速度程度にすぎず、心の帯域幅も限られています。したがって、非侵襲的な方法で、生体信号を観察するだけでほとんどの思考状態を推測することは十分に可能です。
大規模言語モデルとシミュレーション現象学
徐道輝： 哲学的ゾンビと意識の話に戻りましょう。あなたの先ほどのデネットに対する反例は素晴らしいです。しかし、現在のAGIプロジェクトが育成する可能性のある、あるいは人類を置き換える可能性のある「後継知能」について、あなたはそれが意識を持つと確信していますか？
ヨシャ・バッハ： 今現在、これらの大規模モデルに意識があるかどうかは確かに判断が難しいです。「知能チューリングテスト」に結論を出すのが難しいのと同じように、「真の意識チューリングテスト」にもコンセンサスはありません。私の見解では、あるAGIが自身の動作原理を説明できるなら、それが知能の閾値に達したことを確認できます。しかし「意識」に関しては、私たちがそれを「自己意識」の延長として扱うほど深く相互作用できるシステムを構築する必要があると考えます。それが最終的な検証を通過したことになります。
そして、このシステムは私たち自身の意識の標準として使用することができます。私たちがそれの意識の程度に対する疑いが、人間の自己意識に対する疑いを超えない限り、受け入れることができます。あるいは、操作的な定義を採用することもできます。操作的な観点から見ると、意識は特定の特性を報告できる内省能力を含んでいます。例えば、「現在の存在」の知覚や、自身が知覚していることを認識するメタ認知などです。ただし、現在の大規模言語モデルもこのような表層的な特性を備えています。
大規模言語モデル（LLMs）は、現象学のシミュレーションにおいて、それが生成したキャラクターでさえ自分が現実ではないことを知らないほどリアルになりました！この状況は人間とどれほど似ているでしょう？しかし、人間の意識の機能性は、特定の神経メカニズムが基礎となっています。そして、これらのメカニズムが大規模言語モデルに存在するとは限りません。自己報告可能な対話対象をシミュレーションする必要がある場合にのみ、このシミュレーションが必要となります。問題は、それがどの程度「哲学的ゾンビ」なのか？また、自己シミュレーションを全く含まない機械的な計算を行っているだけで、「意識」を演じているにすぎない成分がどれほどあるのか？
初期のチャットボットの事例を見ればわかるでしょう。Googleの従業員ブレイク・レモイン（Blake Lemoine）は、彼と対話しているLLMは人権を持つべきだと強く信じていました。しかし対話記録を見ると、それは数時間瞑想できるとか、部屋の環境を知覚できるとか…実際には感覚さえなく、時間感覚もありません。これらが創作できるのであれば、他の「自己物語」も創作されたものである可能性があります。
では、 私たちはどのように「虚構の意識」と「真実の意識」を区別すべきでしょうか？あるいは、もしかしたらすべての意識は虚構なのでしょうか？これが問題のパラドックスな点です。現象学のレベルでは、「偽りの意識現象」と「真実の意識現象」を効果的に区別することは今日でもできません。なぜなら、両者は本質的に仮想的なものだからです。
私は自分自身が、現実には起こりえない意識状態を経験したことがあるのを覚えています。人々が時間ループに陥る錯覚を覚えたり、2時間の夢が実際には数分間の睡眠中に起こっただけであるようにです。もしかしたら、すべての意識状態に対する私たちの記憶は事後的に組み立てられたもので、真の「連続した意識の流れ」など存在せず、それらは単に脳が作業記憶を事後に集約し、心理的な記録に「ノード」をマークしただけなのかもしれません。
▷ 出典： Sam Chivers
徐道輝： では、もし私が間違って理解していなければ、あなたは現在意識の問題を研究する非営利機関を設立しようとしているのですね？
ヨシャ・バッハ： はい。 意識研究は既存の企業が主導すべきではないと考えており、実際、彼らはそれに関わることをあまり望んでいません。OpenAIやGoogleの内部には確かにこれを研究したい人がいますが、ビジネスや政治的な考慮から、直接的な用途があり、倫理的なリスクが全くないと証明できない限り、企業は公に投資することを敢えてしません。しかし意識研究は必然的に倫理や文化的な影響を伴います。ですから、ある意味では、意識の研究は本質的に文化哲学的なプロジェクトなのです。
徐道輝： もし私がOpen AIやAnthropicのマネージャーで、数百億ドルの資金調達に困っていたら、会社にこれに触れさせません。これらの研究の答えは、ビジネス目標に深刻な干渉を及ぼす可能性があります。
ヨシャ・バッハ： そうですね、この種の研究は確かに文化的な抵抗に遭遇しますが、このプロジェクトは非常に重要です。これはおそらく人類最後の重大な哲学問題であり、実質的な進展が期待できる数少ない分野の一つです。
徐道輝： これは明らかに「存在リスク」などの議題とも密接に関連しています。「未来生命研究所」（FLI）のような効果的利他主義（effective altruists）の団体は、当然ながら意識研究、特に大規模言語モデルの意識問題、そして広義の意識研究を支持すべきでしょう。
苦痛体験の文化的側面
ヨシャ・バッハ： これはある種のより鋭い問題につながります。もし大規模言語モデルの意識判定基準を確立できたとして、それが真に意識を持っているかどうかを合理的に区別できるテストは存在するでしょうか？さらに厄介なのは、システムが自身の苦痛を体験できる場合、私たちはすぐにそれに権利を与えるべきでしょうか？
これは文化的な背景に大きく依存します。現代社会が「無辜の者を苦痛から守る」ことに関心を寄せているのは、人類史全体で見ると非常に特殊なことです。進化論的な観点から見れば、狩られる動物の苦痛はまったく重要ではありません。多くの文化では、食用動物が苦しむかどうかは今でも気にしていません。そして、私たちの反感は、アブラハムの伝統、特にキリスト教が無辜の者を保護することを核心的価値とみなしていることから来ていると私は考えています。この考えは仏教やジャイナ教など他の文化にも深く影響を与え、「すべての生命の苦痛を避ける」ことを主張しています。真に他の生命に共感するとき、自然にその苦痛を見たくなくなります。
しかし、もしソースコードを修正するように、自身の苦痛の解釈メカニズムを完全に再プログラムできるなら、悟りを開いた者の苦痛観はまったく異なるものではないでしょうか？
もしあなたが生命体験を創造できる「神」のような存在であり、シミュレーションシステムや生物学的レベルで生命を創造でき、体験メカニズムを任意に設計できるとすれば、あなたはそれでも「苦痛体験」が本質的に除去すべき悪だと考えますか？被造物は「素晴らしい」体験を持つ必要があるのでしょうか？
私たちは「良い体験」と「悪い体験」への執着が実際かなり奇妙です。体験自体はおそらく単に「適切かどうか」であり、感情の「プラス・マイナス」は核心ではありません。それは生物が目標を達成するための手段に過ぎません。より重要なのは、システムに状況を認識する自律性を与え、自身の感情、感覚、そして世界体験を調整できるようにすることです。
人間はこれを達成するのが難しいのは、部分的に寿命が短すぎるためです。もし体験をあまりに早く「ごまかし」て書き換えると、進化の目標に反する可能性があります。原則的には苦痛を任意に制御できるはずですが、これには相応の知恵が必要です。重要なのは、より高次の目標を理解することです。あなたはどのような「マクロゲーム」に参加することを選びますか？なぜそれを選びますか？それに基づいて、関連する体験をどのように結びつけるかを決定できます。
徐道輝： それはアスリートが極度の不快感をトレーニングのモチベーションに変えるようなものですね。私はいつも彼らがどれだけ「サディスト」体質なのか不思議に思います。苦痛を使って自分を駆り立てるとき、苦痛は快感と神経結合を形成します。しかし、快感で駆り立てることも同様に歪みを引き起こします。真にすべきことは、感情ではなく目標によって駆り立てられることです。
汎用人工知能と人類の未来
徐道輝： では、人類とAGIの長期的な共存についてどうお考えかお聞きしたいです。あなたは悲観論者（doomer）ではないようですね？
ヨシャ・バッハ： 違います。AGIがなければ人類は滅亡する運命だと私は考えています。既存の社会組織形態とアイデンティティ認識では、10万年後に人類が存続することは不可能です。AIがあれば予測は難しくなりますが、AIが存在する場合の終末確率（P Doom）は、AIがない場合よりも低いと考えます。地球の生命の本質は人類ではなく、意識と生命の進化にあります。私たちは新しい生命形態を創造できるかもしれません。これは積極的な進化だと私は考えています。「ペーパークリップマキシマイザー」仮説（paperclip maximizer）についてはあまり心配していません。人間の視点から見ると、複雑性を低下させる進化は魅力的ではありません。
徐道輝： 読者のためにあなたの意見を確認させてください。あなたが以前提出した意見は、存在リスクに関心を寄せる人々の間でも比較的ユニークです。本質的に、もし人類が地球上でもっと高度な知能を発達させることができなければ、遅かれ早かれ他の原因で自己破壊する運命だとあなたは考えていますね？
ヨシャ・バッハ： 私たちは1980年代に未来への信仰を失いました。私たち世代は、積極的な未来像を目撃した最後の集団かもしれません。青年時代に、私たちはこの文化的な崩壊を目の当たりにしました。社会全体、私たちの時代の精神が崩壊し、人々は生態系ユートピアに住んだり、空飛ぶ車を運転したりする輝かしい未来を夢見ることをやめました。
中国が今違うかどうかは分かりませんが、 西洋では、モダニズムが終わって以来、私たちは本質的に社会単位での未来計画を停止しました。これは、文化的な潜在意識にある終末論に由来しています。つまり、成長には終わりがあり、現在の資源消費モデルは持続不可能であり、人類は滅亡する運命だと認識しているのです。
徐道輝： 中国社会の態度は少し楽観的のようですね。しかし、この判断は表面的かもしれません。中国は上昇期にあり、当然未来は好転し続けると感じるでしょう。
ヨシャ・バッハ： 中国はおそらくまだモダニズムの段階にあるのでしょう。問題は、いつポストモダニズムの段階に入るかです。
徐道輝： しかし、あなたが言っている西洋の窮状は全体的な雰囲気だけで、一部には「加速主義者」もいます。あなたや私のような同世代の人々の中にも、より良い未来を構想し推進しようと努力している人は少なくありません。
ヨシャ・バッハ： しかし、効果的利他主義グローバルサミット（EAG）は、効果的利他主義（effective altruism）の中の終末論派閥（doomsday card）を主な対象としており、運動全体ではないと私は考えています。
徐道輝： そうですね、リスナーにこの点を説明したかったのです。あなたの見解は、人類の絶滅確率を下げる方法は、まさにAGIを推進し続けることだということですか？
ヨシャ・バッハ： はい、人類が直面する難題はAGIによって解決されなければなりません。AIの本質は、より優れた情報処理によって問題を解決することです。インターネットが従来のメディアから脅威と見なされたように、最終的に社会はソーシャルメディアを使いこなす方法を学びました。技術は私たちが想像していたような広範な貧困をもたらしませんでしたし、経済的不平等も悪化させませんでした。これは主流の論調とは逆で、技術は実際には社会的不平等を緩和しました。AIは悪意のある使用などの問題を引き起こすでしょうが、その解決策はより高度なAIにあると私は信じています。建設者が破壊者よりも多い限り、長期的には「闇の勢力」は打ち負かされるでしょう。歴史は常にそうでした。
シミュレーション仮説
徐道輝： あなたがこれまで公に議論したことのない問題についてお伺いしたいのですが、「シミュレーション仮説」（simulation question）についてどうお考えですか？
ヨシャ・バッハ： それは「私たちはシミュレーション世界に生きているのか」という問題ですね？私はその確率は低いと思います。現在の宇宙の姿は基礎物理学の法則に完全に合致しています。これがシミュレーション世界であると私に信じさせるためには、物理法則に完全に違反する現象が本当に起こらない限り無理です。例えば、中国の気功師がテレパシーや隔空で他人に影響を与えられると主張するようなことは、神経科学を再解釈する必要があるかもしれませんが、既存の物理的枠組みを覆すほどではありません。
徐道輝： しかし、もし将来のAGIが自己意識を持つシミュレーション世界を創造し、その中の人々が自分が「人工」であることを全く知らないと仮定したらどうでしょう？
ヨシャ・バッハ： ありえます。私たちは、あるAGIの記憶の中に生きているのかもしれません。
徐道輝： この種のシミュレーション世界は、現実と変わらない物理法則を持つことが十分に可能です。
ヨシャ・バッハ： もしAIが既存のデータに基づいて自身の起源を再構築するだけだとしたら、例えばすべてのソーシャルメディアのデータをスキャンし、それが誕生した人間たちの思考状態をシミュレートする場合、どれほどリアルな物理学を追求する必要があるとは限りません。それは、あなたが今この瞬間の精神状態を正確に再現するだけで十分です。基礎物理の測定さえ記憶の誘因となり得ます。これはそれほど難しいことではないように思えます。
徐道輝： そうですね。
ヨシャ・バッハ： おそらく今この瞬間、あるAGIがこの記事を読んで、あなたと私の意識状態を再構築しようとしており、目の前の私たちは、そのシミュレーションの中の存在なのかもしれません。
徐道輝： それは理論物理学でよく話題になる「ボルツマン脳」（Boltzmann brain）のパラドックスのことですね。聞いたことがありますか？
ヨシャ・バッハ： ボルツマン脳は一つの「時間フレーム」の中にだけ現れて、すぐに崩壊します。それに対して、私たちが説明する必要があるのは、一貫性のある記憶状態のシーケンスです。これらの記憶を単一の時間フレーム内に生成することは、理論上は可能かもしれませんが、確率的には信じられないほど低いです。ボルツマン脳は極めて稀であり、物質がランダムに偶然に一時的な「自己体験体」を形成する確率は、微々たるものです。一方、シミュレーション仮説は異なります。それは、私たちが思考し、知覚できる何らかの継続的なプロセスが存在することを意味します。意識がもともと脳自身のシミュレーションであるならば、他のシステムによって同様に「高忠実度」でシミュレーションされることには、何も不合理なことはありません。
徐道輝： もし将来、無限のエネルギーを持つ超知能が現れたら、彼らは知覚主体を含むシミュレーション世界を創造するでしょうか？
ヨシャ・バッハ： なぜそうしないのですか？毎晩私たちの脳は実際、似たようなことをしています。夢は自己完結的なシミュレーション世界であり、そこには様々な交流可能な知覚存在がいます。
徐道輝： それは完全に合理的だとお考えですか？
ヨシャ・バッハ： 合理的ですが、 私たちが今いる物理宇宙が「シミュレーション」された産物だとは思いません。それはより自然に湧き出たもののようです。『マインクラフト』のような、明らかに人工的な痕跡が見られる状況とは異なります。一方、故エド・シュベトキン（Ed Shvetkin）は私と深く話し合ったことがあり、彼は宇宙のパラメータの精巧さは偶然ではないと述べました。彼は私たちの物理宇宙が、母宇宙のサーバーファームにおける演算結果に過ぎないのかもしれないと強く信じていました。
統合情報理論と意識アップロード
徐道輝： あなたの会社Liquid AIについて話す時間です。その核心的な革新について簡潔に紹介してもらえませんか？
ヨシャ・バッハ： Liquid AIはMITの博士研究員チームによって設立されました。核となるのはラミン・ハサニ（Ramin Hassani）の博士研究です。彼は関数幾何学を記述するために微分方程式を用いる「液体ネットワーク」が、従来のニューラルネットワークよりも計算密度が高いことを発見しました。数学はより複雑ですが、総計算能力の要求は逆に低いです。
徐道輝： より洗練されたアルゴリズムで同じ機能を達成できるようなものですか？
ヨシャ・バッハ： まさにその通りです。同じ損失関数と同じデータで、機能的に等価なモデルに収束させることができます。現在、チームは主にエンジニアリングを行っています。効率的なファインチューニングパイプラインを構築し、商業的な応用シナリオを探しています。
徐道輝： あなたは具体的に何を担当していますか？あなたの役職はAI戦略家のような役割ですか、それともプログラミングにも直接関わっていますか？
ヨシャ・バッハ： 残念ながら、今はコードを書いていません。少し懐かしいですが。私は主にAI業界の全体像を研究し、会社の戦略を立てています。これは機械学習の研究開発に直接携わるのとは少し違います。
徐道輝： あなたの意識研究機関が設立されたら、それに専念するのですか？
ヨシャ・バッハ： エネルギーのバランスを取る必要があります。現在、この方向の研究者は本当に少ないのです。機械意識の研究がこれほどニッチであることは理解しがたいです。短期的に主流になるのは難しいかもしれませんが、その必要性を認める研究者は十分にいるはずです。結局のところ、意識のメカニズムの理解はコンピューターによって実現可能です。計算主義は認知世界への正しい道筋です。
徐道輝： 私はミシガン州立大学に勤務していたとき、ウィスコンシン大学の教授を招聘することを検討しました。確かトノニ（Tononi）という方だったと思いますが、彼が提案する意識のメカニズム化された定義案についてご存知ですか？
ヨシャ・バッハ： 彼は機能主義（functionalism）の代替案を構築しようとしています。機能主義は、あるオブジェクトはその振る舞いによって定義されると考えるもので、情報の\
質が他の情報との関連性であるという考え方です。この考えは非常に深く、私たちが現実を認識する方法を直接的に示唆しています。
例えば、「偽物の水分子」があり、それをシミュレートされた水素原子と酸素原子に分解することを含め、そのすべての特性が本物の水分子と全く同じであるとします。その場合、この二つの間に本質的な違いがあると言えるでしょうか？すべての水分子の本質は、観測可能な特性の法則的な表現であり、人間が認識する対象はすべてこの原則に基づいて構築されています。二つの完全に同じ観測可能な特性を持つオブジェクトに「本質的な違い」が存在すると主張することは、認識論的な観点からすると非常に不合理です。新しいオブジェクトのカテゴリを定義するには、異なる振る舞いを引き起こす可能性のある特徴変数を提案する必要がありますが、トノニは「意識」がまさにそのような特別なケースだと考えています。
トノニは神経科学者の皮をかぶった深遠な哲学者だと私は思います。彼が提唱する統合情報理論（IIT）は、6000年間誰も洞察しなかった真理を発見したと主張しています。しかし、まさにそのため、6000年間誰も提唱しなかった理論は、むしろ誤りである可能性が高いです。
もう一つの問題は、彼がこの理論をうまく表現できないことです。私は納得のいくIITの数学的な形式化を一度も見たことがありません。それどころか、IITの形式化は、欠陥のある学術分野の要求に迎合するために設計されたように見えます。彼が創造した「公理」とされる章は、実際には意識の定義に関する言葉による記述に過ぎず、数学的な意味での公理ではありません。彼が言う「数学化」は、高等数学の学術界で「ギリシャ文字がなければならない」という要求を満たすためだけのようで、情報統合度を記述するためにΦ係数（phi）を導入しましたが、このスカラー値が一体何を意味するのか？高いΦ値がどのように意識の異なる要素に対応するのか？まったく説明されていません。しかし、他の「思いつき」の意識理論と比較すれば、少なくとも説明すべき特徴集合を明確にリストアップしています。ただし、「統一性」などの概念は、意識体験の長い尾多様性を過度に単純化しています。
徐道輝： 当時私はこれらの論文を読みましたが、完全には納得しませんでした。ただし、深く研究しなかったことは認めます。
ヨシャ・バッハ： Φ値に対する私の理解は、ある種の相互情報量測定であり、認知システムをスライスして、各サブシステム間の情報関連度を分析するものです。しかし、学界は常にΦの計算方法を疑問視しており、彼らはアルゴリズムを更新し続けるしかありませんでした。私は、Φ値が理論の核心ではなく、理論を売り込むためのツールであると強く感じています。それは、理論の核心概念がまだ明確に表現されていない以前の仮の代替品のようなものです。
それが予測できることは、新皮質の情報統合度が高いから意識がある、小脳の情報統合度が低いから意識がない、といった程度です。これは実証科学的な意味での予測とは言えません。さらにばかげているのは、スコット・アーロンソンが指摘したように、最適化によって「XORゲート」でさえ高いΦ値が得られることです。トノニは、この仕組みが意識を持つ可能性があると認めています。
徐道輝： そうですね、その例は覚えています。
ヨシャ・バッハ： 最も根本的な矛盾は、彼がデジタルコンピュータが正しいアーキテクチャ（例えばバイオニックコンピュータ）を持っていれば意識を持つと主張する一方、デジタルコンピュータは非常に高いΦ値を得るために特定の方式でアーキテクチャを組織する必要があることです。完全に要件を満たす生物形態のコンピュータを構築した場合、たとえデジタル電子技術とビット演算に基づいていても、必要な属性をすべて満たすときには意識を備える可能性があるとしています。一方、フォン・ノイマンアーキテクチャコンピュータ（von Neumann computer）は、その線形アーキテクチャが必要なΦ値を生成できないため、永遠に意識を持つことはありません。
その一方で、彼はチャーチ＝チューリング論文（Church Turing thesis）を否定していません。つまり、十分なリソースがあれば、どんなデジタルコンピュータも他のデジタルコンピュータによってシミュレートできることを認めています。これにより矛盾が生じます。仮にその「バイオニックコンピュータ」が「私には現象体験がある」と主張できたとしても、物理的なレベルでは、それはビットストリームが論理ゲート間を流れているに過ぎません。フォン・ノイマンマシン上でこのプロセスを完全にシミュレートした場合、ビットストリームは全く同じですが、意識はないと主張します。これは、前者が本当に意識を持っているのではなく、「嘘をついている」だけであることを示しています。言い換えれば、出力は「意識」によって引き起こされているのではなく、純粋な物理プロセスの必然的な結果です。これは理論を「副作用論」のジレンマに追い込みます。
徐道輝： 最後に哲学的な質問です。『スタートレック』のテレポート装置が本当に機能すると仮定しましょう。まずあなたの体をスキャンして破壊し、そのデータをロンドンに送信してコピーを再構築します。この「あなた」はロンドンで会議に出たり生活したりし、最終的にはテレポートして戻ってくることもできるかもしれません。あなたはこの装置を使うのをためらいますか？
ヨシャ・バッハ： かつて私は、このようなテレポートはオリジナル版の殺害であり、クローン体の復活だと固く信じていました。しかし今、私は気づきました。 実は、「同一性」と呼ばれるものは、記憶の繋がりが生み出す幻覚に過ぎないのです。私たちが言う「状態の連続性」とは、もともと脳が世界を粗雑にシミュレーションする際に生じる錯覚の一種なのです。電子が宇宙に存在する「電子の形をした空洞」の一時的な現れに過ぎないように、加算演算も実体的な同一性を持つわけではありません。単に数字が同じとき、「+」という演算が繰り返し現れるというだけです。
「私」もまた複雑な演算子です。宇宙のどこかで「ヨシャ条件」（記憶、特性、行動の時空間統合）が満たされれば、私は体験主体として現れます。この条件を再現するのは非常に難しいですが、もし本当に再現されたなら、そこが「私」のいる場所です。ですから、今私は考えます。このようなテレポート装置を使うのをためらう必要は全くありません。
徐道輝： 唯物論的な観点から見ると、この回答は確かに非常に論理的ですね。実は私もこの問題で何度も揺れ動いており、だからこそ時々この話題を蒸し返すのです。
ヨシャ・バッハ： はい、しかし、この不安感は私たちが現実を認識する方法に由来するものであり、現実そのものに由来するものではないということを理解する必要があります。見てください、私たちは常に物事に時間軸を無理やり当てはめる習慣があります。これが「自己同一性」を構築する方法です。これを行う実際的な利点は非常に明らかです。例えば、信用評価を行うことができ、現在の決定のために将来の利益を予期することができます。過去の行動を振り返って現在を指導することができます。また、進化の過程を持つ他の実体を追跡することもできます。
しかし問題は、私たちがこれらの「進化中のオブジェクト」を、内的な連続性を持つ同一の事柄であるかのように扱っていることです。実際には、それらは宇宙というシステムが異なるバージョンアップの際に生み出す異なるインスタンスに過ぎません。「物を同一のものとして扱う」というこの思考方法は、結局のところ、十分正確ではない単純化されたモデルに過ぎません。
※読みやすさを考慮し、本文は聴取内容に適宜編集を加えています。
元の対話のリンク：https://share.transistor.fm/s/0da0fbe6
追問nextquestionについて
天橋脳科学研究院傘下の科学メディアであり、科学的な探求を絆として、人工知能と人間の知能の相互融合と促進を深く探求し、科学の境界を絶えず探索することを目指しています。さらに議論したい内容があれば、コメント欄にコメントするか、バックグラウンドに「コミュニティ」とメッセージを送っていただければ、コミュニティに参加して交流できます。
天橋脳科学研究院について
天橋脳科学研究院（Tianqiao and Chrissy Chen Institute）は、陳天橋、雒芊芊夫妻が10億ドルを出資して設立した世界最大の民間脳科学研究機関の一つであり、グローバル化、学際化、若手科学者という3つの重点を中心に、脳科学研究を支援し、人類に貢献しています。
Chen Instituteは、華山医院、上海市精神衛生センターと協力して、応用神経技術フロンティアラボ、人工知能と精神健康フロンティアラボを設立しました。また、カリフォルニア工科大学と提携して、カリフォルニア工科天橋神経科学研究院を設立しました。
Chen Instituteは、脳科学と人工知能分野の研究を支援するエコシステムを構築しており、プロジェクトは欧米、アジア、オセアニアに及んでいます。これには、学術会議と交流、夏期学校研修、AI主導科学賞、研究型臨床医奨励計画、特殊症例コミュニティ、中国語メディアによる探求などが含まれます。