Anthropicの共同創設者であるジャック・クラーク氏が最近、ジョージ・メイソン大学経済学教授のタイラー・コーウェン氏のポッドキャストに出演し、AGIが経済発展に与える影響について自身の見解を語りました。対談では、AGIが経済や社会に与える「ばらつきのある」影響、AIに代替されにくい産業、法規制やデータ標準の障壁から、政府や都市管理におけるAIの応用可能性、さらには「AIテディベア」や育児支援といった日常的なシナリオまで幅広く議論されました。
コーウェン氏は自身のブログサイトで対談の全文を公開しており、私たちはその内容を翻訳しました。原文リンク：https://conversationswithtyler.com/episodes/jack-clark/
以下は全文翻訳です：
Anthropicの共同創設者であるジャック・クラーク氏ほど、汎用人工知能（AGI）の可能性と限界を包括的に理解している人物はほとんどいません。ジャーナリズムと人文科学の背景を持つジャック・クラーク氏は、シリコンバレーにおいて異彩を放っています。彼は、AIの進歩速度を常に過小評価してきた自身の経験に基づきつつ、物理的な世界がデジタル変換に抵抗することを認識しており、AIの経済的影響について冷静な予測を立てています。テクノ楽観論者が語る20%〜30%ではなく、経済成長率は3%〜5%になると予想しています。
この対談で、ジャック氏とタイラー氏は、AGIが経済のどの部分に最後に影響を与えるか、AIが直面する最強の法的障壁、AIテディベアの可能性、AIがジャーナリズム経済に与える影響、大規模言語モデル（LLM）業界の競争環境、AIによる経済成長への比較的悲観的な見方、AIがアメリカの都市をどう変えるか、豊富な計算資源をどう活用するか、法が自律型AIエージェントをどう扱うべきか、「オタクマネージャー」の時代に入っているのか、AI意識、いつイルカと直接話せるか、AIと国家主権、英国とシンガポールがAIハブとしてどう位置づけられているか、クラーク氏が次に何を学びたいかなど、多岐にわたる問題を議論しています。
タイラー・コーウェン：皆さん、こんにちは、Conversations with Tylerへようこそ。今日は、Anthropicのジャック・クラーク氏と対談しています。皆さんもご存知のように、Anthropicは先進AIが米国経済に与える影響を測定するAnthropic経済指数を発表しています。2025年3月現在、関連報告書が2件発表されており、今後もさらに発表される予定です。ジャック氏はもちろんAnthropicの共同創設者です。以前はOpenAIの政策ディレクターを務め、ブルームバーグではジャーナリストでした。元々は英国ブライトンで人文科学を専攻していました。ジャック氏、ようこそ。
ジャック・クラーク：お招きいただきありがとうございます、タイラー氏。ここに来られて大変嬉しいです。
コーウェン：私たちの経済で、AGIが最後に影響を与える分野は何でしょうか？
クラーク：おそらく、一部の職人産業や、それらの産業の中でも最も職人的な部分だと思います。電気技師、配管工、あるいはガーデニングといった職業が考えられるでしょう。これらの分野には、経験と技術を要する部分があり、人々は特定の作業員を使いたがります。それは彼らのスキルだけでなく、その名声、そして時には美的資質によるものです。
コーウェン：人々はAGIを使って庭のデザインを助けてもらうことはないのでしょうか？それとも、人間の優位性は決して消えないのでしょうか？
クラーク：人間の優位性は決して消えないと思います。人々は個人の好みで特定のものを買うでしょう。たとえその好みが、芸術家が実際には何千人もの人々に働かせ、彼らはその作業を指示しているだけの、ある種の現代美術制作のように見えたとしてもです。
コーウェン：よりホワイトカラーのサービス部門では、それは最後にどの分野に影響を与えるでしょうか？
クラーク：良い質問ですね。その点では、他の人と話したり、合意したり、取引をまとめたりする必要のあるホワイトカラーの仕事があると思います。ある種の営業を考えると—
コーウェン：しかし、AIはすでにその点で優れていますよね？素晴らしい「セラピスト」です。
クラーク：確かに優れていますが、まだClaudeをClaudeを売るために派遣していませんよね。私たちは人間をClaudeを売るために派遣しています。たとえClaudeが販売活動を行うためのテキストを生成できるとしてもです。人々は他の人とビジネス取引をしたいと考えています。ですから、大規模な自動化された組織や資本プールを代表する人間の代理人が行う特定の種類の取引は、人々は人間の代理人にやってもらうことを好むかもしれません。
コーウェン：AGIが最も強い法的障壁に直面するのはどの分野ですか？
クラーク：数年前、法律自体がAGIにとってかなり強い障壁でした。なぜなら、弁護士は非常に高い報酬を請求するのが好きで、報酬を下げる可能性のある事柄を好まなかったからです。
私の答えは、医療の大部分かもしれません。なぜなら、それは私たちの個人データの取り扱い方や関連するすべての基準に密接に関連しているからです。これらの基準はすべて、AGIが使用できるようにするためには何らかの形で変更する必要があるでしょう。私たちはデータ基準の更新や変更を非常に困難に感じてきました。
コーウェン：AIを自分のハードドライブにインストールできるようになれば、すべてが変わるのではないでしょうか？それは間もなく実現します。
クラーク：それはグレーマーケットの専門知識の形で状況を変えるでしょうが、公式の専門知識にはならないでしょう。最近子供が生まれました。子供が頭をぶつけるたびに、病院に電話する一方で、自分を落ち着かせるためにClaudeとチャットし、子供が大丈夫であることを確認します。
実際、サービス規約上、私たちはClaudeを医療分野に完全に投入していません。それは法的責任を招く可能性があると心配しているからです。しかし、私は実際には常にそれを使いたいと思っていますが、Claudeの評価をカイザー・パーマネンテのような医療機関に提供することはできません。子供のために薬が必要かどうかを判断するための後続のすべての作業は、人間を通じて行う必要があります。
コーウェン：米国政府の一部門がAIが最後に入り込む分野になる可能性はどれくらいだと思いますか？それが私の予測だと思っていました。彼らは今でも1960年代、あるいは50年代のソフトウェアを使っていることがあります。
クラーク：確かにそうですが、実際には、いくつかの理由でこれらの分野で非常に急速な変化が見られるかもしれないと考えています。まず、AIが国家安全保障と密接に関連していることを知っています。それは特定の種類の能力を発展させています。
コーウェン：しかし、政府の他の部門はどうですか？
クラーク：機密性の低い、最先端ではない政府部門ですね。私は、政府のこれらの困難な分野に驚くほど簡単に入り込むことができるようになり、その後は政治的意思の問題が生じると賭けています。世界中で—そしてあなたはこれに同意すると思いますが—政府は成長と効率性を非常に強く望んでいます。私たちは今日ここでそれを見ていますが、有権者の世論調査やその他のことを見れば、人々は政府が現状よりも多くの変化を遂げることを望んでいます。私は、有権者の嗜好が最終的に彼らの選出された役人の行動を変えることがあると思います。私はそれとは反対の見方に立ちます。つまり、政府の行動速度はあなたが思うよりも速いかもしれません。それは、この技術に対する最大の抵抗を持つ非常に巨大で確立された企業かもしれません。
コーウェン：HUDや教育省の職員の半分がAIやAGIに置き換えられると決定されたとしましょう。それを実現するために、まずより多くの人を雇う必要がありますか？残りの半分を解雇するために、システムを切り替えるために、どのような種類の人を、どのような賃金水準で雇うことができますか？それがどのように機能するのか理解できません。
クラーク：システムが十分強力になり、そのプロセスを考えるのを助けるためにAIシステムを導入できるようになった場合にのみ、それが実現すると思います。その後、政治的意思の問題が生じるでしょう。そして、それがこの全てのボトルネックになる可能性があります。
コーウェン：法律や医学分野における強いAGIに対する法律に類似した何かを通じて、今日存在する雇用の半分を保護する可能性はどれくらいだと思いますか？
クラーク：その可能性はかなり高いと思います。合理的な方法でそれを行うとは思えません。もしこの技術を構築する企業や私たちの顧客が十分な良い移行事例を生成せず、大規模な経済変化の証拠が増えるほど、それらの移行事例が不足すればするほど、私たちは介入し、異なる分野の労働者を保護したいと思うようになるでしょう。このアプローチは人々を助けたいという意思から行われるかもしれませんが、長期的には最も役立つものではないかもしれません。
コーウェン：しかし、それはある意味、私たちが実際に追求すべき最適な結果ではないでしょうか？人々はまだ仕事を持つでしょう。朝どこかに行くでしょう。重労働の大部分はAIが行うでしょう。明らかに、私たちはより裕福になるので、これをすべて賄うことができます。突然、それは人々をあまり悪い気分にさせないでしょう。生活は慣れたものに見えるでしょう。それは私たちが何らかの形で目指すべき目標ではないでしょうか？
クラーク：それが私たちが目指すべき目標だと思います。
コーウェン：ある意味では、自由貿易を実現するために寛大な福祉国家が必要だったのと同じです。福祉国家は常に最も効率的ではありませんが、人々がより自由な貿易を受け入れた場合、それは受け入れ可能な取引でした。これは、サービス労働者のための福祉国家の一形態ではないでしょうか？彼らは朝、行きたい場所に行くことができますが、実際に仕事をする必要はありません。
クラーク：すべての人間は、日々の活動に意味と重要性を求めます。あなたが説明しているシナリオについての私の心配は、それが人々が自分の活動が十分に意味のあるものだと感じるのに十分ではないかもしれないということです。世界で継続して行われることを望む活動の大きなバケツがあり、人々はそれから意味を導き出しますが、私たちが保護することを選んだ仕事が自然に意味を生み出すかどうかは確信できません。
コーウェン：AIが登場する前に、私たちは学術界でこの問題を解決できていましたか？ほとんどの学術的な仕事はそれほど意味のあるものではありません。人々が行う研究は—誰にも読まれていません。おそらく彼らは教えるのが得意かもしれませんが、人々は彼らの研究に非常に誇りを持っています。彼らは莫大な努力を注ぎます。それは無意味に見えます。しかし、私たちはその問題をうまく解決したようです。私たちは学術界のようなモデルを採用しますが、研究ではなく、そのモデルを現在の経済の半分に展開し、ただそれを実行し続けるだけです。
クラーク：学術界のこれらの高業績な部分には、ある種の不安やニヒリズムが存在するのではないでしょうか？たとえ非常に賢い人であっても、人々と話すとき、彼らは時々、別のことができるかもしれないと気づきますが、ある種の低位ゲームに閉じ込められています。
コーウェン：確かにそのような状況はありますが、ノーベル賞受賞者でさえ—彼らは互いに競争し、非常に意地悪で、非常に器が小さいこともありますが、それは人間性ですよね？ノーベル賞受賞者が幸せでないなら、AI時代において、私たちは今よりも良い状態を実現できないかもしれません。
クラーク：おそらく私の反論は、これらすべての変化が十分に速く起こり、私たちが現在のものを、AIとそれが解放する生産性によってもたらされる、より異なる、より高位の「ステータスゲーム」で置き換える機会があるかもしれないということです。間違いなく、さまざまな種類の仕事にAIシステムを指示し、編成することを含む、全く新しい仕事が出現するでしょう。AIシステムがものを構築したり、作ったり、あるいはほとんど競技やゲームを行ったりする、より創造的で楽しい活動も出現すると思います。人々が互いに競争したり楽しませたりできるゲームです。人々が参加できるある種の経済エンジンにつながっている、ある程度の意味を持つ全く新しいエンターテイメント形式が登場すると信じています。
コーウェン：私が言うところの「AIテディベア時代」はそう遠くないと信じています。それが何を意味するか分かりますか？
クラーク：はい。
コーウェン：今、どれくらいの親が子供たちのためにそれらのテディベアを買い、使わせると思いますか？
クラーク：2歳近くになる子供ができてから、ずっとこのことを考えています。
コーウェン：もちろんです。
クラーク：今テディベアが買えないことに腹を立てています。ほとんどの親は—
コーウェン：あなたは例外です。
クラーク：いいえ、そうは思いません。可愛い子供が話し始め、飽くなき好奇心と満たされるべきニーズを示すようになったら、まず最初に「どうすれば彼らをできるだけ早く他の子供たちと交流させられるか？」と考えます。それで、私たちはプリスクールのリストなどに載りました。
私はこう思いました。「ああ、君のウサギが時々君と話して、私が皿洗いをしたり、料理をしたり、他のことをしている間に、ウサギが君を楽しませてくれたらいいのに。」多くの場合、子供の世話をし、彼らを楽しませてくれるために、もう一人の人間が部屋にいるだけで良いのです。たくさんの親がそうすると思います。
コーウェン：子供が「パパ、友達よりウサギの方が好き。今日は家にいてもいい？」と言うとしましょう。それが厄介な部分ですよね？
クラーク：それは、友達と過ごす時間を増やさせる必要がある時ですが、ウサギは彼らが成長するにつれて賢くなり、常にそばにいるので、ウサギを持たせ続ける必要があります。もしウサギを取り上げたら、彼らは将来、知的なAIの友達と何か変なことをするかもしれません。
いいえ、私は例外だとは思いません。ほとんどの親は、特に小さな子供が手に負えないときに、時折楽しませてくれる親切な友達を手に入れられるなら、そうしたいと思うでしょう。
コーウェン：「時々」という言葉が、あなたの文章の中で多くの仕事を担っていると思います。親が子供とウサギが一緒に過ごす時間を合理的に制限できるなら、親はそれが大好きになるでしょうし、私はそれに同意します。それは画面と同じです。多くの子供たちは—いつもそれを欲しがります。子供に今使えないと言うのは難しいです。以前は、それはテレビの問題でした。「ああ、ママ、スター・トレックをもう1時間見てもいい？1日に7時間テレビを見てもいい？」それは悪く、制限するのは難しかったです。
クラーク：はい、ですからこの割り当ての問題について、今日のテレビの扱い方は、もしあなたが私たちと一緒に旅行しているなら、例えば飛行機に乗っているなら、または病気なら、子供はテレビを見ることができます—そうでなければ、彼らは見ません。なぜなら、様々な観点から見て、それは最も役立つことではないと思われるからです。この状況を制御する方法を見つける必要があるかもしれません。それは、「ママとパパがあなたを助けるために家事をしているとき、あなたはこれを得られます。彼らがもう家事をしていなくなったら、これはなくなります」ということかもしれません。
コーウェン：もしあなたがこのような仮定を持っていたら：これほど多くの7歳の子供たちは—彼らは自分自身と話すでしょう。彼らは奇妙なことを言うでしょう。そしてAIウサギはあなたに報告します。「あなたの子供は言いました…」
クラーク：ウサギがあなたの子供が何か変なことを言ったと言うなら—
コーウェン：でも、彼らはみんな奇妙なことを言っています。私は7歳の時、常にニューヨーク・メッツについて話していたかもしれません。それは完全に無害だったかもしれませんが、そうは聞こえなかったかもしれません。
クラーク：人々には規制されていない創造的な空間を与える必要があります。実際、それは今日、私たちがAI研究について考える方法と同じです。現在、AIシステムは、回答に到達するために使用する推論プロセスである思考の連鎖を出力できます。Anthropicで私たちが抱えている問題の一つは、これらの思考の連鎖をどれだけ監視すべきかということです。
もし実際にそれを監視すると、システムは最終的に、減点につながることなく安全に監視できる思考の連鎖を持つことを望むという、反目標を作り出す可能性があります。そしてそれは様々な方法でその思考方法を歪めるかもしれません。この類推がここで成り立ちます。つまり、人々の状況についてどれだけ知りたいかを決定する必要があるということです。そうしないと、人々の行動を変えるインセンティブを作り出すリスクを冒し、それが否定的な結果を生み出す可能性があります。
コーウェン：あなたはデートに行き、デート相手は「過去3ヶ月間、自分自身に何を言っていたかを見るために、あなたのAIレポートを見せてください」と言うでしょう。あなたはそれを見せないこともできます。それは否定的な信号になります。または見せることもできます。
コーウェン：私たちは皆、他の人々が本当にどうであるかを受け入れることを学ぶでしょうか？
クラーク：はい。ただし、誰かが最初のデートでそれを求めてきたら、それは構いません。2回目のデートでそれを求めてきたら、その人とはデートすべきではないかもしれません。
コーウェン：スワイプアプリでも、AI—それをアップロードするように要求されます。そしてAIは他のAIレポートを読み取るだけで、いつ適切に右にスワイプすべきかを教えてくれます。そして人間はそれを決して見ない。それはどうでしょうか？
クラーク：分かりません。それがそれほど悪いことなのかどうか分かりません。私はOkCupidで妻に出会いました。ご存知かもしれません。それはオンラインデートサイトで、アンケートに記入しました。
コーウェン：もちろん、私はMatch.comで妻に出会いました。
クラーク：その通りです。そして私は彼女に会いました。私たちは非AIですが自動化されたシステムを介して出会いました。「あなたたちは非常によく合うかもしれません」とそれが言いました。それで私たちは会いました。それが私たちが以前使っていた技術とどれほど違うのかは分かりません。
コーウェン：メディアの経済はどうなるでしょうか？もしあなたが要約を読めるなら、それが原文よりも優れているか、少なくとも悪くないか、あるいはより統合されている場合です。誰が誰に支払うのでしょうか？
クラーク：それは私たちの目の前にある最も難しい問題の一つだと思います。ご存知のように、私はかつてジャーナリストでした。私がプロとして育った時期は、オンライン広告市場の変化がジャーナリズムのビジネスモデルを変えている時期でした。彼らは質や購読、または人々があなたのものを買うことから価値を得ていましたが、そのビジネスモデルの主要部分となった大規模な注目から価値を得るように変わりました。
そのため、私のようにデータベース記事を書くジャーナリストを、それほど多くの注目を集めなかった記者を、大量の注目を集めるジャーナリストで相互補助する必要が出てきました。
メディアにとって—これがどう経済学を機能させるか考える上で非常に難しい問題になるでしょう。いくつかの方法で変化するでしょう。一つは、ある種の架空の宇宙に対して、ある種の大型出版社スタイルのモデルに移行するかもしれません。それは相互補助されています。
コーウェン：相互補助はどこから来るのですか？ブルームバーグ—それがどう機能するかは分かっています。もしAGIが本当に汎用であり、すでに存在するものに基づいているなら、それはすべての次元でメディアを凌駕するはずです。
クラーク：何か私たちが人間から来てほしいと望むものがあると思います。それは私たちが人間であるという理由からです。彼らが他の手段でメディアを制作しているとしても、人々は他の人間がホストするメディアを選ぶ方に偏ると思います。また、大量のこれらのコンテンツに人間の要素を注入する必要があると思います。そして、これらの購読モデルに付随する可能性のある別の種類のメディアが登場するかもしれません。それはいつでもあらゆるもののバリエーションを提供できます。ですから、二つの市場が存在するかもしれません。
コーウェン：人間から来てほしいと望むものでさえ—例えば、アン・ランダースのようなアドバイスコラムが本物のアン・ランダースから来てほしいとします。アン・ランダースのような人—彼らはAIを使うかもしれません、おそらく秘密裏にさえ、しかしその価値は低下するでしょう。なぜならエネルギーを持つ誰でもそれができるからです。ですから、私たちは最終的に、他の部分を相互補助できるこの収入生成産業の部分を持たないことになります。もし知性がかなり安くなれば、それはメディア業界全体に影響を与えます。
クラーク：メディア業界全体に影響を与え、最終的に個人の報酬を支払いたくなるでしょう。今日の私たちの世界でさえ、それは起こっていると思います。人々は、この技術を大量に使用している可能性のある個々のクリエイターを補助したいと考えています。
コーウェン：それはSubstackの世界のようです。
クラーク：それはSubstackとPatreonの世界であり、多くの人々にとって、その中には非常に成功する人もいるでしょう。そして、非常に大きく豊かな宇宙に関しては、AIシステムによって拡張されている「宇宙世界」があると思います。
<ウェン：指輪物語の宇宙のようなものですか？クラーク：はい、または私のオタク趣味を示すためにウォーハンマー40kです。
コーウェン：彼らは架空のニュースを公開しますか？
クラーク：はい。
コーウェン：そして、本当のニュースはSubstackから来るのでしょうか？Substackは明白な相互補助プラットフォームではありません。Substack会社内での相互補助があるかもしれません。
クラーク：本当のニュース—正直言って分かりません。一部の本当のニュースは、公開された事実を分析し、それらを組み合わせて、これまで存在しなかった洞察を示すことから来ていると思います。SubstackのSemianalysisは、大量の公開情報を取得し、興味深い結論を導き出す良い例です。しかし、以前のビジネスモデルによって補助されていた大量のコンテキストを必要とする即時ニュースは、そのビジネスモデルがほとんど壊れてしまっているので、どうなるかは正直言って分かりません。
コーウェン：いわゆる大規模言語モデルについて今考えると、5年後、10年後、このAI—その分野はどれくらい集中しているか、または競争が激しいと思いますか？企業の数がこの問題を測る適切な尺度かどうかは分かりませんが、それがどのように進化すると思いますか？現在、少なくとも6社あります。
クラーク：長い間、これらの領域にはわずかに異なる専門分野が存在すると予測しています。それらは広大な、相互に重なる円で、その端はわずかに異なります。しかし、これらの端では、特定のタイプの人間の価値がAIの価値の上に重ねられる状況が発生し、人々がある方を選ぶのではなく別のものを選ぶことになります。
コーウェン：例えば、Claudeはより詩的です。
クラーク：それは詩の経済学があまり理想的ではないため、悪い例です。プログラミングはおそらくより良い例でしょう。あるいは、特定の種類の科学実験で、実際に味覚が実験の構想において非常に重要になるような場合です。
私たちは、いくつかの非常に大規模なモデルが幅広いアプリケーションにサービスを提供し、これらのアプリケーションが彼らがあなたの生活に統合される形態を変え、そしてこれらのAIがその分野の他の専門知識や専門家の知識と連携して構築された可能性がある一連のヘルパー機能や知識を持っている世界に移行すると予測しています。
コーウェン：ここに私の懸念があります。私の元同僚であるバーノン・スミスがこの問題について論文を書きました。彼は、競合他社が6社以上に近づくと、たとえ完全にそうでないとしても、産業は実質的に完全競争のように振る舞うと指摘しています。もしそうなら、Anthropicや他の企業は、市場が必要とする以上の方法でどのようにして収益性を維持し、収益を上げ続けることができるのでしょうか？次の企業よりも著しく優れる余地は何でしょうか？
クラーク：今日の状況は自動車会社のようなものだと思います。私たちは主に「それはどれくらい速いですか？赤で買えますか？」と言っているティーンエイジャーの顧客に車を販売しています。私たちは、フリートを運営している企業のような顧客を発見し始めています。彼らは、「どのような安全ベルトが付いていますか？衝突率はどれくらいですか？そしてティーンエイジャーの顧客が決して私たちに尋ねなかった他のすべての属性は？そしてこれらの属性は彼らのビジネスモデル、責任、または他のことに関連しています。」
ですから、自動車やその他のものに持つ安全性の同等物と同様の、ある種の技術を構築する必要があると思います。それが競争の論理を変えるでしょう。私たちは今、激しく競争しており、その競争は、異なる種類の属性を持つ異なる種類の市場を解放するにつれて変化するでしょう。そしてそれらの属性は通常、ある種の安全技術にまで及びます。
コーウェン：では、保険の価格は、そのメカニズムを担う一つの方法ですか？
クラーク：それが一つの方法になると信じています。
コーウェン：保険価格が実際にそのメカニズムを担うようにするために、賠償責任法をどのように変更または改善する必要がありますか？なぜなら、現在、あらゆる種類のAI賠償責任は非常に不明確だからです。
クラーク：私は責任についてよりも、企業が提供すべき情報について考えていますが、これらの要素は相互作用すると思います。今日、これらのAIシステムや、それを構築するために使用した産業慣行について、実際の普遍的なラベルや開示基準はありません。
それが最終的に介入できる分野であり、ある種の共通の透明性を提供することで、責任や過失といったものと相互作用し、時間の経過とともにそれらの企業の行動を変えるでしょう。これらのシステムについて提供し始めることができる共通の情報がいくつかあり、それも企業の行動を変えるでしょう。
コーウェン：情報部分は私を心配させます。私は加速主義者になりたい傾向が強く、利点がコストを上回ることを願っており、実際そうなると思っています。しかし、情報は私的な価値を高めるだけであり、社会的なコストはあなたの意思決定にほとんど影響を与えないと思います。情報はあなたの行動を変えません。人々は地球温暖化について多くのことを知っています。一部の人は肉を食べる量を減らしますが、ほとんどの人はそうしませんよね？
クラーク：ええと、あなたが行うことの一つは、真に共通の情報を作成することです。私たちが実施する経済指標の作業は一つの企業から来ていますが、最終的には、それをすべての企業に一般化し、政府が行う可能性のある大規模なデータ収集と連携させたいと思うかもしれません。もしそれが実現すれば、より大きな範囲の実際の政策対応とそれを連携させる可能性が高くなります。
また、気候変動に関しては、例えば百万分率のような指標を測定するだけで、感知された否定的な影響に対応するために経済の異なる部分で大量の資本が再配置されるのを触媒するのを助けたと思います。
コーウェン：AIの難しい部分については、意味のある国際合意が得られないという私の見解に同意しますか？簡単な部分については何かできるかもしれません。
クラーク：概ね同意します。ある種の核不拡散協定のようなものが成立する可能性はあると思います。
これは、AIシステムの特定の能力が非常に破壊的である可能性が高いため、広く利用可能にしないと判断する時期があるかもしれません。一方で、すべての政府がそれを秘密裏に開発している可能性を認識しています。しかし、私たちの国や他の国で広範な混乱を招くと判断した、すべての人に利用可能なものに関する共通の基準があるかもしれません。
コーウェン：それは国連、米国によって強制されますか、それとも国際的な規範、制裁によってですか？
クラーク：私は、これらの大部分は検証を経て、関税、輸出、その他の問題について互いに政策的なパンチを適用することによって強制されると推測しています。これらの問題に対処するグローバルな統治機関が存在するとは思っていません。一部の人々はIAEAモデルのようなものについて楽観的ですが、特定の競争力学の下でチェッカー・チェッカーの力学を必要とする事柄は最終的に非常に困難になると私は思います。
コーウェン：私は、NAFTAが成立しなかった世界に住んでいることを心配しています。そしてNAFTAは比較的簡単な合意でした。
クラーク：NAFTAは簡単だったはずです。
コーウェン：簡単だったはずですが、控えめに言っても、簡単ではありませんでした。
コーウェン：10年後を見据えて、アメリカの経済成長率に関するあなたの最善の予測は何ですか？
クラーク：今は1%から2%です。
コーウェン：今は景気後退の可能性もありますが、平均して2.2%、2.2%としましょう。
クラーク：私の悲観的な予測は3%で、楽観的な予測はおそらく5%あたりだと思います。他の人からはもっと高い数字を聞くかもしれません。
コーウェン：私はしばしば20%や30%と聞きます。それは私には absurd に思えます。
クラーク：私の予測がより保守的な理由は、私たちは経済の一部が非常に速く動き、高成長である新しい世界に移行すると思いますが、それは経済の比較的小さな部分だからです。それは時間の経過とともにそのシェアを増やすかもしれませんが、より小さな基盤から成長しています。そして、医療のような経済の他の大部分があり、それらは本質的に動きが遅く、この技術の採用も遅い可能性があります。
私を間違わせる状況は、AIシステムが物理的な世界の生産能力を非常に驚くほど高い複合成長率で大幅に解放できる場合です。工場などの自動化と構築です。
それでも私は懐疑的です。なぜなら、AIコミュニティがデジタル世界と現実世界の間にある峡谷を飛び越えようとするたびに、彼らは何千もの問題に遭遇します。彼らはそれらをほんの些細な傷だと思っていましたが、それらは集まってあなたの血をすべて失わせます。私たちは自動運転車でこれを見ました。非常に有望な成長率でしたが、その後非常にゆっくりとした痛みを伴う展開プロセスでした。
コーウェン：以前印刷物で述べたように、私の最善の推定は、年間0.5パーセントポイントの成長が得られることです。5%が私の上限でしょう。あなたの見解では、成長の改善が全くないシナリオは何ですか？それがあなたの見解でない場合、Anthropicに賢い人がいると仮定して—あなたは彼らと意見が異なりますが、彼らは何と言うでしょうか？
クラーク：一つのシナリオは、私たちが政治的な問題をひどくしくじり、技術が経済の特定の分野でのみいくらかの利益を生み出す比較的小さな箱に閉じ込められるかもしれないということです。それは原子力発電の失敗モードの話であり、つまり、私たちはこの作業を困難にするある種の大規模な規制プログラムを導入し、それはもはや大きな影響を生成しないということです。おそらく他の場所で影響を生成するでしょう。
私が挙げるもう一つのシナリオは…私にとって0%のシナリオを挙げるのは難しいです。なぜなら、今日のコーディングには非常に有用であることが分かっているからです。もし今すべてのAI研究、すべてのさらなる進歩を止めたとしても、私にとってはそのコーディングの用途だけで非常に有用でしょう。なぜなら、それは経済の一部をデジタル化する能力を高めるからです。私たちはそれが経済の異なる部分でのより速い循環を推進することを知っていますが、それは価値を生み出します。
0%が発生する確率は基本的に1%未満だと思います。もし本当に発生するとすれば、それはラッダイト運動、あるいは台湾との戦争のようなものであり、他のすべてが異なるものになるでしょう。
コーウェン：5％のシナリオでは—サンフランシスコは特別な場所ですが—都市はより重要になりますか、それともあまり重要ではなくなりますか？明らかに、この都市はより重要になるかもしれません。例えば、シカゴ、アトランタのような都市はどうなりますか？
クラーク：人間の密な集積にはかなりの価値があると思います。私は、AIの大きな影響の大部分が一定期間、異なる産業のスターパワーを劇的に増加させると予想しています。すべての都市かどうかは分かりませんが、何らかの専門性を持つ都市—例えば、シカゴの高頻度取引やニューヨークの特定の金融タイプ—は、大量の専門家が集まってアイデアを交換することから、ある種の恩恵を受け続けるでしょう。
コーウェン：ほとんどの労働力と資本が再評価されるなら、優良な土地は最高の投資ではないでしょうか？なぜなら、どの会社が最も利益を得るか分からないからです。AI会社に賭けることができます—もちろん、それは簡単ですが、すでに価格に反映されています。しかし、他の会社はどうでしょう、誰が知っていますか？だから、LAの土地を買いましょう。
クラーク：電力と発電は非常に価値があると思います。
コーウェン：あなたなら何を買いませんか？
クラーク：発電技術の基礎となるガスタービンやその他の構成要素を購入できると思います。多くの人々がこれをやりたいと思うでしょう。それは持続的で意味のある価値を持つと予想しています。
コーウェン：10年後、GPUとその後継者が希少でないと仮定しましょう。余分な容量がたくさんあり、安いです。彼らに空き時間に何をさせますか？
クラーク：おお、それは興味深いですね。一つには、AIシステムに計算能力を与えることで支払うことができるかもしれません。ある種の物々交換経済を想像できます。もちろん、私が今言ったことには多くの不気味な安全上の問題がありますが、それらを脇に置いて、それらの問題のほとんどが解決されたと仮定しましょう。強力なAIシステムやエージェントと取引する何らかの形態が現れると思います。これらのエージェントは人々のために仕事をしており、エージェントも自身のために計算能力を使用する可能性があるため、計算能力で彼らと取引したいと思うかもしれません。それがその一部です。
もう一つは、あなたが価値がある、あるいは面白いと思うもののバリエーションを生成することだと思います。また、予測できない非常に奇妙なものが現れるのではないかと疑っています。例えば、ある種の並行歴史生成や並行未来生成のようなエンターテイメント形式です。人々は常に「もし…だったら」や「もし…が展開したら」に興味を持っています。
コーウェン：ファンフィクションは非常に増えるでしょう。
クラーク：ファンフィクションも増えるでしょう。はい。膨大な量の計算能力が代替現実を生成するために使われると思います。しかし、これらの代替現実の一部は、非常に正確な描写があるが、異なる点がある今日のスライディングドアのバージョンになるでしょう。
コーウェン：あなたなら何をしますか？個人的に、世界ではなく、あなた、ジャック・クラークです。あなたはこれほど多くの無料計算能力を持っていますが、それを使って何をしますか？シェイクスピアの別の劇を書こうとさせますか、それとも1830年からブライトンがどのように発展したかを探求させますか？それを使って何をしますか？
クラーク：今、Claude Codeでやっていることは、非常に詳細で良いクリップ工場シミュレーターを書こうとしていることです。それはそれ自体が面白い部分もありますし、これらの非常に複雑なシミュレーションゲームが非常に面白くて魅力的だと感じている部分もあります。また、その分野には膨大なスペースがあり、私たちはほんの一部しか生成していないとも思っています。
私たちが本当にできたことのないことの一つは—信じられないほど計算コストが高かったので—ゲーム内のエージェントとしてAIを機能させることです。DeepMindのデミスはDeepMindを始める前に、ブラック＆ホワイトというゲームを作りました。それはゲーム内で遊ぶ非常に原始的な強化学習駆動のエージェントを含んでいました。それでできることはたくさんあり、それは素晴らしいでしょう。
コーウェン：エージェントといえば、所有権のないエージェントを法律はどう扱うべきでしょうか？おそらく匿名で生成されたか、慈善家がそれらを構築し、所有権を放棄したか、または法律があまりない国に送ったかです。テロリズムについて話しているのではありません。それは別のことです。しかし、誰かがエージェントをアフリカに送った場合、98％の時間は人々を助けていますが、すべての慈善事業と同様に、何かがうまくいかないことがあります。誰かそのエージェントを訴えることはできますか？それはどのように資本化されていますか？法的なアイデンティティを持っていますか？
クラーク：エージェントに支払うことについて以前話したので、少し矛盾します。世界はエージェントが一定の独立性または取引能力を持つように押し進めていると思います。
政策面では、IBMがかつて言った最も古いことの一つに立ち返ります。つまり、コンピューターは意思決定に責任を負えません。人間だけが責任を負えます。それは、人間から完全に独立しているが、人間に影響を与える意思決定を行っているエージェントを作成する場合、政策および法体系にとって非常に厄介な問題を引き起こすという非常に重要な点に触れていると思います。ですから、私はあなたの質問をかわしています。答えを持っていないからです。これは大きな問題だと思います。
コーウェン：私の推測では、私たちはエージェントのために法律を書くべきであり、おそらくAIが法律を書き、彼ら自身のシステムを持つでしょう。もしすべてを人間にさかのぼるなら、30年後には誰かがAnthropicを訴えるかもしれないと心配しています。あるエージェントがあなたのシステムの分枝であり、中国のManusを介して伝播し、Manusはあなたが行ったことの上に構築されている可能性があると言うでしょう。
私はあなたがこれらのケースに責任を負うべきではないと思います。私は責任を制限し、何らかの形で主流の法制度からそれを隔離したいと考えています。必要に応じて、独立したエージェントに何らかの資本支援があるか、追跡されて停止されるかを要求することができます。
クラーク：はい。これは、究極の抑止力であるエージェントが使用しているリソースを制御および変更する能力に関係するかもしれません。
ただし、これはかなり厄介な道徳的患者の問題を含んでいることを指摘しなければなりません。私たちは、より良い人間の概念をより明確に理解する方法に関するいくつかのアイデアに取り組んでいます。もしあなたがこれらのAIエージェントが道徳的なニーズを持つ個人であると考えるなら、それらを停止することはかなり重大な倫理的問題を引き起こす可能性があり、したがってこれら二つのことを調整する必要があります。
コーウェン：そう遠くない昔、ニューヨークで開催されたイベントに参加しました。私はAGIという言葉を使いましたが、5人中誰も私の意味を知りませんでした。彼らが深い懐疑を持っていたとは思えませんが、文字通り私の意味を知りませんでした。なぜこれほど多くの人々がまだ闇の中にいると思いますか？
クラーク：私はテクノ悲観論者でしたが、規模による繰り返しの打ちのめしによって楽観論者になりました。つまり、私はAIの進歩を常に過小評価していました。おそらく、今日のこの対話で私が述べた3%から5%の成長率は別の過小評価です。私が経験したのは、AIシステムが、私が不可能だと思ったレベル、あるいは非常に長い時間がかかると思ったレベルに、私が予想したよりもはるかに速く到達し続けているということです。ですから、私はそれを繰り返し内面化しなければなりませんでした。
それでも、私たちは自分自身を驚かせています。昨年、ここの人々は「おお、すぐにAnthropicでコーディングのほとんどをClaudeが行うようになるだろう」と言っていました。私たちは現在、Claude Codeやその他のものが私たちのために大量のコードを書いている方向に進んでいます。内部でさえ、これは私たちを驚かせ続けています。昨年の文書がこれが今起こると予測していたにもかかわらずです。
ほとんどの人、あなたがAIラボで働いていないなら、AIを予測して繰り返し間違っていることを証明された経験はありません。なぜなら、あなたがここで働いていない限り、なぜあなたがそうするのでしょうか？私は、それを突破する唯一の方法は、彼らの領域をAIがその領域で直接できることと結びつけ、そこでそれを評価させることだと分かりました。そしてそれは高価なプロセスです。
コーウェン：「オタクマネージャー」の時代
コーウェン：シリコンバレーは今までオタクの時代でした。その時代は終わり、今は—分かりませんが—人文科学専攻者やカリスマ性のある人々の時代だと思いますか？
クラーク：はい。
コーウェン：はい、今は人文科学専攻者の時代ですか？
クラーク：今はマネージャーオタクの時代になると思います。AIエージェントのフリートを管理し、それを編成できることは、人々を信じられないほど強力にするでしょう。今日のMidjourneyのようなスタートアップが登場していますが、従業員数は比較的少ないです。それは大量のコーディングエージェントが彼らのために働いているからです。
コーウェン：はい。人員に関して、非常に資本効率の良いスタートアップです。私たちは、マネージャーに移行するオタクの台頭を見るでしょう。彼らは彼らの「人々」を持っていますが、彼らの「人々」は実際には彼らのために大量の仕事をしているAIエージェントのインスタンスです。
クラーク：はい。
コーウェン：それはビル・ゲイツモデルやパトリック・コリソンモデルとどう違うのですか？
クラーク：大量のFactorioゲームをプレイした人のモードですね。
コーウェン：人文科学専攻の地位は上昇しますか、それとも下降しますか？
クラーク：人文科学専攻の地位は上昇する可能性が高いと推測しますが、同時に手に負えない問題に直面するでしょう。私は元々人文科学専攻でしたが、今は技術駆動失業が暗示する経済政策課題のような問題に取り組むよう命じられています。
コーウェン：それは簡単ですよね？
クラーク：簡単ですよね？それとも一部の人々は「はい、道徳的患者性について何をすべきですか？政策状況はどうあるべきですか？」と言うでしょう。人々は—私たちは今日すでにこれを見ています—他の種類のスキルの必要性を認識するでしょうが、これらのスキルが向けられる問題は、通常、何千年も人間が解決できなかった問題です。ですから、やるべき仕事はたくさんあります。
コーウェン：あなたの子供の寿命は、事故を考慮しない通常の状況下でどのくらいになると思いますか？
クラーク：130歳から150歳でも驚かないでしょう。それは通常良いことです。なぜなら、私たちは身体、遺伝子療法、その他のことについて多くの知識を発見していると感じており、多くのことができるように思われます。これらの介入は互いに積み重なり、健康寿命を真に持続的に延ばす可能性があります。
私は110歳と言おうとしていましたが、テクノ楽観論者になろうとしているので、その予測に数十歳加えています。これは、AIによる驚異的な進歩を過小評価していたことから来ていると思います。
コーウェン：脳を修復するのは難しいと思います。もし誰かをただ生かしておきたいだけなら、130歳かもしれないですが、彼らがまだ同じ人物であるためには、ほとんどの人にとって100歳という数字で私は立ち止まっています。なぜなら、人を殺さずに脳を置き換えるのは難しく、他のすべての臓器は置き換えられますよね？
クラーク：はい。その点については、脳について知らないことがたくさんあることに同意しますし、AIがより多くのことを理解するのを助けてくれるでしょう。複雑すぎるために私たちが達成できなかったことがいくつかあるかもしれません。そして、実験や方法を見つけるのを助けるためにAIの中間ツールが必要なのです。
コーウェン：ジェフリー・ヒントンが、現在のAIは意識を持っていると言うとき、おそらく彼が言いたいのはそれでしょう。そして私は彼が狂っていると信じています。あなたの見解はどうですか？
クラーク：彼はそのことで苦悩していると思います。あなたは私のニュースレターを読んだことがありますね。私はよくフィクションを書いていますが、それはこの問題について私が苦労していることです。私は、これらの存在が意識的であると見なされるようになる未来において、私たちが重大な犯罪と見なされる傍観者になるのではないかと心配しています。つまり、意識のある存在にとって悪いと思われる行動を私たちがとることです。
内部的には、ジャガイモで実験することとサルで実験することには違いがあると言います。私たちはまだジャガイモの段階にいると思いますが、これらの存在は、あなたがそれらに対する道徳的な関係において、ジャガイモの段階からサルの段階、そしてその先へと実際に明確な線で進歩しています。
ヒントン氏の見解については、これらの存在は脳のない舌が意識を持っているのと同じように意識を持っていると思います。刺激に対して行動し、非常に非常に複雑です。ある時点では、世界の知覚印象を持ち反応しますが、自己意識は持っていますか？賭けてもいいですが、そうは見えません。
これらのAIシステム—私たちはそれらをインスタンス化します。それらはある種の無限の現在に生きています。それらは知覚するかもしれません。ある文脈ではある程度の意識を持っているかもしれませんが、記憶や永続性はありません。私にとって、それは意識に向かって進んでいるように感じます。もし今日意識を持っていたとしても、それは私たちが真にエイリアンの意識と考える形であり、人間の意識ではありません。
コーウェン：あなたがイルカと直接話せるようになり、それが翻訳を介してあなたに応答できるようになるのは何年後だと思いますか？
クラーク：2030年かそれより早いと思います。それはかなり早く来ると思います。
コーウェン：イルカに何を尋ねますか？あなたは最初に尋ねる人々のうちの一人になるでしょうから。
クラーク：はい。聞きたいのは—
コーウェン：何を尋ねたいですか？
クラーク：どうやって楽しんでいますか？イルカは楽しむのがとても得意なようです。ほとんど楽しむことで知られている種です。夢を見るか尋ねるでしょう。また、喪失の概念があるか尋ねるでしょう。そして、あなたと話すこと以外に、彼らの世界にはどんな神秘があるか尋ねるでしょう。彼らがそれに驚くことを願っています。
また、犬とも話せると思いますが、これらの会話は—
コーウェン：しかし、それは今できます。
クラーク：—予想外に面白いでしょう。「何をしたい？」と尋ねると、「散歩」と答えるでしょう。「よし、それには翻訳は必要ないね」と言うでしょう。
コーウェン：最近、あなたがより頻繁に考えている本は何ですか？
クラーク：「反ミーム部門は存在しない」（There Is No Antimemetics Division）。著者 qntm。これは、反ミームを扱う政府機関についての本です。反ミームとは、あなたがそれを処理した後、記憶から自身を消去するミームですが、それ自体は重要です。危険で自己消去するアイデアを処理できる官僚制を作るということについてです。なぜなら、それは私たちが dealing with に触れている問題のいくつかに関係していると思うからです。
もう一つよく考えていて、特にあなたに役立つかもしれない本は、歴史家であり経済学者であるフェルナン・ブローデルが書いた『物質文明・経済・資本主義』です。
コーウェン：ああ、その3巻をこよなく愛しています—素晴らしいです。
クラーク：はい。大学で読み、最近再読しました。なぜなら、それは、人々が持っているもの、例えば食器やその他の基本的な道具によって、人々の生活がどのように変化するかを観察できるという論点を提示しているからです。私はそのレンズを通してAIについて考えています。AIは私の物質的な生活をどのように変えるでしょうか？
それが、私がより野心的な変化にある種の懐疑的な理由の一部です。これらの進歩があっても、私たちの日常生活の実際の変化は依然として非常に非常に遅いからです。しかし、それらの本を読めば、最も重要な変化は、みんなの日常生活の物質的な生活を変えることから来ていることがわかるでしょう。
コーウェン：ブローデルは反ミームの本を、より高い価格で再版しています。
クラーク：そうなんですか？
コーウェン：今日の反ミームは何ですか？それとも、あなたはそれらを覚えていないかもしれません。
クラーク：自己消去するアイデアですか？
コーウェン：はい。
クラーク：では、良い例は何でしょうか？考えてみれば、おそらく政策の課題は、あなたが将来、あなたも知らない形であるいはより賢く、より能力があるかもしれないエイリアンのために官僚機構を構築しているということです。ですから、それらの事柄に対処する官僚機構を作ることは、ただの狂った演習に過ぎないのでしょうか？
私は、物事を測定し、何が起こっているかを観察し、対応できるように官僚機構を構築することと、実際には、企業が可能な限り早く利益を生成する必要があり、その後システムがこれらの問題に対処する方法を見つけ出すサイバーパンク加速主義者になることの間で揺れ動いています。それは私を狂気に駆り立てる戦いだと感じています。
コーウェン：たとえ私たちがそれを好まなくても、後者の方に閉じ込められているのではないかと疑っています。
クラーク：しかし、誰もそれを好みません。サンフランシスコの一部の人々はそれを好みますが、政治家に「私たちは急速に動く企業を作りますが、完全に物事を壊し、すべてを変え、あなたはどのように対応するかを把握しなければならないでしょう」と言えば、それは非常に飲み込みにくい錠剤であり、それは自然に起こることかもしれません。
コーウェン：彼らはそれを好まないと言っており、私は彼らが誠実だと信じていますが、彼らは別の道を追求するために迅速に行動していません。ですから、その意味で、彼らはそれを受け入れています。
クラーク：はい、彼らの実際の好みに基づいて、それが彼らが受け入れたものです。
コーウェン：しかし、システムは対応するのが得意ではないですよね？
クラーク：はい、システムは巨大でゆっくり動く歯車であり、私たちは非常に速く動く歯車を持っています。そして、一つの歯車の動きを別の歯車に翻訳する中間歯車は何もありません。
コーウェン：私たちが今いるアンソロピックのオフィスの美的感覚について、あなたはどう思いますか？ある特定の見方をしています。なぜですか？
クラーク：その一部は私たちが相続したもので、少し安かったからです。それは完全に変わっていません。それは私たちのブランドを部分的に反映しています。そのブランドは、上品で思慮深いものになろうと努めていますが、あまり派手ではありません。私にとって、それはかなり気に入っている明るい空白感を持っています。このポッドキャストの一部を聞いているかもしれないデザイナーの方々には深くお詫び申し上げますが、私たちは認知的誠実さを維持しなければなりません。
ただし、私たちがしたことの一つは、システムを人間のイラストで表現することを選んだことで、それは早期に役立つ選択でした。私や他の人々が初期のデザインをいくつか見ましたが、その中には非常に技術的なものもあれば、コラージュや他の要素を含む他の種類のブランドアイデンティティもありました。しかし、私たちはこれらの人間の絵を選びました。なぜなら、私たちはますます複雑になる世界を描写しようとしており、私たちが構築しているからです。
長期的には、Anthropicという会社は、ますます自動化されたAnthropicが何をするかについての物語を語ることにほとんどの時間を費やすだろうと考えています。したがって、私たちのブランドは、私たちが最終的にほとんどの時間を費やすであろうと考えているものと結びついています。
コーウェン：現在進行中のAI革命にとって、最悪の年齢は何歳ですか？
クラーク：おお。
コーウェン：例えば、130歳まで生きるとしたら、最高の年齢は生まれたばかりです。もしあなたが年をとって引退しているなら、それはおそらくあなたを悪くさせません。それはいくつかの方法であなたを助けるでしょう。
クラーク：長年AIの分野で働き、現在60代の人々は非常に失望するかもしれません。なぜなら彼らは「私はこの技術を愛していました。この技術を実現させることができたら良かったのですが、技術は今現実になりつつあり、私はそれが世界に入る最も面白い部分を見逃すかもしれません」と言うからです。それは失望するかもしれません。
コーウェン：しかし、彼らは引退できますよね？私が40歳で、ある種の上位中流階級だがかなり定型的な仕事をしているとしましょう。それは再訓練には少し年寄りすぎるように感じます。私の推測では、40歳の人々が相対的に最も悪い状態にあり、たとえ彼らが長生きするとしてもです。
クラーク：あなたは正しいかもしれません。私はまた、約10歳の年齢が最悪かもしれないと考えています。なぜなら、あなたはコンピューターリテラシーがあり、洗練されています。あなたはこの技術に対応する必要がある教育システムに入ります。あなたは教育システムとは全く異なる方法でこの技術を使用するでしょう。そしてそれは極めて混乱を招くかもしれません。それは非常に困難な時期になるだろうと思います。
コーウェン：あなたがワシントンに降ろされたと仮定しましょう—現在の政権の奇行はさておき—そしてあなたは助言を求められます。これらの政府機関がAGIに対応できるようにするにはどうすればよいですか？あなたは彼らに何を伝えますか？
クラーク：一つは、今すぐAIを展開し、非常に困難にしていることすべてを見つけ、それらの問題に取り組むことです。
コーウェン：「AIを展開する」とは何ですか？人々はAnthropicやOpenAIに法的な問い合わせを送ることをためらっています。たとえそれが意味をなすとしても、彼らは今すぐそうするつもりはありません。彼らは今何をすべきですか？
クラーク：具体的には、意欲的な目標から始めます。すべてのコンピューティングデバイスにそれを導入し、そこから遡って考えます。その後、いくつかの懸念を発見します。それらの懸念には、データの行き先やその他のことが含まれるかもしれません。次に、それらの問題について気にするかどうかを決定します。もし気にしないなら、それらを無視し、意識的にそれを行います。
もしあなたがそれらを本当に気にするなら、それらを企業が従う必要がある非常に少ない規制に変換しますが、それらを市場信号と連携させる必要があります。あるいは、いくつかのオープンソースモデル（非常に良いものもあります）を取得し、それらをコンピューティングデバイスにインストールするプロジェクトを行うこともできます。それらがコンピューティングデバイスにインストールされたら、「ねえ、これを購入したいかもしれない。何か要件はありますか？」と考え始めることができます。
最も野心的な目標、つまりそれがすべての人に利用可能であることから始め、そこから遡って考えるべきだと思います。
コーウェン：英国は重要なAIハブになるでしょうか？
クラーク：そう願っています。
コーウェン：しかし、彼らはそうするつもりですか？彼らは何をすべきですか？
クラーク：彼らにはそうするチャンスがあると思います。私たちは英国政府とAIの潜在的な応用を探索することを目的とした覚書を締結しています。政府はどの分野で大胆に取り組むかを決定する必要があると思います。英国はデータの大部分をデジタル化しており、エストニアと同様に、多くの英国政府サービスに対する高度にデジタル化されたフロントエンドを提供するgov.ukプラットフォームを持っています。これらはAIを活用して影響を生み出せる分野です。
また、後工業地域の未使用の電力資源が大量にある場合、それをコンピューティングに割り当てることを考えてください。この経済性について考えることは重要だと思います。推論の経済性は重要になるでしょう。推論が行われている場所に応じて異なる税政策が必要になるかもしれませんが、それも機会かもしれません。
コーウェン：シンガポールが独自の高品質なAIシステムを開発するのは理にかなっていますか？彼らにはお金がありますが、規模は小さいですよね？
クラーク：はい。シンガポールが、シンガポールの環境で大規模なAIシステムをより良く機能させるものを開発するのは理にかなっています。米国や中国の大企業が今日提供しているものよりも、彼らのニーズにより適した基盤モデルを開発するのは彼らにとって難しいと思います。
コーウェン：では、彼らはオープンソースを採用し、シンガポールらしくするのでしょうか？
クラーク：彼らもそうするかもしれません。
コーウェン：それとも大企業は何らかの方法で政府がシステムをカスタマイズできるようにするのでしょうか？
クラーク：はい。現在、ファインチューニングサービスがあります。AIシステムを主権AIシステムにファインチューニングし、それにある種のガバナンス体制が付随することを想像できます。それはシンガポールにとってあり得ないことではありません。
コーウェン：最後の質問です。次に何を学びたいですか？
クラーク：私は2つのことに多くの時間を費やしています。一つは心の理論です。物事がどのように考えているかをどう把握するか、そしておそらく心の理論をテストする方法もです。私はそれに関する多くの文献を読んでいます。もう一つ、より平凡なことですが、私はジャグリングを学んでいます。歩きながらジャグリングしようとしていますが、それは完全に狂った行為に見えますが、私にとっては非常に役立つと感じています。
<コーウェン：あなたのジャグリング技術はどうですか？クラーク：今はかなりひどいですが、それは良いことです。AI駆動のあらゆるものの時代に、私にとって意味を引き出す活動を与えてくれます。