シリコンバレーのAIビジョン?それは再パッケージ化された宗教の反響です

シガル・サミュエル著

出典: ヴォックス

画像ソース: Unbounded AI ツールによって生成

これは偶然ではありません。宗教とテクノロジーは何世紀にもわたって絡み合ってきました。

あなたが知っているように、10年後には世界が終わると言ったらどうなるでしょうか。あなたは病気、老化、死なしに天国で生きるでしょう。永遠の命はあなたのものになります！さらに良いことに、あなたの脳は不確実性から解放され、完璧な知識を得ることができます。あなたはもはや地上に囚われているのではなく、天国で生きることができるのです。

私がこのすべてを話したら、私を宗教の説教者か人工知能の研究者だと思うでしょうか?

どちらの推測も意味があります。

シリコンバレーでの人工知能に関する議論を聞けば聞くほど、宗教の反響が聞こえてきます。なぜなら、超知能機械の構築に対する興奮の多くは、宗教的思想の再利用から生じているからです。人工知能を構築している世俗的な技術者のほとんどは、このことに気づいていません。

これらの技術専門家は、私たちの考えをクラウドにアップロードすることで死を隠し、そこで私たちは永遠にデジタルで生きられるようにすることを提案しています。彼らは、人工知能を、何が最適で何が最適ではないかを数学的確実性を持って判断できる意思決定メカニズムであると説明しています。彼らは汎用人工知能（AGI）――多くの分野で人間の問題解決能力に匹敵する可能性がある仮説的なシステム――がうまく行けば人類の救いを保証できる試みとして構想しているが、うまくいかなかったとしても、それは結果をもたらす可能性がある。災害。

これらのビジョンは、「終末論」または人類の究極の運命に関係する神学の一部門であるキリスト教の終末論のビジョンとほぼ同じです。

キリスト教の終末論では、私たちは皆、「最後の4つのこと」、つまり死、裁き、天国か地獄に向かっていると教えられています。亡くなった人はキリストの再臨の時に復活し、永遠の運命を知ることになります。私たちの魂は、完璧な意思決定者である神の最終的な裁きに直面することになります。うまく行けば天国に昇りますが、うまくいかないと地獄に落ちます。

5 年前、私がシリコンバレーのカンファレンスに参加し始めたとき、宗教と人工知能のトピックの類似点に初めて気づき、簡単な心理学的説明を思いつきました。どちらも人間の中核的な不安、つまり死、自分が何をしているのか正しいのか間違っているのかを知ることの難しさ、人生の意味やこの宇宙、あるいは次の宇宙における私たちの最終的な位置が分からないことに対する反応です。宗教思想家と AI 思想家は、私たち全員を悩ませる質問に対して、似たような答えを偶然見つけました。

ですから、その関係がそれよりもずっと深いことに気づき、驚きました。

マンハッタン大学の宗教学教授で『黙示録』の著者であるロバート・ゲラシ氏は、「科学は価値中立であり、宗教などとは何の関係もないという人もいるが、宗教とテクノロジーは何世紀にもわたって絡み合ってきた」と語る。 AI「それはまったく真実ではありません。そんなことは一度もありません。」

実際、宗教思想の影響をたどる歴史家は、中世のキリスト教神学者からルネサンスの経験主義の父、未来学者のレイ・カーツワイル、そして彼の影響を受けたシリコンバレーのハイテク界の重鎮に至るまで、我々は一直線に描くことができると信じている。ライン。

時々、まだ漠然と類似点を感じている人もいます。人工知能セキュリティ企業アンスロピックの共同創設者ジャック・クラーク氏は3月、ツイッターで「人々のAGIに対する熱意は、世俗的な文化からくる見当違いの宗教的衝動ではないかと思うことがある」と書いた。

しかし、ChatGPT メーカー OpenAI の CEO であるサム アルトマン氏から、脳をコンピュータに接続したいと考えているイーロン マスク氏に至るまで、AGI を技術的終末論の一形態とみなす人々のほとんどは、世俗的な言葉で自分たちの考えを表現しています。彼らは、自分たちが推進するビジョンが古代の宗教思想と主に融合していることに気づいていないか、認めたくないのです。

しかし、これらのアイデアがどこから来たのかを知ることが重要です。これは、「宗教」が何らかの形で軽蔑的な言葉であるからではなく、考え方が宗教的であるからといって、その考え方に何か問題があるというわけではありません（多くの場合、その逆が当てはまります）。代わりに、私たちはこれらのアイデアの歴史を理解する必要があります。たとえば、救いの一形態としての仮想死後の世界や、技術の進歩として理解される道徳的進歩など、それらが不変または必然的なものではないことを理解する必要があります。これらのアイデアは特定の時期に提案されたものです。特定の目的のために時々存在しますが、私たちが望むなら他のものも存在します。一つの物語の危険に陥る必要はありません。

ロンドンのクイーン・メアリー大学で軍事用人工知能の倫理を研究している政治理論家エルケ・シュワルツ氏は、「私たちが受け入れる物語には注意しなければならない」と述べ、「私たちが何か宗教的なことについて話すときは、必ず何か神聖なことが関係している。神聖なものであれば、それのために最悪のことをする価値があるので、傷つくこともあります。」

人工知能の概念は常に非常に宗教的でした

西洋を形作ったアブラハムの宗教では、すべてが恥に遡ります。

創世記で何が起こったか覚えていますか？アダムとイブが知識の木の実を食べたとき、神は彼らをエデンの園から追放し、労働と痛み、誕生と死といった肉と血のあらゆる屈辱にさらしました。恵みから堕落した後、人類は決して同じではなくなりました。罪を犯す前、私たちは神の似姿に創造された完全な生き物でしたが、今では哀れな皮のようなものです。

しかし、歴史家デイビッド・ノーブルが著書『テクノロジーの宗教』で説明しているように、中世にはキリスト教の思想家たちが急進的な考えを提案した。もしテクノロジーが人類を堕落以前の完璧な状態に戻すのに役立つとしたらどうなるでしょうか?

例えば、9世紀の影響力のある哲学者ジョン・スコトゥス・エリウゲナは、アダムが神の似姿に造られたことの意味の一部は、彼が創造者、製作者であるということであると主張した。したがって、人類をアダムの堕落前の神のような完璧な状態に戻したいのであれば、私たちは自分自身のこの側面に近づけなければなりません。エリウゲナは、「機械芸術」（テクノロジーとしても知られる）は「人間と神とのつながりであり、その修養は人類を救う手段である」と書いている。

この考えは中世の修道院で生まれ、そこで「オラ・エ・ラボラ」（祈りと労働）というモットーが広まり始めました。いわゆる暗黒時代の間でさえ、これらの修道院のいくつかは工学の温床となり、既知では初となる潮力発電の水車や打楽器による掘削などの発明を生み出しました。カトリック教徒は革新者として知られるようになり、今日に至るまでエンジニアにはこの宗教の 4 人の守護聖人がいます。カトリック教会は中世のシリコンバレーだったという人もいますが、それには理由があります。2018 年の The Atlantic の記事で私が述べたように、「冶金、工場、楽譜から時計じかけや印刷」に至るまで、カトリック教会はすべてを備えています。教会は欠かせないものです。

これは技術のための研究でも、営利のための研究でもありません。それどころか、科学技術の進歩は道徳の進歩と同義です。人類を本来の完璧な状態に戻すことによって、私たちは神の王国を導くことができるのです。ノーブルはこう書いている。「テクノロジーは超越性の同義語となり、これまでにないほどキリスト教の救済の考えと結び付けられている」。

技術の進歩と道徳の進歩を同一視するという中世の考え方は、何世代にもわたるキリスト教思想家に影響を与え、現代まで続いています。バコン族の夫婦は、テクノロジーが救いをもたらすという同じ核となる信念が、宗教の伝統主義者や科学的世界観を採用する人々にどのような影響を与えるかを示しています。

13 世紀、錬金術師のロジャー ベーコンは聖書の預言からインスピレーションを得て、使徒パウロが述べたものと同様の復活を実現する不老不死の薬を作成しようとしました。ベーコンは、このエリクサーが人間を不死にするだけでなく、思考の速度で旅行するなどの魔法の能力も与えてくれることを期待している。 16世紀にはフランシス・ベーコンが登場します。表面的には、彼は前任者たちとは非常に異なっているように見えました - 彼は錬金術を非科学的であると考えて批判しました - しかし、彼は、私たちがいつかテクノロジーを使って死すべき運命を破り、「創造主に栄光をもたらし、人間の苦痛を軽減する」と予言しました。

ルネッサンスまでに、ヨーロッパ人は、私たちが神の似姿に自分自身を作り変え、徐々に不死を達成するだけでなく、無生物から意識を創造できることを大胆に夢見ていました。

シュワルツ氏は、「死に対する勝利を超えて、新しい生命を創造する可能性が究極の力である」と述べた。

キリスト教の技術者たちは、動き回って祈りを唱えることができる自動人形、つまり木製のロボットを作成しました。伝説によると、イスラム教徒は神託のように話す機械の頭を作りました。ユダヤ人の民間伝承には、ラビが魔法の言語の活用を使って粘土像 (「泥像」と呼ばれる) に命を吹き込むという物語があります。これらの物語では、土偶がユダヤ人を迫害から救うことがあります。しかし、ある時は土偶が裏切り者となり、人を殺し、物品を盗み、その力を悪事に利用することもあります。

はい、これはすべて非常によく知られているように思えます。同じ不安は、数学者で哲学者のノーバート・ウィーナーが人工知能のリスクについて書いた 1964 年の著書『God & Golem, Inc.』や、テクノロジー専門家によって現在公開されている多数の公開書簡の中でも聞くことができます。彼らは、AGI が私たちに救いをもたらすか、破滅をもたらすかだと警告しています。

これらの発言を読むと、次のように疑問に思うかもしれません。AGI が終末を脅かし、救いを約束するのであれば、そもそもなぜ私たちは AGI を作成するのでしょうか?より狭い形式の人工知能の作成に限定して、病気の治療などの用途ですでに驚異的な効果を発揮しているのに、しばらくはそれに固執してみてはいかがでしょうか。

それを知るために、私をもう少し歴史に遡って、最近の 3 つの絡み合った動きがシリコンバレーの人工知能に対するビジョンをどのように形作っているのかを理解し始めてください。

トランスヒューマニズム、効果的な利他主義、そして長期主義へ

多くの説明によれば、チャールズ・ダーウィンが 1859 年に進化論を発表したとき、すべての宗教思想家は即座に進化論を、神の最も敬虔な創造物である人類に対する恐るべき異端の脅威とみなしました。しかし、キリスト教思想家の中には、これを古代の霊的予言の派手な新しい衣装と見なす人もいます。結局のところ、宗教的な考えは実際に消えることはなく、ただ新しい服を着るだけです。

典型的な例は、20世紀初頭に古生物学も研究したフランスのイエズス会の司祭ピエール・テイヤール・ド・シャルダンです。彼は、テクノロジーによって推進される人類の進化は実際には神の王国の担い手であると信じており、人間と機械の統合は知性の爆発につながり、それを彼はオメガポイントと呼んでいます。私たちの意識は「超意識状態」に入り、神と融合して新しい種となります。

著者のメーガン・オギーブリンが2021年の著書『神、人間、動物、機械』の中で述べているように、進化生物学者のオルダス・ハクスリーは、英国人文主義協会と英国優生学協会の会長であり、人類はテクノロジーを利用して種を進化させるべきだというテイヤールの考えを広めた。それを「トランスヒューマニズム」と呼ぶ。

これは、未来学者のレイ・カーツワイルにも影響を与え、彼は基本的にテイヤールと同じ予測を立てました。つまり、私たちは人間の知能と機械の知能の統合の時代を迎えようとしており、人間の知能は非常に強力になるでしょう。しかし、カーツワイルはそれを「オメガポイント」と呼ぶ代わりに「特異点」と改名しました。

カーツワイルは、1999 年の全米ベストセラー『創意の時代』の中で、「人間と人間が生み出すコンピューティング テクノロジーは長年の問題を解決できるようになり、ポスト生物学的な未来では死の性質を変えるでしょう。」と書いています。新約聖書のヨハネの黙示録によれば、「死はもはや存在せず、悲しみも叫びも痛みもありません。以前のものは過ぎ去ったからです。」）

カーツワイルは、マルティーヌ・ロスブラットのテラセム運動からモルモン超人協会、そしてアンソニー・レヴァンドフスキーの短命に終わった「道」に至るまで、人工知能の崇拝や人工知能を使って人間を神性へと導くことを中心に、明示的に宗教運動を形成した人々と同様に、両者の精神的な類似点を認めている。未来の教会。しかし、オックスフォード大学の哲学者ニック・ボストロムのように、トランスヒューマニズムは宗教とは異なり、「批判的な理性と我々が持つ最良の科学的証拠」に依存していると主張する人も多い。

今日、トランスヒューマニズムには姉妹品があり、オックスフォードで生まれシリコンバレーで爆発的に広がっている別の運動である効果的利他主義 (EA) があり、その目標は、ほとんどの人にとって可能な限り最善のことを行う方法を見つけることです。効果的な利他主義者も、自分たちのアプローチは世俗的な理由と証拠に根ざしていると述べています。

しかし、効果的な利他主義は、実際には多くの点で宗教と同じです。機能的（道徳的生活の共通のビジョンを中心に構築されたグループをまとめます）、構造的（預言的指導者、古典的文書、祭り、儀式の階層があります）そして美的です。 （それは十分の一税を奨励し、禁欲主義を支持しました）。最も重要なことは、終末論を提供することです。

効果的な利他主義の終末論は、最も物議を醸す見解である長期主義の形で現れ、マスク氏はかつてそれを「私の哲学と非常に一致している」と述べた。同論文は、大部分の人々を助ける最善の方法は、人類が現在よりも数十億人も多く存在する可能性がある遠い将来（たとえば、今から数百万年後）まで確実に人類が生き残ることに焦点を当てることであると主張している――私たちの種が絶滅しないと仮定すると――初め。

ここから、技術者がなぜ AGI の構築に取り組んでいるのかという疑問に対する答えが得られ始めます。

道徳の進歩としての AI の進歩

効果的な利他主義者や長期主義者にとって、単に狭い AI を主張することは選択肢ではありません。オックスフォード大学の哲学者ウィル・マカスキルは、効果的な利他主義と長期主義の「気の進まない預言者」と呼ばれている。 2022 年の著書『What We Owe the Future』の中で、彼はテクノロジーの進歩の停滞が容認できないと考える理由を説明しています。 「停滞期は絶滅と永久的な崩壊のリスクを高める可能性がある」と同氏は書いた。

同氏は同僚のトビー・オード氏の言葉を引用し、不正AIや仕組まれた伝染病などのリスクにより、今後100年間に人類が滅亡する確率は6分の1であると推定している。 EAのもう一人の同僚、ホールデン・カーノフスキー氏も同様に、私たちは「歴史の転換点」または「最も重要な世紀」、つまり人類の歴史において、これまでにないほど繁栄するか、破滅を迎えるかの特別な時期に生きていると信じている。マカスキル氏もマスク氏と同様に、本の中で絶滅を回避する良い方法は、すべての卵を1つのかごに盛らないように他の惑星に植民地化することだと示唆している。

しかし、それはマカスキル氏の「宇宙移住に関する道徳的主張」の半分にすぎない。残りの半分は、将来の人類の文明を可能な限り大きく、理想的なものにするよう努めるべきであるということです。マカスキル氏のオックスフォード大学の同僚であるボストロム氏が言うように、「宇宙の植民地化」は、人間が永遠に幸せに暮らすことを可能にする膨大な数のデジタルシミュレーションを実行するためのスペースとリソースを私たちに与えてくれます。宇宙が広ければ広いほど、より多くの幸せな（デジタル）人間が存在します。これは、ほとんどの道徳的価値観が存在する場所です。地球上の現在ではなく、天国の将来にあります…申し訳ありませんが、私は「仮想死後の世界」のことを指しました。

これらすべてのアイデアをまとめて一般化すると、次の基本的な命題に到達します。

1. 人生が終わることはわかっているので、私たちには人生が終わるまであまり時間は残されていないかもしれません。
2. したがって、私たちは自分を救ってくれる何かに賭ける必要があります。
3. 賭け金が非常に高いので、十分に賭けて全力を尽くすべきです。

宗教を研究する人なら誰でも、これが何であるかすぐにわかります。それは終末論的な論理です。

トランスヒューマニスト、有能な利他主義者、長期主義者は、終わりが差し迫っており、テクノロジーの進歩が文明として進歩する最大のチャンスであるという見解を継承しています。この論理に基づいて行動する人にとって、AGI を追求することは簡単なことのように思えるかもしれません。彼らは、AGI が重大な実存的リスクをもたらすと信じていますが、AGI は人類を不安定な地球上の思春期（いつ終わるかも知れません！）から豊かな星間成人期（非常に多くの幸せな人々、多くの文明的価値観！）。もちろん、私たちは技術的に前進する必要があります。それは文明的に前進することを意味するからです。

しかし、これは理由と証拠に基づいているのでしょうか?それとも教義に基づいているのでしょうか？

ここでの根底にある前提は技術的決定論であり、地政学が少し混じっています。その考えは、たとえあなたや私が恐ろしいほど強力な AI を開発しなくても、他の誰かかどこかの国がそれを開発するだろうということです。では、なぜ私たちが関与するのをやめるのでしょうか? OpenAI の Altman 氏は、テクノロジーは前進しなければならないという信念を体現しています。彼は 2017 年に自身のブログに「まず私たち自身を破壊しない限り、超人的な人工知能が出現するでしょう。」と書いています。 「私たちが学んだように、科学の進歩は、物理法則がそれを止めなければ、最終的には起こります。」

私たちは学んだでしょうか？発明できるものは今後も発明されるという証拠は見当たりません。 （人工知能の影響の主任研究員カチャ・グレースは次のように書いている。「あなたの目にクソを吐き出す機械を考えてみてください。技術的にはそれが可能ですが、おそらく誰もそのような機械を作ったことはありません。」）人々は、よりそうする傾向があるようです。強い経済的、社会的、またはイデオロギー的な圧力に駆られてイノベーションを追求する。

シリコンバレーでの AGI ブームのさなか、トランスヒューマニズム、効果的な利他主義、長期主義を装った宗教的思想の再発明によって、社会的およびイデオロギー的な圧力が加えられています。経済的および収益性へのプレッシャーに関しては、シリコンバレーでは常に存在します。

５月のロイター世論調査によると、現在アメリカ人の６１％が人工知能が人類文明を脅かす可能性があると信じており、この考えは特に福音派キリスト教徒の間で強い。宗教学者のゲラーチ氏にとって、これは驚くべきことではない。同氏は、終末論的な論理が「アメリカのプロテスタントキリスト教において非常に、非常に、非常に強力」であると指摘し、現在、アメリカ成人の10人に4人が、人類は終末に生きていると信じていると述べた。

残念なことに、終末論的な論理はしばしば危険な狂信を生み出します。中世、偽救世主が現れると、人々は世俗の財産を捨てて預言者に従いました。今日、AI の終末についての話がメディアに溢れる中、真の信者たちは AI の安全性を研究するために大学を中退しています。黙示録か救済か、天国か地獄かという論理は、人々を大きなリスクを負わせ、それに身を投じさせるのです。

昨年の私とのインタビューで、マカスキル氏は極端なギャンブル行為を否定した。彼は、想像の中で、シリコンバレーのある種のテクノロジー兄弟は、AGI 災害で死亡する確率は 5%、AGI が幸福なユートピアをもたらす確率は 10% であると信じており、彼らは喜んでそうするだろうと私に語った。急いで AGI を構築してください。

「倫理的な問題に無反応なため、このような人々にはAGIを構築してほしくないのです。おそらくそれは、シンギュラリティをより安全にするためにシンギュラリティを遅らせる必要があることを意味します。おそらくそれは、シンギュラリティが進行しないことを意味します」とマカスキル氏は私に語った。私の生きているうちにそうなるとは、多大な犠牲を払うことになるだろう。」

マカスキルが私にこのことを言ったとき、私はモーセが約束の地を眺めながらも、そこに到達できないことを知っている姿を想像しました。長期主義者のビジョンは、彼に残酷な信念を持つことを要求しているようでした。あなた個人は救われませんが、あなたの霊的な子孫は救われるのです。

これが私たちが望む救いなのかどうかを決める必要があります

テクノロジーが人類の運命を根本的に改善できると信じること自体は何も間違ってはいません。多くの点で、それは明らかです。

2 つの博士号を取得し、ヴィラノバ大学で神学の教授を務めるイリア・デリオ氏は、「テクノロジーは問題ではありません。実際、私たちはすでにホモ・サピエンスから移行し、新たな進化段階に入っていると確信していました」と語った。 「テクノロジーのホモ・サピエンス」への見解は満足です。彼女は、私たちはオープンな心でテクノロジーの助けを借りて積極的に進化すべきだと信じています。

しかし彼女はまた、「目的と倫理を持ってテクノロジーを開発できるように」、どのような価値観がテクノロジーに影響を与えるかを明確にする必要があることも理解していると述べた。そうでなければ、「テクノロジーは盲目であり、潜在的に危険である」。

ゲラシ氏も同意する。 「シリコンバレーの多くの人が、『このテクノロジーを支持します。それは私を不死にするからです』と言ったら、ちょっと怖いでしょう。でも、もし誰かが『私はこのテクノロジーを支持します』と言ったら、なぜなら、それを使えば世界の飢餓を解決できると思うからです」 - これら 2 つはまったく異なる動機です。それは、デザインしようとしている製品の種類、デザインの対象となる人々、そしてデザインしようとしている人々に影響を与えます。それが世界でどのように展開されているかを自分の周りに置くことです。」

テクノロジーの価値を慎重に決定する一方で、誰が決定権を持っているかをしっかりと認識する必要があります。シュワルツ氏は、AIの設計者はAIがもたらす必要な技術的進歩のビジョンを私たちに売り込み、自らをその唯一の専門家として任命しており、それが彼らに巨大な権力を与えている、おそらく民主的に選ばれた人々よりも大きな権力を持っていると信じている。

「人工知能の開発は自然法則であるという考えが秩序原理となり、その秩序原理は政治的なものとなる。それは一部の人々に政治的権力を与え、その他のほとんどの人々にははるかに少ない権力を与える」とシュワルツ氏は述べた。 「『AGIは必要ない、議論の一部ではない』と言うのではなく、『AGIには細心の注意を払わなければならない』と言うのは、私にとって奇妙だ。しかし、我々は権力が問題になる地点に達した。平等ではない方法で扱われているということは、私たちに選択肢が与えられる方法が強固なものとなり、AGIを追求すべきではないと集団的に推奨することさえできるのです。」

私たちがここまで到達できたのは主に、過去 1000 年にわたり、西洋が単一の物語、つまり技術の進歩と道徳を同一視する中世の宗教思想家から受け継いだ物語に陥る危険にさらされてきたためです。

「これは私たちが持っている唯一の物語です。その物語は、私たちを技術専門家（過去には精神的な権威でもありました）に聞き、その価値観と前提を彼らの製品に組み込むように導きます。」とデリオ氏は言います。

「代替案は何でしょうか？もし代替案が『生きて生きること自体が目標』だったら、テクノロジーに対する私たちの期待はまったく違ったものになるかもしれません。」「しかし、私たちにはそのような物語はありません！私たちの主流の物語は、創造し、発明し、作り、そしてそれらが私たちを変えてくれるのです。」

私たちはどのような救いを望むのかを決める必要があります。人工知能に対する私たちの熱意が、地球の限界と肉体の死を超越するというビジョンから来ているのであれば、それは社会的な影響をもたらすでしょう。しかし、テクノロジーを使用して世界とこれらの身体の幸福を改善することに尽力すれば、異なる結果を達成することができます。ノーブル氏が言うように、私たちは「自分たちの驚くべき能力を、より世俗的で人道的な目的に向け始める」ことができるのです。