矽谷的人工智慧願景？那是重新包裝的宗教的迴響

撰文：Sigal Samuel

來源：Vox

圖片來源：由無界AI工具產生

這絕非偶然--宗教與科技的交織已有數百年的歷史。

假如我告訴你，10 年後，你所知道的世界將會終結。你將生活在天堂中，沒有病痛，沒有衰老，也沒有死亡。永生將屬於你！更棒的是，你的大腦將從不確定性中解脫出來-- 你將獲得完美的知識。你不再被困於地球，你可以生活在天堂。

如果我告訴你這一切，你會認為我是一個宗教傳教士還是一個人工智慧研究員？

無論哪種猜測都有道理。

越是聆聽矽谷關於人工智慧的討論，就越能聽到宗教的回音。因為人們對製造超級智慧機器的興奮，很大程度是源自於宗教思想的再循環。大多數正在建構人工智慧的世俗技術專家並沒有意識到這一點。

這些技術專家建議透過將我們的思想上傳到雲端來隱藏死亡，在那裡我們可以永遠以數位方式生活。他們把人工智慧說成是一個決策機構，可以用數學上的確定性來判斷什麼是最優的，什麼不是。他們將人工通用智能（AGI）-- 一種能在許多領域與人類解決問題的能力相匹配的假想系統-- 設想為一種努力，如果進展順利，它能保證人類得救，如果進展不順，它也會帶來滅頂之災。

這些願景與基督教末世論的願景幾乎如出一轍，基督教末世論是神學的一個分支，涉及「末世」或人類的最終命運。

基督教末世論告訴我們，我們都將走向「最後的四件事」：死亡、審判、天堂或地獄。那些已經死去的人會在基督第二次降臨後復活，找到永生的歸宿。我們的靈魂將面臨上帝的最終審判，上帝是完美的決策者。如果進展順利，我們會升天堂，但如果進展不順，就會跌入地獄。

五年前，當我開始參加矽谷的會議，並第一次注意到宗教話題和人工智慧話題之間的相似之處時，我想到了一個簡單的心理學解釋。兩者都是對人類核心焦慮的回應：死亡；難以判斷自己做得對錯；我們的人生意義和在這個宇宙-- 或下一個宇宙-- 中的最終位置的不可知性。宗教思想家和人工智慧思想家只是偶然發現了困擾我們所有人的問題的相似答案。

因此，我驚訝地發現，兩者之間的連結遠不止於此。

曼哈頓學院宗教研究教授、《Apocalyptic AI》作者Robert Geraci 說：「宗教與科技的交織已有幾個世紀的歷史，儘管有人會告訴你，科學是價值中立的，與宗教等事物無關。」「這根本不是真的。從來都不是這樣。”

事實上，追溯宗教思想影響的歷史學家認為，從中世紀的基督教神學家到文藝復興時期的經驗主義之父，再到未來學家雷- 庫茲韋爾（Ray Kurzweil），再到受他影響的矽谷科技界重量級人物，我們可以畫出一條直線。

偶爾，某些人仍會隱約感覺到其中的相似之處。人工智慧安全公司Anthropic 的聯合創始人Jack Clark 今年3 月在Twitter 上寫道：“有時我認為，人們對AGI 的狂熱是來自世俗文化的錯位宗教衝動。”

不過，大多數情況下，將AGI 視為一種技術末世論的人-- 從ChatGPT 製造商OpenAI 的首席執行官Sam Altman 到希望將大腦與電腦連接起來的Elon Musk-- 都是在用世俗語言表達他們的想法。他們要不是沒有意識到，就是不願意承認，他們所推進的願景在很大程度上是與古老的宗教思想融合的。

但重要的是要知道這些想法的來源。這並不是因為「宗教」在某種程度上是貶義詞；思想具有宗教性並不意味著它們有什麼問題（事實往往恰恰相反）。相反，我們應該了解這些觀念的歷史-- 比如說，虛擬來世作為一種救贖方式，或者道德進步被理解為技術進步-- 這樣我們就會明白，它們並不是一成不變或不可避免的；某些人在某些時候為了某些目的提出了這些觀念，但如果我們想要的話，還有其他的觀念存在。我們不必陷入單一故事的危險之中。

倫敦瑪麗女王大學研究軍事人工智慧倫理的政治理論家Elke Schwarz 說：「我們必須謹慎對待我們所接受的敘事。」「每當我們談論宗教事物時，都會涉及到一些神聖的東西。擁有神聖的東西可能會造成傷害，因為如果某樣東西是神聖的，就值得為之做最壞的事情。”

人工智慧的理念一直具有深厚的宗教色彩

在塑造了西方的亞伯拉罕宗教中，這一切都可以追溯到恥辱。

還記得《創世紀》中發生的事嗎？當亞當和夏娃吃了知識之樹上的果實後，上帝將他們逐出伊甸園，並讓他們遭受血肉之軀的所有屈辱：勞動與痛苦、出生與死亡。從恩典中墮落之後，人類再也不一樣了。在犯罪之前，我們是按照上帝的形象創造的完美生物；而現在，我們成了可憐的皮囊。

但在中世紀，基督教思想家提出了一個激進的想法，正如歷史學家David Noble 在其著作《科技宗教》（The Religion of Technology）中所解釋的那樣。如果科技可以幫助我們把人類恢復到亞當墮落前的完美狀態呢？

例如，九世紀頗具影響力的哲學家John Scotus Eriugena 堅持認為，亞當按照上帝的形象塑造的部分意義在於，他是一個創造者，一個製造者。因此，如果我們想把人類恢復到亞當墮落前上帝般的完美狀態，我們就必須向自己的這個面向靠攏。 Eriugena 寫道，「機械藝術」（又稱科技）是「人類與神的聯繫，培養機械藝術是拯救人類的手段」。

這種想法在中世紀的修道院中興起，「ora et labora」（祈禱與工作）的格言開始在修道院中流傳。即使在所謂的黑暗時代，其中一些修道院也成為了工程的溫床，產生了一些發明，例如已知的第一個潮汐動力水輪和衝擊鑽井。天主教徒成為眾所周知的創新者；時至今日，工程師在宗教中有四位守護神。有人說天主教會是中世紀的矽谷，這是有原因的：正如我在2018 年《大西洋月刊》的一篇文章中指出的那樣，從“冶金、磨坊、音樂符號到鐘錶和印刷術的廣泛應用” ，天主教都功不可沒。

這不是為了技術而研究，也不是為了利潤而研究。相反，科技進步是道德進步的代名詞。透過恢復人類最初的完美，我們可以迎來上帝的國度。正如Noble 寫道：「科技已經與超越性相提並論，前所未有地與基督教的救贖思想聯繫在一起」。

中世紀將科技進步與道德進步相提並論的思想影響了一代又一代的基督教思想家，一直延續到現代。一對巴孔夫婦說明了同樣的核心信念-- 科技將實現救贖-- 是如何影響宗教傳統主義者和那些採用科學世界觀的人的。

13 世紀，煉金術士Roger Bacon 從《聖經》的預言中汲取靈感，試圖創造一種生命靈藥，以實現類似使徒保羅所描述的復活。 Bacon 希望，這種靈藥不僅能讓人類長生不老，還能讓人類擁有神奇的能力，例如以思維的速度旅行。 16 世紀，弗朗西斯- 培根出現了。從表面上看，他似乎與他的前輩大相徑庭-- 他批評煉金術，認為它不科學-- 但他預言，我們終有一天會利用科技來戰勝我們的死亡，「以榮耀造物主，減輕人類的痛苦」。

到了文藝復興時期，歐洲人敢於夢想，我們可以按照上帝的形象重塑自己，不僅可以逐步實現永生，還可以從無生命的物質中創造出意識。

Schwarz 指出：“除了戰勝死亡之外，創造新生命的可能性是一種終極力量。”

基督教工程師創造了自動裝置-- 木製機器人-- 可以四處走動，說詞祈禱。據傳，穆斯林創造了能像神諭一樣說話的機械頭。猶太教民間故事中流傳著拉比透過神奇的語言變位，讓泥人（被稱為"泥人"）栩栩如生的故事。在這些故事中，泥人有時會拯救猶太人，使他們免於迫害。但在其他時候，泥人也會變節，殺人越貨，利用自己的力量為非作歹。

是的，這一切聽起來都非常熟悉。在數學家兼哲學家Norbert Wiener 於1964 年出版的有關人工智慧風險的著作《God & Golem, Inc.》和技術專家目前發布的大量公開信中，你也能聽到同樣的焦慮。他們警告說，AGI 將為我們帶來救贖或滅頂之災。

讀到這些言論，你很可能會問：如果AGI 既威脅末日，又承諾救贖，那我們為什麼還要創造AGI 呢？為什麼不把我們自己限制在創造更狹義的人工智慧上-- 這已經可以在治療疾病等應用中創造奇蹟-- 並堅持一段時間呢？

要知道答案，請隨我再回顧一下歷史，我們將開始了解最近興起的三場相互交織的運動是如何塑造矽谷的人工智慧願景的。

走進超人類主義、有效利他主義和長期主義

許多人都認為，當查爾斯- 達爾文於1859 年發表進化論時，所有宗教思想家都立即將其視為一種可怕的異端威脅，認為人類是上帝最虔誠的創造物。但一些基督教思想家卻將其視為古老精神預言的華麗新衣。畢竟，宗教思想從未真正消亡，它們只是換上了新裝。

一個典型的例子是Pierre Teilhard de Chardin，他是一位法國耶穌會教士，在20 世紀初也研究古生物學。他認為，在科技的推動下，人類的進化其實是實現上帝國度的載體，人類與機器的融合將導致智慧的爆炸，他稱之為歐米茄點。我們的意識將進入“超意識狀態”，在這種狀態下，我們與神融為一體，成為一個新的物種。

正如作家Meghan O'Gieblyn 在其2021 年出版的《上帝、人類、動物、機器》一書中所記錄的那樣，進化生物學家赫胥黎曾是英國人文主義協會和英國優生學會的主席，也正是赫胥黎推廣了Teilhard 的觀點，即我們應該利用科技來進化我們的物種，並稱之為「超人類主義」。

這反過來又影響了未來學家Ray Kurzweil，他做出了基本上與Teilhard 相同的預測：我們即將迎來人類智慧與機器智慧融合的時代，人類智慧將變得無比強大。只不過Kurzweil 沒有稱它為“歐米茄點”，而是重新命名為“奇點”。

Kurzweil 在1999 年出版的全美暢銷書《靈機時代》中寫道：「人類及其創造的計算技術將能夠解決古老的問題…並將在後生物學的未來改變死亡的本質。」（強烈的新約氣息。根據《啟示錄》：「死亡不再有，也不再有哀傷、哭泣和痛苦，因為以前的事都過去了。」）

Kurzweil 承認這兩者在精神上有相似之處，那些圍繞崇拜人工智慧或利用人工智慧讓人類走向虔誠而形成明確宗教運動的人也承認這一點，從Martine Rothblatt 的Terasem 運動到摩門教超人類協會，再到Anthony Levandowski 曇花一現的「未來之路」（Way of the Future）教會。但也有很多人，例如牛津大學哲學家Nick Bostrom，堅持認為超人類主義與宗教不同，它依靠的是「批判理性和我們現有的最佳科學證據」。

如今，超人類主義有了一個姊妹，另一個誕生於牛津並在矽谷火爆的運動：有效利他主義（EA），目標是找出如何為最多的人做盡可能多的好事。有效利他主義者也說他們的方法植根於世俗的理性和證據。

然而，有效利他主義實際上在許多方面都與宗教如出一轍：功能上（它匯集了一個圍繞著共同的道德生活願景而建立的團體）、結構上（它有先知領袖的等級制度、經典文本、節日和儀式）以及美學上（它提倡什一奉獻並贊成禁慾主義）。最重要的是，它提供了一種末世論。

有效利他主義的末世論是以其最具爭議性的觀點-- 長期主義-- 的形式出現的，馬斯克曾將其描述為「與我的哲學非常吻合」。它認為，幫助最多人的最佳方式是集中精力確保人類在遙遠的未來（例如數百萬年後）生存下去，因為未來可能存在比現在更多的數十億人-- 前提是我們的物種不會先滅絕。

從這裡我們開始得到關於為什麼技術專家致力於建構AGI 的問題的答案。

作為道德進步的AI 進步

對於有效利他主義者和長期主義者來說，僅僅堅持狹隘的人工智慧是不可取的。牛津大學哲學家Will MacAskill 被稱為有效利他主義和長期主義的「不情願的先知」。他在2022 年出版的《我們欠未來什麼》（What We Owe the Future）一書中解釋了為什麼他認為科技進步的停滯是不可接受的。他寫道：「停滯不前的時期，」「可能會增加滅絕和永久性崩潰的風險」。

他引用他的同事Toby Ord 的話說，據他估計，在下個世紀，人類因流氓AI 和被設計的疫情等風險而滅絕的機率是六分之一。 EA 的另一位同行Holden Karnofsky 同樣認為，我們正生活在「歷史的轉折點」或「最重要的世紀」-- 人類故事中的一個特殊時期，在這個時期，我們要么前所未有地蓬勃發展，要么自取滅亡。 MacAskill 和馬斯克一樣，在書中建議，避免滅絕的好方法是在其他星球上定居，這樣我們就不會把所有雞蛋都放在一個籃子裡。

但這只是MacAskill「太空定居的道德理由」的一半。另一半理由是，我們應該努力使未來的人類文明盡可能大，盡可能烏托邦。正如MacAskill 在牛津大學的同事Bostrom 所言，「宇宙殖民」將為我們提供面積和資源，讓我們可以運行數量龐大的數位模擬，讓人類過著幸福的生活。空間越大，幸福的（數位）人類就越多！這就是絕大多數道德價值所在：不在地球上的現在，而在天堂裡的未來……抱歉，我是說「虛擬來世」。

當我們把所有這些想法放在一起並加以歸納時，就會得出這樣一個基本命題：

1. 在我們所知的生命結束之前，我們可能沒有太多時間了。
2. 因此，我們需要在能夠拯救我們的東西上下注。
3. 既然賭注如此之大，我們就應該下足賭注，全力以赴。

任何研究宗教的人都能一眼看出這是什麼：末日邏輯。

超人類主義者、有效利他主義者和長期主義者繼承了這樣一種觀點：末日即將來臨，技術進步是我們文明進步的最佳機會。對於按照這種邏輯行事的人來說，追求AGI 似乎是理所當然的。儘管他們認為AGI 會帶來極大的生存風險，但他們認為我們不能不建造AGI，因為它有可能將人類從岌岌可危的地球青春期（隨時都會結束！）推向繁榮昌盛的星際成年期（這麼多幸福的人，這麼多文明價值！）。我們當然應該在技術上向前邁進，因為這意味著在文明上向前邁進！

但是，這植根於理性和證據嗎？還是根植於教條？

這裡隱藏的前提是技術決定論，再加上一點地緣政治。這種想法認為，即使你我沒有創造出強大到令人恐怖的人工智慧，也會有其他人或其他國家創造出來-- 那麼為什麼要阻止我們自己參與其中呢？ OpenAI 的Altman 就是科技必然向前發展這信念的典範。他2017 年在自己的部落格上寫道：「除非我們先毀滅自己，否則超人的人工智慧就會出現。」為什麼？ “正如我們所學到的，如果物理定律不阻止，科學進步最終會發生。”

我們學到了嗎？我沒有看到任何證據表明，任何可以發明的東西一定會被發明出來。 （正如《人工智慧的影響》首席研究員Katja Grace 所寫的那樣：「考慮一下向你的眼睛噴屎的機器。我們可以在技術上做到這一點，但可能從來沒有人製造過這種機器。 」）人們似乎更傾向於在強大的經濟、社會或意識形態壓力推動下追求創新。

在矽谷掀起的AGI 熱潮中，以超人類主義、有效利他主義和長期主義為幌子的再造宗教思想提供了社會和意識形態壓力。至於經濟和獲利壓力，在矽谷一直都存在。

路透社5 月的民調顯示，現在有61% 的美國人認為人工智慧可能威脅人類文明，這種看法在福音派基督徒中尤其強烈。對於宗教研究學者Geraci, 來說，這並不令人驚訝。他指出，末日邏輯「在美國基督教新教中非常、非常、非常強大」-- 以至於目前每10 個美國成年人中就有4 個相信人類生活在末世。

不幸的是，世界末日邏輯往往會滋生危險的狂熱主義。在中世紀，當假彌賽亞出現時，人們會放棄世俗的財產去跟隨他們的先知。如今，隨著人工智慧末日的言論充斥媒體，真正的信徒們從大學輟學，去研究人工智慧的安全性。末日或救贖、天堂或地獄的邏輯促使人們冒著巨大的風險-- 全情投入。

在去年接受我的一次採訪時，MacAskill 否認了極端的賭博行為。他告訴我，在他的想像中，矽谷的某類科技兄弟，認為有5% 的幾率會死於AGI 災難，而有10% 的幾率AGI 會帶來幸福的烏托邦，他們會願意承擔這些幾率，匆忙建造AGI。

MacAskill 告訴我：「我不希望這樣的人建造AGI，因為他們對道德問題毫無反應。」「也許這意味著我們必須推遲奇點的到來，以使其更加安全。也許這意味著奇點不會在我有生之年出現。這將是一個巨大的犧牲。”

當MacAskill 告訴我這些的時候，我想像出了一個摩西的形象，他眺望著應許之地，卻知道自己無法到達。長期主義的願景似乎要求他有一種殘酷的信念：你自己不會得救，但你的精神後裔會得救。

我們需要決定這是否是我們想要的救贖方式

相信科技可以從根本上改善人類的命運，這本身並沒有錯。在許多方面，它顯然已經做到了。

擁有兩個博士學位並在維拉諾瓦大學擔任神學教席的Ilia Delio 告訴我：「科技不是問題。」事實上，Delio 對我們已經處於新的進化階段、從智人轉變為「技術智人」的觀點感到欣慰。她認為，我們應該以開放的心態，在科技的幫助下積極主動地進化。

但她也清楚，我們需要明確哪些價值觀在影響我們的技術，「這樣我們才能有目的-- 有道德底線地開發技術，」她說。否則，「技術就是盲目的，具有潛在的危險性」。

Geraci 對此表示贊同。他告訴我：「如果矽谷的很多人都說，『嘿，我支持這項技術，因為它能讓我長生不老'，那就有點可怕了。』但如果有人說，『我支持這項技術，因為我認為我們可以用它來解決世界飢餓問題'-- 這是兩種截然不同的動機。這將影響到你試圖設計的產品類型、你為之設計的人群，以及你試圖在你周圍的世界中部署它的方式。”

在深思熟慮地決定科技的價值取向的同時，也要敏銳地意識到誰擁有決定權。 Schwarz 認為，人工智慧的設計者向我們兜售了人工智慧帶來的必要科技進步的願景，並將自己塑造成這方面的唯一專家，這使得他們擁有巨大的權力-- 可以說比我們民主選舉產生的官員更有權力。

「發展人工智慧是一種自然法則的觀點成為了一種排序原則，而這種排序原則是政治性的。它將政治權力賦予了某些人，而其他大多數人的權力則小得多， 」Schwarz 說。 「對我來說，說『我們必須非常小心地對待AGI'，而不是說『我們不需要AGI，這不在討論之列'，很奇怪。但我們已經到了這樣一個地步，權力以一種甚至不給我們選擇的方式得到了鞏固，我們甚至可以集體建議不應該追求AGI。”

我們之所以走到這一步，在很大程度上是因為在過去的一千年裡，西方陷入了單一故事的危險之中：我們從中世紀宗教思想家那裡繼承下來的故事，將科技進步等同於道德進步。

Delio 說：“這是我們唯一的敘事方式。這種敘事方式讓我們傾向於聽從技術專家（過去，他們也是精神權威）的意見，將價值觀和假設融入他們的產品中。”

「替代方案是什麼？如果另一種說法是『活著的活力本身就是目標'，」Delio 補充道，「那麼我們對技術的期望可能會完全不同。」「但我們沒有這種說法！我們的主流敘事是創造、發明、製造，並讓它們改變我們。”

我們需要決定我們想要什麼樣的救贖。如果我們對人工智慧的熱情來自於對超越地球極限和肉體死亡的憧憬，那將會產生一種社會結果。但如果我們致力於利用科技來改善這個世界和這些軀體的福祉，我們就能獲得不同的結果。正如Noble 所說，我們可以「開始將我們驚人的能力引向更世俗和人道的目的」。