Nguồn hình ảnh: được tạo bởi công cụ AI không giới hạn
Đây không phải là ngẫu nhiên - tôn giáo và công nghệ đã gắn bó với nhau trong nhiều thế kỷ.
Điều gì sẽ xảy ra nếu tôi nói với bạn rằng 10 năm nữa thế giới mà bạn biết sẽ kết thúc. Bạn sẽ sống trên thiên đàng không có bệnh tật, già nua hay chết chóc. Cuộc sống vĩnh cửu sẽ là của bạn! Thậm chí tốt hơn nữa, bộ não của bạn sẽ được giải phóng khỏi sự bất an - và bạn sẽ có được kiến thức hoàn hảo. Bạn không còn bị mắc kẹt trên trái đất nữa, bạn có thể sống trên thiên đường.
Nếu tôi nói với bạn tất cả những điều này, bạn sẽ nghĩ tôi là một nhà truyền giáo tôn giáo hay một nhà nghiên cứu trí tuệ nhân tạo?
Hoặc đoán có ý nghĩa.
Càng nghe những cuộc thảo luận về trí tuệ nhân tạo ở Thung lũng Silicon, bạn càng nghe thấy tiếng vang của tôn giáo. Bởi vì phần lớn sự phấn khích về việc chế tạo những cỗ máy siêu thông minh bắt nguồn từ việc tái sử dụng các ý tưởng tôn giáo. Hầu hết các nhà công nghệ thế tục đang xây dựng trí tuệ nhân tạo đều không nhận ra điều này.
Các chuyên gia công nghệ này đề xuất che giấu cái chết bằng cách tải suy nghĩ của chúng ta lên đám mây, nơi chúng ta có thể sống mãi mãi bằng kỹ thuật số. Họ mô tả trí tuệ nhân tạo như một cơ chế ra quyết định có thể xác định một cách chắc chắn về mặt toán học điều gì là tối ưu và điều gì không. Họ hình dung trí thông minh nhân tạo tổng hợp (AGI) - một hệ thống giả thuyết có thể phù hợp với khả năng giải quyết vấn đề của con người trong nhiều lĩnh vực - là một nỗ lực có thể đảm bảo sự cứu rỗi cho nhân loại nếu mọi việc suôn sẻ, và nếu không, nó cũng có thể mang lại tai họa.
Những tầm nhìn này gần giống với những tầm nhìn về cánh chung của Cơ đốc giáo, một nhánh thần học liên quan đến "cánh chung" hay vận mệnh cuối cùng của nhân loại.
Ngày tận thế của Cơ đốc giáo cho chúng ta biết rằng tất cả chúng ta đều hướng tới “bốn điều cuối cùng”: cái chết, sự phán xét, thiên đường hay địa ngục. Những người đã chết sẽ được phục sinh vào Ngày Tái Lâm của Đấng Ky Tô và sẽ tìm thấy số phận vĩnh cửu. Linh hồn chúng ta sẽ phải đối mặt với sự phán xét cuối cùng của Thiên Chúa, Đấng đưa ra quyết định hoàn hảo. Nếu mọi việc suôn sẻ, chúng ta sẽ lên thiên đường, nhưng nếu mọi việc không suôn sẻ, chúng ta sẽ rơi vào địa ngục.
Năm năm trước, khi tôi bắt đầu tham dự các hội nghị ở Thung lũng Silicon và lần đầu tiên nhận thấy sự tương đồng giữa chủ đề tôn giáo và trí tuệ nhân tạo, tôi đã nghĩ ra một cách giải thích tâm lý đơn giản. Cả hai đều là phản ứng trước những lo lắng cốt lõi của con người: cái chết; khó khăn trong việc biết mình đang làm đúng hay sai; sự không thể biết được ý nghĩa cuộc sống và vị trí cuối cùng của chúng ta trong vũ trụ này - hoặc vũ trụ tiếp theo. Các nhà tư tưởng tôn giáo và các nhà tư tưởng AI vừa tình cờ tìm ra những câu trả lời tương tự cho những câu hỏi khiến tất cả chúng ta lo lắng.
Vì vậy, tôi rất ngạc nhiên khi thấy rằng mối liên hệ còn sâu sắc hơn thế nhiều.
Robert Geraci, giáo sư nghiên cứu tôn giáo tại Đại học Manhattan và là tác giả cuốn sách “Apocalyptic” cho biết: “Tôn giáo và công nghệ đã gắn bó với nhau trong nhiều thế kỷ, mặc dù một số người sẽ nói với bạn rằng khoa học có giá trị trung lập và không liên quan gì đến những thứ như tôn giáo”. AI. "Điều đó đơn giản là không đúng. Điều đó chưa bao giờ xảy ra."
Trên thực tế, các nhà sử học theo dõi ảnh hưởng của tư tưởng tôn giáo tin rằng từ các nhà thần học Cơ đốc giáo thời Trung cổ đến những người cha của chủ nghĩa kinh nghiệm thời Phục hưng đến nhà tương lai học Ray Kurzweil và những người chịu ảnh hưởng của ông về công nghệ nặng ký ở Thung lũng Silicon, chúng ta có thể vẽ một đường thẳng. đường kẻ.
Thỉnh thoảng, một số người vẫn có cảm giác mơ hồ về những điểm tương đồng. Jack Clark, đồng sáng lập công ty bảo mật trí tuệ nhân tạo Anthropic, đã viết trên Twitter vào tháng 3: “Đôi khi tôi nghĩ rằng sự nhiệt tình của mọi người đối với AGI là một xung lực tôn giáo đặt sai chỗ từ một nền văn hóa thế tục”.
Tuy nhiên, hầu hết những người coi AGI như một dạng cánh chung công nghệ — từ Sam Altman, Giám đốc điều hành của nhà sản xuất ChatGPT OpenAI đến Elon Musk, người muốn kết nối bộ não với máy tính — đang nói theo cách thế tục để bày tỏ ý tưởng của họ. Họ không nhận ra, hoặc không sẵn lòng thừa nhận rằng tầm nhìn mà họ đưa ra phần lớn được kết hợp với tư tưởng tôn giáo cổ xưa.
Nhưng điều quan trọng là phải biết những ý tưởng này đến từ đâu. Điều này không phải vì “tôn giáo” theo cách nào đó mang tính miệt thị; chỉ vì các ý tưởng mang tính tôn giáo không có nghĩa là chúng có gì sai trái (điều ngược lại thường đúng). Thay vào đó, chúng ta nên hiểu lịch sử của những ý tưởng này - chẳng hạn, thế giới bên kia ảo như một hình thức cứu rỗi, hay tiến bộ đạo đức được hiểu là tiến bộ công nghệ - để chúng ta hiểu rằng chúng không phải là bất biến hoặc không thể tránh khỏi; lần cho những mục đích nhất định, nhưng những mục đích khác vẫn tồn tại nếu chúng ta muốn. Chúng ta không phải rơi vào nguy hiểm chỉ vì một câu chuyện.
Elke Schwarz, nhà lý luận chính trị tại Đại học Queen Mary ở London, người nghiên cứu đạo đức của trí tuệ nhân tạo quân sự, cho biết: “Chúng ta phải cẩn thận với những câu chuyện mà chúng ta chấp nhận. Bất cứ khi nào chúng ta nói về điều gì đó tôn giáo, đều có điều gì đó thiêng liêng liên quan. thiêng liêng Nó có thể bị tổn thương bởi vì nếu điều gì đó thiêng liêng thì đáng để làm điều tồi tệ nhất cho nó."
Khái niệm trí tuệ nhân tạo luôn mang tính tôn giáo sâu sắc
Trong các tôn giáo Áp-ra-ham đã hình thành nên phương Tây, tất cả đều bắt nguồn từ sự xấu hổ.
Hãy nhớ những gì đã xảy ra trong Genesis? Khi Adam và Eva ăn Cây Tri Thức, Thiên Chúa đã trục xuất họ khỏi Vườn Địa Đàng và bắt họ phải chịu mọi sự sỉ nhục của máu thịt: lao động và đau đớn, sinh tử. Sau khi bị mất ân sủng, nhân loại không bao giờ còn như xưa nữa. Trước khi phạm tội, chúng ta là những tạo vật hoàn hảo được tạo dựng theo hình ảnh Thiên Chúa; bây giờ chúng ta là những bộ da đáng thương.
Nhưng vào thời Trung cổ, các nhà tư tưởng Cơ đốc giáo đã đề xuất một ý tưởng cấp tiến, như nhà sử học David Noble giải thích trong cuốn sách Tôn giáo của công nghệ. Điều gì sẽ xảy ra nếu công nghệ có thể giúp chúng ta khôi phục loài người về trạng thái hoàn hảo trước Mùa thu?
Ví dụ, nhà triết học có ảnh hưởng ở thế kỷ thứ 9 John Scotus Eriugena khẳng định rằng một phần ý nghĩa của việc Adam được tạo ra theo hình ảnh của Chúa là vì ông là một đấng sáng tạo, một nhà sáng tạo. Vì vậy, chúng ta phải tiến gần hơn đến khía cạnh này của bản thân nếu muốn khôi phục nhân loại trở lại trạng thái hoàn hảo giống như Chúa trước khi A-đam sa ngã. Eriugena viết rằng “nghệ thuật cơ khí” (còn được gọi là công nghệ) là “mối liên hệ của con người với thần thánh, và việc tu luyện của họ là phương tiện cứu nhân loại”.
Ý tưởng này nảy sinh trong các tu viện thời Trung cổ, nơi phương châm "ora et laba" (cầu nguyện và làm việc) bắt đầu được lưu hành. Ngay cả trong thời kỳ được gọi là Thời kỳ đen tối, một số tu viện này đã trở thành trung tâm kỹ thuật, tạo ra những phát minh như bánh xe nước chạy bằng thủy triều đầu tiên và máy khoan bộ gõ. Người Công giáo được biết đến như những nhà đổi mới; cho đến ngày nay, các kỹ sư có bốn vị thánh bảo trợ trong tôn giáo. Một số người nói rằng Giáo hội Công giáo là Thung lũng Silicon của thời Trung cổ, và có lý do cho điều đó: Như tôi đã lưu ý trong một bài báo năm 2018 trên tờ The Atlantic, mọi thứ từ "luyện kim, nhà máy và ký hiệu âm nhạc cho đến cơ cấu đồng hồ và in ấn", người Công giáo Nhà thờ là không thể thiếu.
Đây không phải là nghiên cứu vì công nghệ, cũng không phải nghiên cứu vì lợi nhuận. Ngược lại, tiến bộ khoa học và công nghệ đồng nghĩa với tiến bộ đạo đức. Bằng cách khôi phục nhân loại trở lại trạng thái hoàn hảo nguyên thủy, chúng ta có thể mở ra Vương quốc của Thiên Chúa. Như Noble đã viết: “Công nghệ đã trở thành đồng nghĩa với sự siêu việt và được liên kết hơn bao giờ hết với những ý tưởng cứu chuộc của Kitô giáo”.
Ý tưởng thời Trung cổ về việc đánh đồng tiến bộ công nghệ với tiến bộ đạo đức đã ảnh hưởng đến nhiều thế hệ nhà tư tưởng Cơ đốc giáo và tiếp tục cho đến thời kỳ hiện đại. Một cặp vợ chồng ở Bakong minh họa niềm tin cốt lõi tương tự - rằng công nghệ sẽ mang lại sự cứu rỗi - ảnh hưởng như thế nào đến những người theo tôn giáo truyền thống và những người áp dụng thế giới quan khoa học.
Vào thế kỷ 13, nhà giả kim Roger Bacon đã lấy cảm hứng từ những lời tiên tri trong Kinh thánh nhằm nỗ lực tạo ra một loại thuốc trường sinh có thể mang lại sự hồi sinh tương tự như sự hồi sinh được sứ đồ Phao-lô mô tả. Bacon hy vọng rằng loại thuốc tiên này sẽ không chỉ khiến con người trở nên bất tử mà còn ban cho họ những khả năng kỳ diệu, chẳng hạn như du hành với tốc độ suy nghĩ. Vào thế kỷ 16, Francis Bacon xuất hiện. Nhìn bề ngoài, ông có vẻ rất khác biệt so với những người tiền nhiệm - ông chỉ trích thuật giả kim, coi nó phản khoa học - nhưng ông dự đoán rằng một ngày nào đó chúng ta sẽ sử dụng công nghệ để đánh bại cái chết, "để tôn vinh Đấng Tạo Hóa và giảm bớt nỗi đau của con người".
Đến thời Phục hưng, người châu Âu mới dám mơ rằng chúng ta có thể tự làm lại mình theo hình ảnh của Chúa, không những dần dần đạt được sự bất tử mà còn có thể tạo ra ý thức từ vật chất vô tri.
Schwarz lưu ý: “Ngoài việc chiến thắng cái chết, khả năng tạo ra sự sống mới là sức mạnh tối thượng”.
Các kỹ sư Thiên chúa giáo đã tạo ra các máy tự động - robot bằng gỗ - có thể di chuyển xung quanh và nói lời cầu nguyện. Theo truyền thuyết, người Hồi giáo đã tạo ra những chiếc đầu máy có khả năng nói như lời sấm truyền. Có những câu chuyện trong văn hóa dân gian Do Thái về các giáo sĩ Do Thái sử dụng cách chia ngôn ngữ ma thuật để biến các hình tượng bằng đất sét (được gọi là "hình bùn") thành hiện thực. Trong những câu chuyện này, những bức tượng bằng đất sét đôi khi cứu người Do Thái khỏi sự đàn áp. Nhưng có lúc, các nhân vật bằng đất sét sẽ trở thành kẻ phản bội, giết người, cướp của và dùng sức mạnh của mình để làm điều ác.
Vâng, tất cả điều này nghe có vẻ rất quen thuộc. Bạn có thể nghe thấy nỗi lo lắng tương tự trong cuốn sách năm 1964 của nhà toán học và triết học Norbert Wiener về những rủi ro của trí tuệ nhân tạo, God & Golem, Inc., và trong hàng loạt bức thư ngỏ hiện đang được các chuyên gia công nghệ xuất bản. Họ cảnh báo rằng AGI sẽ mang lại sự cứu rỗi hoặc diệt vong cho chúng ta.
Đọc những nhận xét này, bạn có thể thắc mắc: Nếu AGI vừa đe dọa ngày tận thế vừa hứa hẹn sự cứu rỗi, thì tại sao chúng ta lại tạo ra AGI? Tại sao không giới hạn bản thân trong việc tạo ra những dạng trí tuệ nhân tạo hẹp hơn - vốn đã có thể tạo ra những điều kỳ diệu trong các ứng dụng như điều trị bệnh tật - và gắn bó với nó trong một thời gian?
Để tìm hiểu, hãy theo dõi tôi xa hơn một chút về lịch sử khi chúng ta bắt đầu hiểu ba phong trào đan xen gần đây đang định hình tầm nhìn của Thung lũng Silicon về trí tuệ nhân tạo như thế nào.
Đi vào chủ nghĩa siêu nhân, chủ nghĩa vị tha hiệu quả và chủ nghĩa lâu dài
Theo nhiều nguồn, khi Charles Darwin công bố thuyết tiến hóa của mình vào năm 1859, tất cả các nhà tư tưởng tôn giáo ngay lập tức coi đó là một mối đe dọa dị giáo đáng sợ đối với loài người, tạo vật ngoan đạo nhất của Chúa. Nhưng một số nhà tư tưởng Kitô giáo coi nó như một bộ trang phục mới lòe loẹt của những lời tiên tri tâm linh cổ xưa. Suy cho cùng, những tư tưởng tôn giáo không bao giờ thực sự chết đi, chúng chỉ có quần áo mới mà thôi.
Một ví dụ điển hình là Pierre Teilhard de Chardin, một linh mục Dòng Tên người Pháp cũng nghiên cứu cổ sinh vật học vào đầu thế kỷ 20. Ông tin rằng được thúc đẩy bởi công nghệ, sự tiến hóa của loài người thực sự là vật mang theo vương quốc của Chúa, sự tích hợp giữa con người và máy móc sẽ dẫn đến sự bùng nổ về trí thông minh mà ông gọi là Điểm Omega. Ý thức của chúng ta sẽ bước vào “trạng thái siêu thức”, trong đó chúng ta hợp nhất với Chúa và trở thành một loài mới.
Như tác giả Meghan O'Gieblyn ghi lại trong cuốn sách Chúa, Con người, Động vật, Máy móc xuất bản năm 2021, nhà sinh vật học tiến hóa Aldous Huxley từng là chủ tịch Hiệp hội Nhân văn Anh và Hiệp hội Ưu sinh Anh. Huxley đã phổ biến ý tưởng của Teilhard rằng chúng ta nên sử dụng công nghệ để tiến hóa giống loài của mình, gọi nó là "chủ nghĩa xuyên nhân loại".
Điều này lại ảnh hưởng đến nhà tương lai học Ray Kurzweil, người đã đưa ra dự đoán về cơ bản giống như Teilhard: Chúng ta sắp mở ra một kỷ nguyên kết hợp giữa trí thông minh của con người và trí thông minh của máy móc, và trí thông minh của con người sẽ trở nên vô cùng mạnh mẽ. Nhưng thay vì gọi nó là "Điểm Omega", Kurzweil lại đổi tên nó thành "Điểm Kỳ dị".
Kurzweil viết trong cuốn sách bán chạy nhất quốc gia năm 1999 của ông, The Age of Ingenuity. Theo Sách Khải Huyền: "Không còn cái chết, cũng không còn tang tóc, khóc lóc hay đau đớn nữa, vì những điều trước đây đã qua rồi.")
Kurzweil thừa nhận những điểm tương đồng về mặt tinh thần giữa hai người, cũng như những người đã hình thành các phong trào tôn giáo rõ ràng xung quanh việc tôn thờ trí tuệ nhân tạo hoặc sử dụng trí tuệ nhân tạo để đưa con người hướng tới sự tin kính, từ phong trào Terasem của Martine Rothblatt đến Hiệp hội siêu nhân Mormon, đến Con đường ngắn ngủi của Anthony Levandowski. nhà thờ Tương lai. Nhưng nhiều người, như triết gia Nick Bostrom của Đại học Oxford, nhấn mạnh rằng chủ nghĩa xuyên nhân loại khác với tôn giáo và dựa vào “lý trí phê phán và bằng chứng khoa học tốt nhất mà chúng tôi có”.
Ngày nay, chủ nghĩa xuyên nhân loại có một người chị em, một phong trào khác ra đời ở Oxford và bùng nổ ở Thung lũng Silicon: Chủ nghĩa vị tha hiệu quả (EA), với mục tiêu là tìm ra cách làm điều tốt nhất có thể cho hầu hết mọi người. Những người có lòng vị tha hiệu quả cũng nói rằng cách tiếp cận của họ bắt nguồn từ lý trí và bằng chứng thế tục.
Tuy nhiên, lòng vị tha hiệu quả thực sự giống với tôn giáo về nhiều mặt: về mặt chức năng (nó tập hợp một nhóm được xây dựng xung quanh tầm nhìn chung về đời sống đạo đức), về mặt cấu trúc (nó có hệ thống phân cấp các nhà lãnh đạo tiên tri, văn bản cổ điển, lễ hội và nghi lễ) và về mặt thẩm mỹ. (nó thúc đẩy việc dâng phần mười và ủng hộ chủ nghĩa khổ hạnh). Quan trọng nhất, nó cung cấp một cánh chung.
Thuyết mạt thế của chủ nghĩa vị tha hiệu quả xuất hiện dưới dạng quan điểm gây tranh cãi nhất của nó, chủ nghĩa dài hạn, mà Musk từng mô tả là "rất phù hợp với triết lý của tôi". Nó lập luận rằng cách tốt nhất để giúp đỡ hầu hết mọi người là tập trung vào việc đảm bảo sự tồn tại của nhân loại trong tương lai xa (chẳng hạn như hàng triệu năm nữa), khi có thể có thêm hàng tỷ người tồn tại so với chúng ta hiện nay -- giả sử loài của chúng ta không bị tuyệt chủng Đầu tiên.
Từ đây, chúng ta bắt đầu nhận được câu trả lời cho câu hỏi tại sao các nhà công nghệ lại làm việc để xây dựng AGI.
Tiến bộ AI cũng như tiến bộ đạo đức
Đối với những người có lòng vị tha hiệu quả và những người theo chủ nghĩa lâu dài, việc chỉ nhấn mạnh vào AI hẹp không phải là một lựa chọn. Nhà triết học Will MacAskill của Đại học Oxford được gọi là "nhà tiên tri bất đắc dĩ" về lòng vị tha hiệu quả và chủ nghĩa lâu dài. Trong cuốn sách What We Owe the Future xuất bản năm 2022, ông giải thích lý do tại sao ông tin rằng sự trì trệ của tiến bộ công nghệ là không thể chấp nhận được. Ông viết: “Những thời kỳ trì trệ có thể làm tăng nguy cơ tuyệt chủng và sụp đổ vĩnh viễn”.
Ông trích lời đồng nghiệp Toby Ord, người ước tính rằng có 1/6 khả năng loài người tuyệt chủng trong thế kỷ tới do những rủi ro như AI giả mạo và dịch bệnh được thiết kế. Một đồng nghiệp khác của EA, Holden Karnofsky, cũng tin tương tự rằng chúng ta đang sống trong một "bước ngoặt trong lịch sử" hay "thế kỷ quan trọng nhất" -- một giai đoạn đặc biệt trong lịch sử loài người, trong đó chúng ta sẽ phát triển mạnh mẽ hơn bao giờ hết hoặc chịu sự hủy diệt. MacAskill, giống như Musk, gợi ý trong cuốn sách rằng cách tốt nhất để tránh tuyệt chủng là xâm chiếm các hành tinh khác để chúng ta không bỏ tất cả trứng vào một giỏ.
Nhưng đó chỉ là một nửa trong “trường hợp đạo đức đối với việc giải quyết không gian” của MacAskill. Nửa còn lại là chúng ta nên cố gắng làm cho nền văn minh nhân loại trong tương lai trở nên rộng lớn và không tưởng nhất có thể. Như Bostrom, đồng nghiệp ở Oxford của MacAskill đã nói, "thuộc địa hóa vũ trụ" sẽ cho chúng ta không gian và nguồn lực để chạy vô số mô phỏng kỹ thuật số cho phép con người sống hạnh phúc mãi mãi. Không gian càng lớn thì con người (kỹ thuật số) càng hạnh phúc! Đây là nơi chứa đựng hầu hết các giá trị đạo đức: không phải ở hiện tại trên trái đất, mà là ở tương lai trên thiên đường…xin lỗi, ý tôi là “thế giới bên kia ảo”.
Khi chúng ta tập hợp tất cả những ý tưởng này lại với nhau và khái quát hóa, chúng ta đi đến mệnh đề cơ bản này:
Chúng ta có thể không còn nhiều thời gian trước khi cuộc sống kết thúc.
Vì vậy, chúng ta cần đặt cược vào thứ gì đó sẽ cứu chúng ta.
Vì số tiền đặt cược quá cao nên chúng ta nên đặt cược vừa đủ và chơi hết mình.
Bất cứ ai nghiên cứu tôn giáo đều có thể thấy ngay đây là gì: logic khải huyền.
Những người theo chủ nghĩa xuyên nhân loại, những người có lòng vị tha hiệu quả và những người theo chủ nghĩa dài hạn thừa hưởng quan điểm rằng ngày tận thế sắp xảy ra và tiến bộ công nghệ là cơ hội tốt nhất để chúng ta tiến bộ với tư cách là một nền văn minh. Đối với những người hành động theo logic này, việc theo đuổi AGI có vẻ là điều hiển nhiên. Mặc dù họ tin rằng AGI gây ra rủi ro sinh tồn đáng kể, nhưng họ tin rằng chúng ta không thể không xây dựng AGI vì nó có tiềm năng đưa nhân loại từ thời niên thiếu bấp bênh trên trái đất (có thể kết thúc bất cứ ngày nào!) đến tuổi trưởng thành thịnh vượng giữa các vì sao (rất nhiều người Hạnh phúc, vì vậy nhiều giá trị văn minh!). Tất nhiên chúng ta nên tiến lên về mặt công nghệ, vì điều đó có nghĩa là tiến lên một cách văn minh!
Nhưng điều này có bắt nguồn từ lý trí và bằng chứng không? Hay nó bắt nguồn từ giáo điều?
Tiền đề cơ bản ở đây là thuyết quyết định công nghệ, pha trộn với một chút địa chính trị. Ý tưởng là ngay cả khi bạn và tôi không tạo ra AI mạnh mẽ đến mức đáng sợ thì người khác hoặc quốc gia khác sẽ làm - vậy tại sao chúng ta lại ngăn mình tham gia? Altman của OpenAI thể hiện niềm tin rằng công nghệ phải tiến lên phía trước. Ông viết trên blog của mình vào năm 2017: “Trừ khi chúng ta hủy diệt chính mình trước, trí tuệ nhân tạo siêu phàm sẽ xuất hiện”. “Như chúng ta đã biết, tiến bộ khoa học cuối cùng sẽ xảy ra nếu các định luật vật lý không ngăn cản nó.”
Chúng ta đã học được chưa? Tôi không thấy bằng chứng nào cho thấy bất cứ thứ gì có thể phát minh được sẽ được phát minh ra. (Như Katja Grace, nhà nghiên cứu chính của Impact of Artificial Intelligence viết: “Hãy nghĩ về một chiếc máy phun cứt vào mắt bạn. Về mặt kỹ thuật, chúng tôi có thể làm được điều đó, nhưng có lẽ chưa ai từng chế tạo một chiếc máy như vậy.”) Mọi người dường như có xu hướng thích hơn theo đuổi sự đổi mới khi bị thúc đẩy bởi áp lực kinh tế, xã hội hoặc ý thức hệ mạnh mẽ.
Trong cơn sốt AGI ở Thung lũng Silicon, áp lực xã hội và ý thức hệ được tạo ra bởi những ý tưởng tôn giáo được sáng tạo lại dưới chiêu bài siêu nhân loại, lòng vị tha hiệu quả và chủ nghĩa lâu dài. Về áp lực kinh tế và lợi nhuận, chúng luôn hiện hữu ở Thung lũng Silicon.
Một cuộc thăm dò của Reuters vào tháng 5 cho thấy 61% người Mỹ hiện tin rằng trí tuệ nhân tạo có thể đe dọa nền văn minh nhân loại, một quan điểm đặc biệt mạnh mẽ trong số những người theo đạo Tin lành. Đối với học giả nghiên cứu tôn giáo Geraci, điều này không có gì đáng ngạc nhiên. Ông lưu ý rằng logic về ngày tận thế là "rất, rất, rất mạnh mẽ trong Cơ đốc giáo Tin lành ở Mỹ" - đến mức cứ 10 người Mỹ trưởng thành thì có 4 người tin rằng nhân loại đang sống trong thời kỳ cuối cùng.
Thật không may, logic ngày tận thế thường sinh ra chủ nghĩa cuồng tín nguy hiểm. Vào thời Trung cổ, khi một đấng cứu thế giả xuất hiện, mọi người sẽ từ bỏ của cải trần thế để đi theo nhà tiên tri của họ. Ngày nay, khi tin tức về ngày tận thế của AI tràn ngập trên các phương tiện truyền thông, những tín đồ thực sự đang bỏ học đại học để nghiên cứu về sự an toàn của AI. Logic của ngày tận thế hay sự cứu chuộc, thiên đường hay địa ngục, thúc đẩy con người chấp nhận rủi ro lớn - cam kết với điều đó.
Trong một cuộc phỏng vấn với tôi năm ngoái, MacAskill đã phủ nhận các hoạt động cờ bạc cực đoan. Anh ấy kể với tôi rằng trong trí tưởng tượng của anh ấy, một loại anh em công nghệ nào đó ở Thung lũng Silicon tin rằng có 5% khả năng tử vong vì thảm họa AGI, và 10% khả năng AGI sẽ mang đến một điều không tưởng hạnh phúc, và họ sẽ sẵn lòng. để nắm bắt những cơ hội này. Hãy xây dựng AGI một cách vội vàng.
"Tôi không muốn những người như thế này xây dựng AGI vì họ không phản ứng với các vấn đề đạo đức," MacAskill nói với tôi. "Có lẽ điều đó có nghĩa là chúng ta phải trì hoãn Điểm kỳ dị để làm cho nó an toàn hơn. Có lẽ điều đó có nghĩa là Điểm kỳ dị không diễn ra." trong cuộc đời tôi. Đó sẽ là một sự hy sinh to lớn."
Khi MacAskill nói với tôi điều này, tôi đã tưởng tượng ra hình ảnh Moses đang nhìn ra Đất Hứa nhưng biết rằng mình không thể chạm tới được. Tầm nhìn dài hạn dường như đòi hỏi ông phải có một niềm tin tàn bạo: cá nhân bạn sẽ không được cứu, nhưng con cháu tinh thần của bạn sẽ được cứu.
Chúng ta cần quyết định xem đây có phải là cách chúng ta muốn được cứu rỗi không
Không có gì sai khi tin rằng công nghệ về cơ bản có thể cải thiện vận mệnh của nhân loại. Theo nhiều cách, nó rõ ràng là có.
Ilia Delio, người có hai bằng tiến sĩ và giữ chức chủ tịch thần học tại Đại học Villanova, nói với tôi: “Công nghệ không phải là vấn đề. Trên thực tế, Delio tin chắc rằng chúng ta đang ở một giai đoạn tiến hóa mới, chuyển từ Homo sapiens”. đến “Người thông minh công nghệ.” ” là một quan điểm đáng hài lòng. Cô tin rằng chúng ta nên chủ động phát triển với sự trợ giúp của công nghệ với tinh thần cởi mở.
Nhưng cô ấy cũng hiểu rằng chúng ta cần phải hiểu rõ những giá trị nào ảnh hưởng đến công nghệ của chúng ta, "để chúng ta có thể phát triển công nghệ có mục đích -- và có đạo đức", cô nói. Nếu không thì "công nghệ mù quáng và tiềm ẩn nguy hiểm".
Geraci đồng ý. "Sẽ thật đáng sợ nếu nhiều người ở Thung lũng Silicon nói: 'Này, tôi ủng hộ công nghệ này vì nó sẽ khiến tôi bất tử'," anh ấy nói với tôi. "Nhưng nếu ai đó nói, 'Tôi ủng hộ công nghệ này, , bởi vì tôi nghĩ chúng ta có thể sử dụng nó để giải quyết nạn đói trên thế giới' -- đó là hai động lực rất khác nhau. Điều đó sẽ tác động đến loại sản phẩm bạn đang cố gắng thiết kế, những người bạn đang thiết kế cho và những người bạn đang cố gắng thiết kế để bao quanh bạn với cách nó được triển khai trên thế giới.
Trong khi cân nhắc kỹ lưỡng khi quyết định giá trị của công nghệ, bạn cũng phải nhận thức sâu sắc xem ai có quyền quyết định. Schwarz tin rằng các nhà thiết kế AI bán cho chúng ta tầm nhìn về những tiến bộ công nghệ cần thiết mà AI sẽ mang lại và tự coi mình là chuyên gia duy nhất về nó, điều này mang lại cho họ quyền lực to lớn - được cho là nhiều hơn những người được bầu cử dân chủ của chúng ta.
Schwarz nói: "Ý tưởng cho rằng việc phát triển trí tuệ nhân tạo là một quy luật tự nhiên sẽ trở thành một nguyên tắc ra lệnh, và nguyên tắc ra lệnh đó mang tính chính trị. Nó mang lại quyền lực chính trị cho một số người và ít quyền lực hơn cho hầu hết những người khác". “Đối với tôi, thật kỳ lạ khi nói ‘Chúng ta phải rất cẩn thận với AGI’ thay vì nói ‘Chúng ta không cần AGI, đó không phải là một phần của cuộc thảo luận.’ Nhưng chúng ta đã đạt đến điểm mà quyền lực được đặt vào được đối xử theo cách thậm chí không giống nhau. Cách chúng tôi được đưa ra các lựa chọn đã được củng cố và chúng tôi thậm chí có thể khuyến nghị chung rằng không nên theo đuổi AGI.
Chúng ta đi đến điểm này phần lớn là do trong hàng nghìn năm qua, phương Tây có nguy cơ rơi vào một câu chuyện duy nhất: câu chuyện mà chúng ta kế thừa từ các nhà tư tưởng tôn giáo thời Trung cổ vốn đánh đồng tiến bộ công nghệ với tiến bộ đạo đức.
Delio nói: "Đó là câu chuyện duy nhất mà chúng tôi có. Câu chuyện đó khiến chúng tôi lắng nghe các chuyên gia kỹ thuật (những người trước đây cũng là những người có thẩm quyền về mặt tinh thần) và xây dựng các giá trị cũng như giả định vào sản phẩm của họ."
"Giải pháp thay thế là gì? Nếu giải pháp thay thế là 'sống còn sống tự nó là một mục tiêu'," Delio nói thêm, "thì kỳ vọng của chúng tôi về công nghệ có thể hoàn toàn khác." "Nhưng chúng tôi không có câu chuyện đó! Câu chuyện chính thống của chúng tôi là về sáng tạo, phát minh, chế tạo và để chúng thay đổi chúng ta.”
Chúng ta cần phải quyết định loại sự cứu rỗi nào chúng ta muốn. Nếu sự nhiệt tình của chúng ta đối với trí tuệ nhân tạo xuất phát từ tầm nhìn vượt qua giới hạn của trái đất và cái chết của cơ thể, thì điều đó sẽ gây ra hậu quả xã hội. Nhưng nếu chúng ta cam kết sử dụng công nghệ để cải thiện thế giới và hạnh phúc của những cơ thể này, chúng ta có thể đạt được những kết quả khác. Như Noble đã nói, chúng ta có thể “bắt đầu hướng những khả năng tuyệt vời của mình vào những mục đích thế tục và nhân đạo hơn”.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Tầm nhìn AI của Thung lũng Silicon? Đó là tiếng vang của tôn giáo được đóng gói lại
Viết bởi Sigal Samuel
Nguồn: Vox
Điều gì sẽ xảy ra nếu tôi nói với bạn rằng 10 năm nữa thế giới mà bạn biết sẽ kết thúc. Bạn sẽ sống trên thiên đàng không có bệnh tật, già nua hay chết chóc. Cuộc sống vĩnh cửu sẽ là của bạn! Thậm chí tốt hơn nữa, bộ não của bạn sẽ được giải phóng khỏi sự bất an - và bạn sẽ có được kiến thức hoàn hảo. Bạn không còn bị mắc kẹt trên trái đất nữa, bạn có thể sống trên thiên đường.
Nếu tôi nói với bạn tất cả những điều này, bạn sẽ nghĩ tôi là một nhà truyền giáo tôn giáo hay một nhà nghiên cứu trí tuệ nhân tạo?
Hoặc đoán có ý nghĩa.
Càng nghe những cuộc thảo luận về trí tuệ nhân tạo ở Thung lũng Silicon, bạn càng nghe thấy tiếng vang của tôn giáo. Bởi vì phần lớn sự phấn khích về việc chế tạo những cỗ máy siêu thông minh bắt nguồn từ việc tái sử dụng các ý tưởng tôn giáo. Hầu hết các nhà công nghệ thế tục đang xây dựng trí tuệ nhân tạo đều không nhận ra điều này.
Các chuyên gia công nghệ này đề xuất che giấu cái chết bằng cách tải suy nghĩ của chúng ta lên đám mây, nơi chúng ta có thể sống mãi mãi bằng kỹ thuật số. Họ mô tả trí tuệ nhân tạo như một cơ chế ra quyết định có thể xác định một cách chắc chắn về mặt toán học điều gì là tối ưu và điều gì không. Họ hình dung trí thông minh nhân tạo tổng hợp (AGI) - một hệ thống giả thuyết có thể phù hợp với khả năng giải quyết vấn đề của con người trong nhiều lĩnh vực - là một nỗ lực có thể đảm bảo sự cứu rỗi cho nhân loại nếu mọi việc suôn sẻ, và nếu không, nó cũng có thể mang lại tai họa.
Những tầm nhìn này gần giống với những tầm nhìn về cánh chung của Cơ đốc giáo, một nhánh thần học liên quan đến "cánh chung" hay vận mệnh cuối cùng của nhân loại.
Ngày tận thế của Cơ đốc giáo cho chúng ta biết rằng tất cả chúng ta đều hướng tới “bốn điều cuối cùng”: cái chết, sự phán xét, thiên đường hay địa ngục. Những người đã chết sẽ được phục sinh vào Ngày Tái Lâm của Đấng Ky Tô và sẽ tìm thấy số phận vĩnh cửu. Linh hồn chúng ta sẽ phải đối mặt với sự phán xét cuối cùng của Thiên Chúa, Đấng đưa ra quyết định hoàn hảo. Nếu mọi việc suôn sẻ, chúng ta sẽ lên thiên đường, nhưng nếu mọi việc không suôn sẻ, chúng ta sẽ rơi vào địa ngục.
Năm năm trước, khi tôi bắt đầu tham dự các hội nghị ở Thung lũng Silicon và lần đầu tiên nhận thấy sự tương đồng giữa chủ đề tôn giáo và trí tuệ nhân tạo, tôi đã nghĩ ra một cách giải thích tâm lý đơn giản. Cả hai đều là phản ứng trước những lo lắng cốt lõi của con người: cái chết; khó khăn trong việc biết mình đang làm đúng hay sai; sự không thể biết được ý nghĩa cuộc sống và vị trí cuối cùng của chúng ta trong vũ trụ này - hoặc vũ trụ tiếp theo. Các nhà tư tưởng tôn giáo và các nhà tư tưởng AI vừa tình cờ tìm ra những câu trả lời tương tự cho những câu hỏi khiến tất cả chúng ta lo lắng.
Vì vậy, tôi rất ngạc nhiên khi thấy rằng mối liên hệ còn sâu sắc hơn thế nhiều.
Robert Geraci, giáo sư nghiên cứu tôn giáo tại Đại học Manhattan và là tác giả cuốn sách “Apocalyptic” cho biết: “Tôn giáo và công nghệ đã gắn bó với nhau trong nhiều thế kỷ, mặc dù một số người sẽ nói với bạn rằng khoa học có giá trị trung lập và không liên quan gì đến những thứ như tôn giáo”. AI. "Điều đó đơn giản là không đúng. Điều đó chưa bao giờ xảy ra."
Trên thực tế, các nhà sử học theo dõi ảnh hưởng của tư tưởng tôn giáo tin rằng từ các nhà thần học Cơ đốc giáo thời Trung cổ đến những người cha của chủ nghĩa kinh nghiệm thời Phục hưng đến nhà tương lai học Ray Kurzweil và những người chịu ảnh hưởng của ông về công nghệ nặng ký ở Thung lũng Silicon, chúng ta có thể vẽ một đường thẳng. đường kẻ.
Thỉnh thoảng, một số người vẫn có cảm giác mơ hồ về những điểm tương đồng. Jack Clark, đồng sáng lập công ty bảo mật trí tuệ nhân tạo Anthropic, đã viết trên Twitter vào tháng 3: “Đôi khi tôi nghĩ rằng sự nhiệt tình của mọi người đối với AGI là một xung lực tôn giáo đặt sai chỗ từ một nền văn hóa thế tục”.
Tuy nhiên, hầu hết những người coi AGI như một dạng cánh chung công nghệ — từ Sam Altman, Giám đốc điều hành của nhà sản xuất ChatGPT OpenAI đến Elon Musk, người muốn kết nối bộ não với máy tính — đang nói theo cách thế tục để bày tỏ ý tưởng của họ. Họ không nhận ra, hoặc không sẵn lòng thừa nhận rằng tầm nhìn mà họ đưa ra phần lớn được kết hợp với tư tưởng tôn giáo cổ xưa.
Nhưng điều quan trọng là phải biết những ý tưởng này đến từ đâu. Điều này không phải vì “tôn giáo” theo cách nào đó mang tính miệt thị; chỉ vì các ý tưởng mang tính tôn giáo không có nghĩa là chúng có gì sai trái (điều ngược lại thường đúng). Thay vào đó, chúng ta nên hiểu lịch sử của những ý tưởng này - chẳng hạn, thế giới bên kia ảo như một hình thức cứu rỗi, hay tiến bộ đạo đức được hiểu là tiến bộ công nghệ - để chúng ta hiểu rằng chúng không phải là bất biến hoặc không thể tránh khỏi; lần cho những mục đích nhất định, nhưng những mục đích khác vẫn tồn tại nếu chúng ta muốn. Chúng ta không phải rơi vào nguy hiểm chỉ vì một câu chuyện.
Elke Schwarz, nhà lý luận chính trị tại Đại học Queen Mary ở London, người nghiên cứu đạo đức của trí tuệ nhân tạo quân sự, cho biết: “Chúng ta phải cẩn thận với những câu chuyện mà chúng ta chấp nhận. Bất cứ khi nào chúng ta nói về điều gì đó tôn giáo, đều có điều gì đó thiêng liêng liên quan. thiêng liêng Nó có thể bị tổn thương bởi vì nếu điều gì đó thiêng liêng thì đáng để làm điều tồi tệ nhất cho nó."
Khái niệm trí tuệ nhân tạo luôn mang tính tôn giáo sâu sắc
Trong các tôn giáo Áp-ra-ham đã hình thành nên phương Tây, tất cả đều bắt nguồn từ sự xấu hổ.
Hãy nhớ những gì đã xảy ra trong Genesis? Khi Adam và Eva ăn Cây Tri Thức, Thiên Chúa đã trục xuất họ khỏi Vườn Địa Đàng và bắt họ phải chịu mọi sự sỉ nhục của máu thịt: lao động và đau đớn, sinh tử. Sau khi bị mất ân sủng, nhân loại không bao giờ còn như xưa nữa. Trước khi phạm tội, chúng ta là những tạo vật hoàn hảo được tạo dựng theo hình ảnh Thiên Chúa; bây giờ chúng ta là những bộ da đáng thương.
Nhưng vào thời Trung cổ, các nhà tư tưởng Cơ đốc giáo đã đề xuất một ý tưởng cấp tiến, như nhà sử học David Noble giải thích trong cuốn sách Tôn giáo của công nghệ. Điều gì sẽ xảy ra nếu công nghệ có thể giúp chúng ta khôi phục loài người về trạng thái hoàn hảo trước Mùa thu?
Ví dụ, nhà triết học có ảnh hưởng ở thế kỷ thứ 9 John Scotus Eriugena khẳng định rằng một phần ý nghĩa của việc Adam được tạo ra theo hình ảnh của Chúa là vì ông là một đấng sáng tạo, một nhà sáng tạo. Vì vậy, chúng ta phải tiến gần hơn đến khía cạnh này của bản thân nếu muốn khôi phục nhân loại trở lại trạng thái hoàn hảo giống như Chúa trước khi A-đam sa ngã. Eriugena viết rằng “nghệ thuật cơ khí” (còn được gọi là công nghệ) là “mối liên hệ của con người với thần thánh, và việc tu luyện của họ là phương tiện cứu nhân loại”.
Ý tưởng này nảy sinh trong các tu viện thời Trung cổ, nơi phương châm "ora et laba" (cầu nguyện và làm việc) bắt đầu được lưu hành. Ngay cả trong thời kỳ được gọi là Thời kỳ đen tối, một số tu viện này đã trở thành trung tâm kỹ thuật, tạo ra những phát minh như bánh xe nước chạy bằng thủy triều đầu tiên và máy khoan bộ gõ. Người Công giáo được biết đến như những nhà đổi mới; cho đến ngày nay, các kỹ sư có bốn vị thánh bảo trợ trong tôn giáo. Một số người nói rằng Giáo hội Công giáo là Thung lũng Silicon của thời Trung cổ, và có lý do cho điều đó: Như tôi đã lưu ý trong một bài báo năm 2018 trên tờ The Atlantic, mọi thứ từ "luyện kim, nhà máy và ký hiệu âm nhạc cho đến cơ cấu đồng hồ và in ấn", người Công giáo Nhà thờ là không thể thiếu.
Đây không phải là nghiên cứu vì công nghệ, cũng không phải nghiên cứu vì lợi nhuận. Ngược lại, tiến bộ khoa học và công nghệ đồng nghĩa với tiến bộ đạo đức. Bằng cách khôi phục nhân loại trở lại trạng thái hoàn hảo nguyên thủy, chúng ta có thể mở ra Vương quốc của Thiên Chúa. Như Noble đã viết: “Công nghệ đã trở thành đồng nghĩa với sự siêu việt và được liên kết hơn bao giờ hết với những ý tưởng cứu chuộc của Kitô giáo”.
Ý tưởng thời Trung cổ về việc đánh đồng tiến bộ công nghệ với tiến bộ đạo đức đã ảnh hưởng đến nhiều thế hệ nhà tư tưởng Cơ đốc giáo và tiếp tục cho đến thời kỳ hiện đại. Một cặp vợ chồng ở Bakong minh họa niềm tin cốt lõi tương tự - rằng công nghệ sẽ mang lại sự cứu rỗi - ảnh hưởng như thế nào đến những người theo tôn giáo truyền thống và những người áp dụng thế giới quan khoa học.
Vào thế kỷ 13, nhà giả kim Roger Bacon đã lấy cảm hứng từ những lời tiên tri trong Kinh thánh nhằm nỗ lực tạo ra một loại thuốc trường sinh có thể mang lại sự hồi sinh tương tự như sự hồi sinh được sứ đồ Phao-lô mô tả. Bacon hy vọng rằng loại thuốc tiên này sẽ không chỉ khiến con người trở nên bất tử mà còn ban cho họ những khả năng kỳ diệu, chẳng hạn như du hành với tốc độ suy nghĩ. Vào thế kỷ 16, Francis Bacon xuất hiện. Nhìn bề ngoài, ông có vẻ rất khác biệt so với những người tiền nhiệm - ông chỉ trích thuật giả kim, coi nó phản khoa học - nhưng ông dự đoán rằng một ngày nào đó chúng ta sẽ sử dụng công nghệ để đánh bại cái chết, "để tôn vinh Đấng Tạo Hóa và giảm bớt nỗi đau của con người".
Đến thời Phục hưng, người châu Âu mới dám mơ rằng chúng ta có thể tự làm lại mình theo hình ảnh của Chúa, không những dần dần đạt được sự bất tử mà còn có thể tạo ra ý thức từ vật chất vô tri.
Schwarz lưu ý: “Ngoài việc chiến thắng cái chết, khả năng tạo ra sự sống mới là sức mạnh tối thượng”.
Các kỹ sư Thiên chúa giáo đã tạo ra các máy tự động - robot bằng gỗ - có thể di chuyển xung quanh và nói lời cầu nguyện. Theo truyền thuyết, người Hồi giáo đã tạo ra những chiếc đầu máy có khả năng nói như lời sấm truyền. Có những câu chuyện trong văn hóa dân gian Do Thái về các giáo sĩ Do Thái sử dụng cách chia ngôn ngữ ma thuật để biến các hình tượng bằng đất sét (được gọi là "hình bùn") thành hiện thực. Trong những câu chuyện này, những bức tượng bằng đất sét đôi khi cứu người Do Thái khỏi sự đàn áp. Nhưng có lúc, các nhân vật bằng đất sét sẽ trở thành kẻ phản bội, giết người, cướp của và dùng sức mạnh của mình để làm điều ác.
Vâng, tất cả điều này nghe có vẻ rất quen thuộc. Bạn có thể nghe thấy nỗi lo lắng tương tự trong cuốn sách năm 1964 của nhà toán học và triết học Norbert Wiener về những rủi ro của trí tuệ nhân tạo, God & Golem, Inc., và trong hàng loạt bức thư ngỏ hiện đang được các chuyên gia công nghệ xuất bản. Họ cảnh báo rằng AGI sẽ mang lại sự cứu rỗi hoặc diệt vong cho chúng ta.
Đọc những nhận xét này, bạn có thể thắc mắc: Nếu AGI vừa đe dọa ngày tận thế vừa hứa hẹn sự cứu rỗi, thì tại sao chúng ta lại tạo ra AGI? Tại sao không giới hạn bản thân trong việc tạo ra những dạng trí tuệ nhân tạo hẹp hơn - vốn đã có thể tạo ra những điều kỳ diệu trong các ứng dụng như điều trị bệnh tật - và gắn bó với nó trong một thời gian?
Để tìm hiểu, hãy theo dõi tôi xa hơn một chút về lịch sử khi chúng ta bắt đầu hiểu ba phong trào đan xen gần đây đang định hình tầm nhìn của Thung lũng Silicon về trí tuệ nhân tạo như thế nào.
Đi vào chủ nghĩa siêu nhân, chủ nghĩa vị tha hiệu quả và chủ nghĩa lâu dài
Theo nhiều nguồn, khi Charles Darwin công bố thuyết tiến hóa của mình vào năm 1859, tất cả các nhà tư tưởng tôn giáo ngay lập tức coi đó là một mối đe dọa dị giáo đáng sợ đối với loài người, tạo vật ngoan đạo nhất của Chúa. Nhưng một số nhà tư tưởng Kitô giáo coi nó như một bộ trang phục mới lòe loẹt của những lời tiên tri tâm linh cổ xưa. Suy cho cùng, những tư tưởng tôn giáo không bao giờ thực sự chết đi, chúng chỉ có quần áo mới mà thôi.
Một ví dụ điển hình là Pierre Teilhard de Chardin, một linh mục Dòng Tên người Pháp cũng nghiên cứu cổ sinh vật học vào đầu thế kỷ 20. Ông tin rằng được thúc đẩy bởi công nghệ, sự tiến hóa của loài người thực sự là vật mang theo vương quốc của Chúa, sự tích hợp giữa con người và máy móc sẽ dẫn đến sự bùng nổ về trí thông minh mà ông gọi là Điểm Omega. Ý thức của chúng ta sẽ bước vào “trạng thái siêu thức”, trong đó chúng ta hợp nhất với Chúa và trở thành một loài mới.
Như tác giả Meghan O'Gieblyn ghi lại trong cuốn sách Chúa, Con người, Động vật, Máy móc xuất bản năm 2021, nhà sinh vật học tiến hóa Aldous Huxley từng là chủ tịch Hiệp hội Nhân văn Anh và Hiệp hội Ưu sinh Anh. Huxley đã phổ biến ý tưởng của Teilhard rằng chúng ta nên sử dụng công nghệ để tiến hóa giống loài của mình, gọi nó là "chủ nghĩa xuyên nhân loại".
Điều này lại ảnh hưởng đến nhà tương lai học Ray Kurzweil, người đã đưa ra dự đoán về cơ bản giống như Teilhard: Chúng ta sắp mở ra một kỷ nguyên kết hợp giữa trí thông minh của con người và trí thông minh của máy móc, và trí thông minh của con người sẽ trở nên vô cùng mạnh mẽ. Nhưng thay vì gọi nó là "Điểm Omega", Kurzweil lại đổi tên nó thành "Điểm Kỳ dị".
Kurzweil viết trong cuốn sách bán chạy nhất quốc gia năm 1999 của ông, The Age of Ingenuity. Theo Sách Khải Huyền: "Không còn cái chết, cũng không còn tang tóc, khóc lóc hay đau đớn nữa, vì những điều trước đây đã qua rồi.")
Kurzweil thừa nhận những điểm tương đồng về mặt tinh thần giữa hai người, cũng như những người đã hình thành các phong trào tôn giáo rõ ràng xung quanh việc tôn thờ trí tuệ nhân tạo hoặc sử dụng trí tuệ nhân tạo để đưa con người hướng tới sự tin kính, từ phong trào Terasem của Martine Rothblatt đến Hiệp hội siêu nhân Mormon, đến Con đường ngắn ngủi của Anthony Levandowski. nhà thờ Tương lai. Nhưng nhiều người, như triết gia Nick Bostrom của Đại học Oxford, nhấn mạnh rằng chủ nghĩa xuyên nhân loại khác với tôn giáo và dựa vào “lý trí phê phán và bằng chứng khoa học tốt nhất mà chúng tôi có”.
Ngày nay, chủ nghĩa xuyên nhân loại có một người chị em, một phong trào khác ra đời ở Oxford và bùng nổ ở Thung lũng Silicon: Chủ nghĩa vị tha hiệu quả (EA), với mục tiêu là tìm ra cách làm điều tốt nhất có thể cho hầu hết mọi người. Những người có lòng vị tha hiệu quả cũng nói rằng cách tiếp cận của họ bắt nguồn từ lý trí và bằng chứng thế tục.
Tuy nhiên, lòng vị tha hiệu quả thực sự giống với tôn giáo về nhiều mặt: về mặt chức năng (nó tập hợp một nhóm được xây dựng xung quanh tầm nhìn chung về đời sống đạo đức), về mặt cấu trúc (nó có hệ thống phân cấp các nhà lãnh đạo tiên tri, văn bản cổ điển, lễ hội và nghi lễ) và về mặt thẩm mỹ. (nó thúc đẩy việc dâng phần mười và ủng hộ chủ nghĩa khổ hạnh). Quan trọng nhất, nó cung cấp một cánh chung.
Thuyết mạt thế của chủ nghĩa vị tha hiệu quả xuất hiện dưới dạng quan điểm gây tranh cãi nhất của nó, chủ nghĩa dài hạn, mà Musk từng mô tả là "rất phù hợp với triết lý của tôi". Nó lập luận rằng cách tốt nhất để giúp đỡ hầu hết mọi người là tập trung vào việc đảm bảo sự tồn tại của nhân loại trong tương lai xa (chẳng hạn như hàng triệu năm nữa), khi có thể có thêm hàng tỷ người tồn tại so với chúng ta hiện nay -- giả sử loài của chúng ta không bị tuyệt chủng Đầu tiên.
Từ đây, chúng ta bắt đầu nhận được câu trả lời cho câu hỏi tại sao các nhà công nghệ lại làm việc để xây dựng AGI.
Tiến bộ AI cũng như tiến bộ đạo đức
Đối với những người có lòng vị tha hiệu quả và những người theo chủ nghĩa lâu dài, việc chỉ nhấn mạnh vào AI hẹp không phải là một lựa chọn. Nhà triết học Will MacAskill của Đại học Oxford được gọi là "nhà tiên tri bất đắc dĩ" về lòng vị tha hiệu quả và chủ nghĩa lâu dài. Trong cuốn sách What We Owe the Future xuất bản năm 2022, ông giải thích lý do tại sao ông tin rằng sự trì trệ của tiến bộ công nghệ là không thể chấp nhận được. Ông viết: “Những thời kỳ trì trệ có thể làm tăng nguy cơ tuyệt chủng và sụp đổ vĩnh viễn”.
Ông trích lời đồng nghiệp Toby Ord, người ước tính rằng có 1/6 khả năng loài người tuyệt chủng trong thế kỷ tới do những rủi ro như AI giả mạo và dịch bệnh được thiết kế. Một đồng nghiệp khác của EA, Holden Karnofsky, cũng tin tương tự rằng chúng ta đang sống trong một "bước ngoặt trong lịch sử" hay "thế kỷ quan trọng nhất" -- một giai đoạn đặc biệt trong lịch sử loài người, trong đó chúng ta sẽ phát triển mạnh mẽ hơn bao giờ hết hoặc chịu sự hủy diệt. MacAskill, giống như Musk, gợi ý trong cuốn sách rằng cách tốt nhất để tránh tuyệt chủng là xâm chiếm các hành tinh khác để chúng ta không bỏ tất cả trứng vào một giỏ.
Nhưng đó chỉ là một nửa trong “trường hợp đạo đức đối với việc giải quyết không gian” của MacAskill. Nửa còn lại là chúng ta nên cố gắng làm cho nền văn minh nhân loại trong tương lai trở nên rộng lớn và không tưởng nhất có thể. Như Bostrom, đồng nghiệp ở Oxford của MacAskill đã nói, "thuộc địa hóa vũ trụ" sẽ cho chúng ta không gian và nguồn lực để chạy vô số mô phỏng kỹ thuật số cho phép con người sống hạnh phúc mãi mãi. Không gian càng lớn thì con người (kỹ thuật số) càng hạnh phúc! Đây là nơi chứa đựng hầu hết các giá trị đạo đức: không phải ở hiện tại trên trái đất, mà là ở tương lai trên thiên đường…xin lỗi, ý tôi là “thế giới bên kia ảo”.
Khi chúng ta tập hợp tất cả những ý tưởng này lại với nhau và khái quát hóa, chúng ta đi đến mệnh đề cơ bản này:
Bất cứ ai nghiên cứu tôn giáo đều có thể thấy ngay đây là gì: logic khải huyền.
Những người theo chủ nghĩa xuyên nhân loại, những người có lòng vị tha hiệu quả và những người theo chủ nghĩa dài hạn thừa hưởng quan điểm rằng ngày tận thế sắp xảy ra và tiến bộ công nghệ là cơ hội tốt nhất để chúng ta tiến bộ với tư cách là một nền văn minh. Đối với những người hành động theo logic này, việc theo đuổi AGI có vẻ là điều hiển nhiên. Mặc dù họ tin rằng AGI gây ra rủi ro sinh tồn đáng kể, nhưng họ tin rằng chúng ta không thể không xây dựng AGI vì nó có tiềm năng đưa nhân loại từ thời niên thiếu bấp bênh trên trái đất (có thể kết thúc bất cứ ngày nào!) đến tuổi trưởng thành thịnh vượng giữa các vì sao (rất nhiều người Hạnh phúc, vì vậy nhiều giá trị văn minh!). Tất nhiên chúng ta nên tiến lên về mặt công nghệ, vì điều đó có nghĩa là tiến lên một cách văn minh!
Nhưng điều này có bắt nguồn từ lý trí và bằng chứng không? Hay nó bắt nguồn từ giáo điều?
Tiền đề cơ bản ở đây là thuyết quyết định công nghệ, pha trộn với một chút địa chính trị. Ý tưởng là ngay cả khi bạn và tôi không tạo ra AI mạnh mẽ đến mức đáng sợ thì người khác hoặc quốc gia khác sẽ làm - vậy tại sao chúng ta lại ngăn mình tham gia? Altman của OpenAI thể hiện niềm tin rằng công nghệ phải tiến lên phía trước. Ông viết trên blog của mình vào năm 2017: “Trừ khi chúng ta hủy diệt chính mình trước, trí tuệ nhân tạo siêu phàm sẽ xuất hiện”. “Như chúng ta đã biết, tiến bộ khoa học cuối cùng sẽ xảy ra nếu các định luật vật lý không ngăn cản nó.”
Chúng ta đã học được chưa? Tôi không thấy bằng chứng nào cho thấy bất cứ thứ gì có thể phát minh được sẽ được phát minh ra. (Như Katja Grace, nhà nghiên cứu chính của Impact of Artificial Intelligence viết: “Hãy nghĩ về một chiếc máy phun cứt vào mắt bạn. Về mặt kỹ thuật, chúng tôi có thể làm được điều đó, nhưng có lẽ chưa ai từng chế tạo một chiếc máy như vậy.”) Mọi người dường như có xu hướng thích hơn theo đuổi sự đổi mới khi bị thúc đẩy bởi áp lực kinh tế, xã hội hoặc ý thức hệ mạnh mẽ.
Trong cơn sốt AGI ở Thung lũng Silicon, áp lực xã hội và ý thức hệ được tạo ra bởi những ý tưởng tôn giáo được sáng tạo lại dưới chiêu bài siêu nhân loại, lòng vị tha hiệu quả và chủ nghĩa lâu dài. Về áp lực kinh tế và lợi nhuận, chúng luôn hiện hữu ở Thung lũng Silicon.
Một cuộc thăm dò của Reuters vào tháng 5 cho thấy 61% người Mỹ hiện tin rằng trí tuệ nhân tạo có thể đe dọa nền văn minh nhân loại, một quan điểm đặc biệt mạnh mẽ trong số những người theo đạo Tin lành. Đối với học giả nghiên cứu tôn giáo Geraci, điều này không có gì đáng ngạc nhiên. Ông lưu ý rằng logic về ngày tận thế là "rất, rất, rất mạnh mẽ trong Cơ đốc giáo Tin lành ở Mỹ" - đến mức cứ 10 người Mỹ trưởng thành thì có 4 người tin rằng nhân loại đang sống trong thời kỳ cuối cùng.
Thật không may, logic ngày tận thế thường sinh ra chủ nghĩa cuồng tín nguy hiểm. Vào thời Trung cổ, khi một đấng cứu thế giả xuất hiện, mọi người sẽ từ bỏ của cải trần thế để đi theo nhà tiên tri của họ. Ngày nay, khi tin tức về ngày tận thế của AI tràn ngập trên các phương tiện truyền thông, những tín đồ thực sự đang bỏ học đại học để nghiên cứu về sự an toàn của AI. Logic của ngày tận thế hay sự cứu chuộc, thiên đường hay địa ngục, thúc đẩy con người chấp nhận rủi ro lớn - cam kết với điều đó.
Trong một cuộc phỏng vấn với tôi năm ngoái, MacAskill đã phủ nhận các hoạt động cờ bạc cực đoan. Anh ấy kể với tôi rằng trong trí tưởng tượng của anh ấy, một loại anh em công nghệ nào đó ở Thung lũng Silicon tin rằng có 5% khả năng tử vong vì thảm họa AGI, và 10% khả năng AGI sẽ mang đến một điều không tưởng hạnh phúc, và họ sẽ sẵn lòng. để nắm bắt những cơ hội này. Hãy xây dựng AGI một cách vội vàng.
"Tôi không muốn những người như thế này xây dựng AGI vì họ không phản ứng với các vấn đề đạo đức," MacAskill nói với tôi. "Có lẽ điều đó có nghĩa là chúng ta phải trì hoãn Điểm kỳ dị để làm cho nó an toàn hơn. Có lẽ điều đó có nghĩa là Điểm kỳ dị không diễn ra." trong cuộc đời tôi. Đó sẽ là một sự hy sinh to lớn."
Khi MacAskill nói với tôi điều này, tôi đã tưởng tượng ra hình ảnh Moses đang nhìn ra Đất Hứa nhưng biết rằng mình không thể chạm tới được. Tầm nhìn dài hạn dường như đòi hỏi ông phải có một niềm tin tàn bạo: cá nhân bạn sẽ không được cứu, nhưng con cháu tinh thần của bạn sẽ được cứu.
Chúng ta cần quyết định xem đây có phải là cách chúng ta muốn được cứu rỗi không
Không có gì sai khi tin rằng công nghệ về cơ bản có thể cải thiện vận mệnh của nhân loại. Theo nhiều cách, nó rõ ràng là có.
Ilia Delio, người có hai bằng tiến sĩ và giữ chức chủ tịch thần học tại Đại học Villanova, nói với tôi: “Công nghệ không phải là vấn đề. Trên thực tế, Delio tin chắc rằng chúng ta đang ở một giai đoạn tiến hóa mới, chuyển từ Homo sapiens”. đến “Người thông minh công nghệ.” ” là một quan điểm đáng hài lòng. Cô tin rằng chúng ta nên chủ động phát triển với sự trợ giúp của công nghệ với tinh thần cởi mở.
Nhưng cô ấy cũng hiểu rằng chúng ta cần phải hiểu rõ những giá trị nào ảnh hưởng đến công nghệ của chúng ta, "để chúng ta có thể phát triển công nghệ có mục đích -- và có đạo đức", cô nói. Nếu không thì "công nghệ mù quáng và tiềm ẩn nguy hiểm".
Geraci đồng ý. "Sẽ thật đáng sợ nếu nhiều người ở Thung lũng Silicon nói: 'Này, tôi ủng hộ công nghệ này vì nó sẽ khiến tôi bất tử'," anh ấy nói với tôi. "Nhưng nếu ai đó nói, 'Tôi ủng hộ công nghệ này, , bởi vì tôi nghĩ chúng ta có thể sử dụng nó để giải quyết nạn đói trên thế giới' -- đó là hai động lực rất khác nhau. Điều đó sẽ tác động đến loại sản phẩm bạn đang cố gắng thiết kế, những người bạn đang thiết kế cho và những người bạn đang cố gắng thiết kế để bao quanh bạn với cách nó được triển khai trên thế giới.
Trong khi cân nhắc kỹ lưỡng khi quyết định giá trị của công nghệ, bạn cũng phải nhận thức sâu sắc xem ai có quyền quyết định. Schwarz tin rằng các nhà thiết kế AI bán cho chúng ta tầm nhìn về những tiến bộ công nghệ cần thiết mà AI sẽ mang lại và tự coi mình là chuyên gia duy nhất về nó, điều này mang lại cho họ quyền lực to lớn - được cho là nhiều hơn những người được bầu cử dân chủ của chúng ta.
Schwarz nói: "Ý tưởng cho rằng việc phát triển trí tuệ nhân tạo là một quy luật tự nhiên sẽ trở thành một nguyên tắc ra lệnh, và nguyên tắc ra lệnh đó mang tính chính trị. Nó mang lại quyền lực chính trị cho một số người và ít quyền lực hơn cho hầu hết những người khác". “Đối với tôi, thật kỳ lạ khi nói ‘Chúng ta phải rất cẩn thận với AGI’ thay vì nói ‘Chúng ta không cần AGI, đó không phải là một phần của cuộc thảo luận.’ Nhưng chúng ta đã đạt đến điểm mà quyền lực được đặt vào được đối xử theo cách thậm chí không giống nhau. Cách chúng tôi được đưa ra các lựa chọn đã được củng cố và chúng tôi thậm chí có thể khuyến nghị chung rằng không nên theo đuổi AGI.
Chúng ta đi đến điểm này phần lớn là do trong hàng nghìn năm qua, phương Tây có nguy cơ rơi vào một câu chuyện duy nhất: câu chuyện mà chúng ta kế thừa từ các nhà tư tưởng tôn giáo thời Trung cổ vốn đánh đồng tiến bộ công nghệ với tiến bộ đạo đức.
Delio nói: "Đó là câu chuyện duy nhất mà chúng tôi có. Câu chuyện đó khiến chúng tôi lắng nghe các chuyên gia kỹ thuật (những người trước đây cũng là những người có thẩm quyền về mặt tinh thần) và xây dựng các giá trị cũng như giả định vào sản phẩm của họ."
"Giải pháp thay thế là gì? Nếu giải pháp thay thế là 'sống còn sống tự nó là một mục tiêu'," Delio nói thêm, "thì kỳ vọng của chúng tôi về công nghệ có thể hoàn toàn khác." "Nhưng chúng tôi không có câu chuyện đó! Câu chuyện chính thống của chúng tôi là về sáng tạo, phát minh, chế tạo và để chúng thay đổi chúng ta.”
Chúng ta cần phải quyết định loại sự cứu rỗi nào chúng ta muốn. Nếu sự nhiệt tình của chúng ta đối với trí tuệ nhân tạo xuất phát từ tầm nhìn vượt qua giới hạn của trái đất và cái chết của cơ thể, thì điều đó sẽ gây ra hậu quả xã hội. Nhưng nếu chúng ta cam kết sử dụng công nghệ để cải thiện thế giới và hạnh phúc của những cơ thể này, chúng ta có thể đạt được những kết quả khác. Như Noble đã nói, chúng ta có thể “bắt đầu hướng những khả năng tuyệt vời của mình vào những mục đích thế tục và nhân đạo hơn”.