Sumber gambar: dihasilkan oleh alat AI Tanpa Batas
Ini bukan suatu kebetulan – agama dan teknologi telah saling terkait selama berabad-abad.
Bagaimana jika saya memberi tahu Anda bahwa dalam 10 tahun dunia seperti yang Anda tahu akan berakhir. Anda akan hidup di surga tanpa penyakit, penuaan, atau kematian. Kehidupan kekal akan menjadi milikmu! Hebatnya lagi, otak Anda akan terbebas dari ketidakpastian -- dan Anda akan memperoleh pengetahuan yang sempurna. Anda tidak lagi terjebak di bumi, Anda bisa hidup di surga.
Jika saya menceritakan semua ini kepada Anda, apakah Anda akan menganggap saya sebagai pengkhotbah agama atau peneliti kecerdasan buatan?
Kedua tebakan itu masuk akal.
Semakin banyak Anda mendengarkan diskusi tentang kecerdasan buatan di Silicon Valley, semakin banyak pula gaung agama yang Anda dengar. Karena sebagian besar kegembiraan dalam membangun mesin super cerdas berasal dari daur ulang ide-ide keagamaan. Kebanyakan ahli teknologi sekuler yang membangun kecerdasan buatan tidak menyadari hal ini.
Pakar teknologi ini menyarankan untuk menyembunyikan kematian dengan mengunggah pemikiran kita ke cloud, tempat kita dapat hidup secara digital selamanya. Mereka menggambarkan kecerdasan buatan sebagai mekanisme pengambilan keputusan yang dapat menentukan dengan kepastian matematis apa yang optimal dan apa yang tidak. Mereka membayangkan kecerdasan umum buatan (AGI) – sebuah sistem hipotetis yang dapat menandingi kemampuan manusia dalam memecahkan masalah di banyak bidang – sebagai upaya yang dapat menjamin keselamatan umat manusia jika berjalan dengan baik, dan jika tidak, maka hal tersebut juga bisa terjadi. membawa bencana.
Visi-visi ini hampir identik dengan visi eskatologi Kristen, suatu cabang teologi yang berkaitan dengan "eskatologi" atau tujuan akhir umat manusia.
Eskatologi Kristen memberi tahu kita bahwa kita semua sedang menuju “empat hal terakhir”: kematian, penghakiman, surga atau neraka. Mereka yang telah meninggal akan dibangkitkan pada Kedatangan Kedua Kristus dan akan menemukan takdir kekal. Jiwa kita akan menghadapi penghakiman terakhir dari Tuhan, pengambil keputusan yang sempurna. Kalau lancar kita akan naik ke surga, tapi kalau tidak berjalan baik kita akan jatuh ke neraka.
Lima tahun lalu, ketika saya mulai menghadiri konferensi di Silicon Valley dan pertama kali menyadari kesamaan antara topik agama dan kecerdasan buatan, saya memikirkan penjelasan psikologis sederhana. Keduanya merupakan respons terhadap kecemasan inti manusia: kematian; kesulitan mengetahui apa yang kita lakukan benar atau salah; ketidaktahuan akan makna hidup dan tempat utama kita di alam semesta ini -- atau alam semesta berikutnya. Para pemikir agama dan AI baru saja menemukan jawaban serupa atas pertanyaan-pertanyaan yang menyusahkan kita semua.
Jadi saya terkejut saat mengetahui bahwa hubungannya jauh lebih dalam dari itu.
“Agama dan teknologi telah saling terkait selama berabad-abad, meskipun beberapa orang akan mengatakan kepada Anda bahwa sains bersifat netral terhadap nilai dan tidak ada hubungannya dengan hal-hal seperti agama,” kata Robert Geraci, profesor studi agama di Manhattan College dan penulis “Apocalyptic AI." Itu tidak benar. Itu tidak pernah terjadi."
Faktanya, para sejarawan yang menelusuri pengaruh pemikiran keagamaan percaya bahwa mulai dari para teolog Kristen di Abad Pertengahan hingga bapak empirisme di zaman Renaisans hingga futuris Ray Kurzweil dan mereka yang dipengaruhi olehnya dari para petinggi teknologi Silicon Valley, kita dapat menarik kesimpulan yang lurus. garis.
Kadang-kadang, beberapa orang masih samar-samar merasakan kesamaannya. Jack Clark, salah satu pendiri perusahaan keamanan kecerdasan buatan Anthropic, menulis di Twitter pada bulan Maret: "Saya terkadang berpikir bahwa antusiasme masyarakat terhadap AGI adalah dorongan keagamaan yang salah dari budaya sekuler."
Namun, sebagian besar mereka yang memandang AGI sebagai bentuk eskatologi teknologi—mulai dari Sam Altman, CEO pembuat ChatGPT OpenAI hingga Elon Musk, yang ingin menghubungkan otak ke komputer—berbicara dalam istilah sekuler. Mereka tidak menyadari, atau tidak mau mengakui, bahwa visi yang mereka ajukan sebagian besar menyatu dengan pemikiran keagamaan kuno.
Namun penting untuk mengetahui dari mana ide-ide ini berasal. Hal ini bukan karena “agama” bersifat merendahkan; hanya karena sebuah ide bersifat religius bukan berarti ada yang salah dengan ide tersebut (seringkali yang terjadi justru sebaliknya). Sebaliknya, kita harus memahami sejarah gagasan-gagasan ini—misalnya, kehidupan setelah kematian sebagai bentuk keselamatan, atau kemajuan moral yang dipahami sebagai kemajuan teknologi—sehingga kita memahami bahwa gagasan-gagasan tersebut tidak dapat diubah atau tidak dapat dihindari; beberapa orang Ide-ide ini diajukan pada saat-saat tertentu. waktu untuk tujuan tertentu, tetapi tujuan lain ada jika kita menginginkannya. Kita tidak harus terjerumus ke dalam bahaya satu cerita pun.
“Kita harus berhati-hati dengan narasi yang kita terima,” kata Elke Schwarz, ahli teori politik di Queen Mary University of London yang mempelajari etika kecerdasan buatan militer. “Setiap kali kita berbicara tentang sesuatu yang religius, ada sesuatu yang sakral di dalamnya. sakral Itu bisa menyakitkan karena jika sesuatu itu sakral, ada baiknya melakukan yang terburuk untuk itu."
Konsep kecerdasan buatan selalu sangat religius
Dalam agama-agama Ibrahim yang membentuk negara-negara Barat, semuanya bermula dari rasa malu.
Ingat apa yang terjadi dalam Kejadian? Ketika Adam dan Hawa makan dari Pohon Pengetahuan, Tuhan mengusir mereka dari Taman Eden dan menjadikan mereka semua penghinaan daging dan darah: kerja keras dan kesakitan, kelahiran dan kematian. Setelah kejatuhan dari kasih karunia, umat manusia tidak pernah sama lagi. Sebelum kita berdosa, kita adalah makhluk sempurna yang diciptakan menurut gambar Allah; sekarang, kita adalah kulit yang menyedihkan.
Namun pada Abad Pertengahan, para pemikir Kristen mengajukan gagasan radikal, sebagaimana dijelaskan oleh sejarawan David Noble dalam bukunya The Religion of Technology. Bagaimana jika teknologi dapat membantu kita memulihkan umat manusia ke kondisi kesempurnaan sebelum Kejatuhan?
Misalnya, filsuf berpengaruh abad kesembilan, John Scotus Eriugena, menyatakan bahwa salah satu makna penciptaan Adam menurut gambar Allah adalah bahwa ia adalah pencipta, pencipta. Oleh karena itu, kita harus mendekatkan diri pada aspek diri kita ini jika kita ingin mengembalikan umat manusia ke kesempurnaan seperti Tuhan sebelum kejatuhan Adam. Eriugena menulis bahwa "seni mekanik" (juga dikenal sebagai teknologi) adalah "hubungan manusia dengan Tuhan, dan pengembangannya adalah sarana untuk menyelamatkan umat manusia."
Ide ini muncul di biara-biara abad pertengahan, di mana semboyan “ora et labora” (berdoa dan bekerja) mulai beredar. Bahkan selama masa yang disebut Abad Kegelapan, beberapa dari biara-biara ini menjadi pusat rekayasa, menghasilkan penemuan-penemuan seperti kincir air bertenaga pasang surut pertama dan pengeboran perkusi. Umat Katolik dikenal sebagai inovator; hingga saat ini, para insinyur memiliki empat santo pelindung dalam agama tersebut. Ada yang mengatakan Gereja Katolik adalah Lembah Silikon pada Abad Pertengahan, dan ada alasannya: Seperti yang saya catat dalam artikel tahun 2018 di The Atlantic, mulai dari "metalurgi, pabrik, dan notasi musik hingga jarum jam dan percetakan", Gereja Katolik Gereja sangat diperlukan.
Ini bukan penelitian untuk teknologi, juga bukan penelitian untuk mencari keuntungan. Sebaliknya, kemajuan ilmu pengetahuan dan teknologi identik dengan kemajuan moral. Dengan mengembalikan umat manusia ke kesempurnaan aslinya, kita dapat mengantarkan Kerajaan Allah. Seperti yang Noble tulis: “Teknologi telah menjadi sinonim dengan transendensi dan sangat terkait dengan gagasan penebusan Kristen”.
Gagasan abad pertengahan yang menyamakan kemajuan teknologi dengan kemajuan moral telah mempengaruhi generasi pemikir Kristen dan berlanjut hingga era modern. Pasangan Bakong menggambarkan bagaimana keyakinan inti yang sama – bahwa teknologi akan membawa keselamatan – mempengaruhi penganut agama tradisional dan mereka yang menganut pandangan dunia ilmiah.
Pada abad ke-13, alkemis Roger Bacon mendapat inspirasi dari nubuatan alkitabiah dalam upayanya menciptakan ramuan kehidupan yang akan menghasilkan kebangkitan serupa dengan yang dijelaskan oleh rasul Paulus. Bacon berharap ramuan ini tidak hanya membuat manusia abadi, tetapi juga memberi mereka kemampuan magis, seperti bepergian dengan kecepatan berpikir. Pada abad ke-16, Francis Bacon muncul. Di permukaan, dia tampak sangat berbeda dari pendahulunya - dia mengkritik alkimia, menganggapnya tidak ilmiah - tetapi dia meramalkan bahwa suatu hari kita akan menggunakan teknologi untuk mengalahkan kematian kita, "untuk memuliakan Sang Pencipta dan meringankan penderitaan manusia."
Pada masa Renaisans, orang-orang Eropa berani bermimpi bahwa kita dapat mengubah diri kita menjadi serupa dengan Tuhan, tidak hanya secara bertahap mencapai keabadian, tetapi juga menciptakan kesadaran dari benda mati.
Schwarz mencatat: “Di luar kemenangan atas kematian, kemungkinan menciptakan kehidupan baru adalah kekuatan tertinggi.”
Insinyur Kristen menciptakan robot -- robot kayu -- yang dapat bergerak dan berdoa. Menurut legenda, umat Islam menciptakan kepala mekanis yang berbicara seperti ramalan. Ada cerita dalam cerita rakyat Yahudi tentang para rabi yang menggunakan konjugasi bahasa magis untuk menghidupkan patung tanah liat (disebut "gambar lumpur"). Dalam cerita-cerita ini, patung-patung tanah liat terkadang menyelamatkan orang-orang Yahudi dari penganiayaan. Namun di lain waktu, tokoh tanah liat tersebut akan berubah menjadi pengkhianat, membunuh orang dan mencuri barang, serta menggunakan kekuatannya untuk melakukan kejahatan.
Ya, ini semua terdengar sangat familiar. Anda dapat mendengar kegelisahan yang sama dalam buku matematikawan dan filsuf Norbert Wiener tahun 1964 tentang risiko kecerdasan buatan, God & Golem, Inc., dan dalam banyak surat terbuka yang saat ini diterbitkan oleh para pakar teknologi. Mereka memperingatkan bahwa AGI akan memberi kita keselamatan atau malapetaka.
Membaca pernyataan ini, Anda mungkin bertanya: Jika AGI mengancam kiamat dan menjanjikan keselamatan, mengapa kita menciptakan AGI? Mengapa tidak membatasi diri kita pada penciptaan bentuk-bentuk kecerdasan buatan yang lebih sempit – yang sudah dapat menghasilkan keajaiban dalam aplikasi seperti mengobati penyakit – dan tetap menggunakannya untuk sementara waktu?
Untuk mengetahuinya, ikuti saya sedikit lebih jauh ke belakang dalam sejarah saat kita mulai memahami bagaimana tiga gerakan baru-baru ini yang saling terkait membentuk visi Silicon Valley untuk kecerdasan buatan.
Menuju Transhumanisme, Altruisme Efektif, dan Jangka Panjang
Menurut banyak catatan, ketika Charles Darwin menerbitkan teori evolusinya pada tahun 1859, semua pemikir agama langsung memandangnya sebagai ancaman sesat yang mengerikan terhadap umat manusia, ciptaan Tuhan yang paling saleh. Namun beberapa pemikir Kristen melihatnya sebagai sebuah pakaian baru yang mencolok dari nubuatan spiritual kuno. Lagi pula, gagasan keagamaan tidak pernah benar-benar mati, mereka hanya mendapat baju baru.
Contoh tipikalnya adalah Pierre Teilhard de Chardin, seorang pendeta Jesuit Perancis yang juga mempelajari paleontologi pada awal abad ke-20. Ia yakin bahwa didorong oleh teknologi, evolusi manusia sebenarnya adalah pembawa kerajaan Tuhan.Integrasi manusia dan mesin akan berujung pada ledakan kecerdasan yang disebutnya Omega Point. Kesadaran kita akan memasuki "keadaan supra-sadar" di mana kita menyatu dengan Tuhan dan menjadi spesies baru.
Seperti yang didokumentasikan oleh penulis Meghan O'Gieblyn dalam bukunya God, Man, Animal, Machine yang terbit tahun 2021, ahli biologi evolusi Aldous Huxley adalah presiden British Humanist Association dan British Eugenics Society. Huxley mempopulerkan gagasan Teilhard bahwa kita harus menggunakan teknologi untuk mengembangkan spesies kita, menyebutnya "transhumanisme".
Hal ini kemudian memengaruhi futuris Ray Kurzweil, yang pada dasarnya membuat prediksi yang sama dengan Teilhard: Kita akan memasuki era integrasi kecerdasan manusia dan kecerdasan mesin, dan kecerdasan manusia akan menjadi sangat kuat. Namun alih-alih menyebutnya "Titik Omega", Kurzweil menamainya "Titik Singularitas".
“Manusia dan teknologi komputasi yang mereka ciptakan akan mampu memecahkan masalah-masalah kuno... dan akan mengubah sifat kematian di masa depan pasca-biologis,” tulis Kurzweil dalam buku terlaris nasionalnya tahun 1999, The Age of Ingenuity. Perjanjian Baru Menurut Kitab Wahyu: "Kematian tidak ada lagi, tidak ada lagi perkabungan, tangisan, atau rasa sakit, karena hal-hal yang dahulu sudah berlalu.")
Kurzweil mengakui kesamaan spiritual di antara keduanya, seperti halnya mereka yang secara eksplisit telah membentuk gerakan keagamaan seputar penyembahan kecerdasan buatan atau menggunakan kecerdasan buatan untuk menggerakkan manusia menuju kesalehan, mulai dari gerakan Terasem karya Martine Rothblatt, Asosiasi Manusia Super Mormon, hingga Way of Anthony Levandowski yang berumur pendek. gereja masa depan. Namun banyak orang, seperti filsuf Universitas Oxford Nick Bostrom, bersikeras bahwa transhumanisme berbeda dari agama dan bergantung pada “alasan kritis dan bukti ilmiah terbaik yang kita miliki.”
Saat ini, transhumanisme mempunyai saudara lain, gerakan lain yang lahir di Oxford dan berkembang di Silicon Valley: Altruisme Efektif (EA), yang tujuannya adalah mencari cara untuk berbuat sebaik mungkin bagi banyak orang. Penganut altruis yang efektif juga mengatakan bahwa pendekatan mereka berakar pada alasan dan bukti sekuler.
Namun, altruisme yang efektif sebenarnya dalam banyak hal sama dengan agama: secara fungsional (menyatukan kelompok yang dibangun berdasarkan visi bersama tentang kehidupan moral), secara struktural (memiliki hierarki pemimpin kenabian, teks klasik, festival dan ritual) dan secara estetis. (itu mempromosikan persepuluhan dan menyukai asketisme). Yang paling penting, ini memberikan eskatologi.
Eskatologi altruisme yang efektif hadir dalam bentuk pandangannya yang paling kontroversial, jangka panjang, yang pernah digambarkan Musk sebagai "sangat konsisten dengan filosofi saya". Argumennya adalah cara terbaik untuk membantu banyak orang adalah dengan fokus memastikan kelangsungan hidup umat manusia di masa depan yang jauh (katakanlah, jutaan tahun dari sekarang), ketika mungkin ada miliaran orang lebih banyak daripada yang kita miliki sekarang -- dengan asumsi spesies kita tidak akan punah. Pertama.
Dari sini kita mulai mendapatkan jawaban atas pertanyaan mengapa para teknolog berupaya membangun AGI.
Kemajuan AI sebagai Kemajuan Moral
Bagi penganut altruis yang efektif dan penganut jangka panjang, hanya memaksakan AI yang sempit bukanlah suatu pilihan. Filsuf Universitas Oxford Will MacAskill disebut sebagai "nabi yang enggan" dalam altruisme yang efektif dan jangka panjang. Dalam bukunya yang terbit tahun 2022, What We Owe the Future, ia menjelaskan mengapa ia yakin stagnasi kemajuan teknologi tidak dapat diterima. “Periode stagnasi,” tulisnya, “dapat meningkatkan risiko kepunahan dan keruntuhan permanen.”
Ia mengutip rekannya, Toby Ord, yang memperkirakan bahwa ada satu dari enam kemungkinan kepunahan manusia pada abad mendatang akibat risiko seperti AI yang tidak bertanggung jawab dan epidemi yang direkayasa. Rekan EA lainnya, Holden Karnofsky, juga percaya bahwa kita sedang hidup di "titik balik dalam sejarah" atau "abad paling penting" -- periode khusus dalam kisah manusia di mana kita akan berkembang lebih pesat atau mengalami kehancuran. MacAskill, seperti Musk, mengemukakan dalam bukunya bahwa cara terbaik untuk menghindari kepunahan adalah dengan menjajah planet lain sehingga kita tidak menaruh semua telur kita dalam satu keranjang.
Tapi itu hanya setengah dari "kasus moral untuk penyelesaian ruang angkasa" MacAskill. Separuh lainnya adalah kita harus berusaha keras untuk membuat peradaban manusia di masa depan menjadi sebesar dan seutopis mungkin. Seperti yang dikatakan rekan MacAskill di Oxford, Bostrom, “kolonisasi kosmik” akan memberi kita ruang dan sumber daya untuk menjalankan sejumlah besar simulasi digital yang akan memungkinkan manusia untuk hidup bahagia selamanya. Semakin besar ruangnya, semakin banyak manusia (digital) yang bahagia! Di sinilah letak sebagian besar nilai-nilai moral: bukan saat ini di bumi, tetapi di masa depan di surga… maaf, yang saya maksud adalah “kehidupan akhirat yang sebenarnya.”
Ketika kita menggabungkan semua gagasan ini dan menggeneralisasikannya, kita sampai pada proposisi dasar ini:
Kita mungkin tidak punya banyak waktu tersisa sebelum kehidupan yang kita tahu berakhir.
Oleh karena itu, kita perlu bertaruh pada sesuatu yang akan menyelamatkan kita.
Karena taruhannya sangat tinggi, kita harus bertaruh secukupnya dan berusaha sekuat tenaga.
Siapa pun yang mempelajari agama dapat langsung melihat apa ini: logika apokaliptik.
Kaum transhumanis, altruis yang efektif, dan penganut jangka panjang mewarisi pandangan bahwa akhir zaman sudah dekat dan bahwa kemajuan teknologi adalah peluang terbaik kita untuk maju sebagai sebuah peradaban. Bagi mereka yang bertindak berdasarkan logika ini, mengejar AGI mungkin tampak seperti hal yang mudah. Meskipun mereka percaya AGI menimbulkan risiko eksistensial yang signifikan, mereka percaya kita tidak bisa tidak membangun AGI karena ia mempunyai potensi untuk mendorong umat manusia dari masa remaja terestrial yang berbahaya (yang bisa berakhir kapan saja!) ke masa dewasa antarbintang yang sejahtera (begitu banyak orang yang bahagia, jadi banyak nilai-nilai beradab!). Tentu kita harus maju secara teknologi, karena itu berarti maju secara peradaban!
Namun apakah hal ini berakar pada alasan dan bukti? Ataukah itu berakar pada dogma?
Premis yang mendasarinya adalah determinisme teknologi, yang dipadukan dengan sedikit geopolitik. Idenya adalah meskipun Anda dan saya tidak menciptakan AI yang sangat kuat, orang lain atau negara lain akan melakukannya - jadi mengapa kita tidak ikut terlibat? Altman dari OpenAI mencontohkan keyakinan bahwa teknologi harus maju. Dia menulis di blognya pada tahun 2017: “Kecuali kita menghancurkan diri kita sendiri terlebih dahulu, kecerdasan buatan manusia super akan muncul.” Mengapa? “Seperti yang telah kita pelajari, kemajuan ilmu pengetahuan pada akhirnya akan terjadi jika hukum fisika tidak menghentikannya.”
Sudahkah kita belajar? Saya tidak melihat bukti bahwa apapun yang dapat ditemukan akan pernah ditemukan. (Seperti yang ditulis oleh ketua peneliti Dampak Kecerdasan Buatan, Katja Grace: “Bayangkan sebuah mesin yang meludahkan kotoran ke mata Anda. Secara teknis kami dapat melakukannya, tetapi mungkin belum ada yang pernah membuat mesin seperti itu.”) Orang-orang tampaknya lebih cenderung untuk melakukannya. mengejar inovasi ketika didorong oleh tekanan ekonomi, sosial, atau ideologi yang kuat.
Di tengah kegilaan AGI di Silicon Valley, tekanan sosial dan ideologis dihasilkan oleh penemuan kembali ide-ide keagamaan dengan kedok transhumanisme, altruisme yang efektif, dan jangka panjang. Mengenai tekanan ekonomi dan profitabilitas, hal tersebut selalu ada di Silicon Valley.
Jajak pendapat Reuters pada bulan Mei menunjukkan bahwa 61% warga Amerika kini percaya bahwa kecerdasan buatan dapat mengancam peradaban manusia, sebuah pandangan yang sangat kuat di kalangan umat Kristen Evangelis. Bagi pakar studi agama Geraci, hal ini tidak mengherankan. Dia mencatat bahwa logika apokaliptik "sangat, sangat, sangat kuat dalam agama Kristen Protestan Amerika" -- sedemikian rupa sehingga 4 dari 10 orang dewasa Amerika saat ini percaya bahwa umat manusia sedang hidup di akhir zaman.
Sayangnya, logika apokaliptik seringkali melahirkan fanatisme yang berbahaya. Pada Abad Pertengahan, ketika seorang mesias palsu muncul, orang-orang akan meninggalkan harta benda duniawi mereka untuk mengikuti nabi mereka. Saat ini, ketika pembicaraan tentang kiamat AI membanjiri media, orang-orang yang benar-benar beriman keluar dari perguruan tinggi untuk mempelajari keamanan AI. Logika kiamat atau penebusan, surga atau neraka, mendorong orang mengambil risiko besar -- berkomitmen pada hal tersebut.
Dalam wawancara dengan saya tahun lalu, MacAskill membantah praktik perjudian ekstrem. Dia mengatakan kepada saya bahwa dalam imajinasinya, saudara-saudara teknologi tertentu di Silicon Valley percaya bahwa ada 5% kemungkinan meninggal akibat bencana AGI, dan 10% kemungkinan AGI akan membawa utopia bahagia, dan mereka akan bersedia untuk menanggung peluang ini. Bangunlah AGI secepatnya.
“Saya tidak ingin orang-orang seperti ini membangun AGI karena mereka tidak responsif terhadap masalah etika,” kata MacAskill kepada saya. “Mungkin itu berarti kita harus menunda Singularitas agar lebih aman. Mungkin itu berarti Singularitas tidak akan berjalan. untuk terjadi dalam hidupku. Itu akan menjadi pengorbanan yang besar."
Ketika MacAskill menceritakan hal ini kepada saya, saya membayangkan gambaran Musa yang memandang ke Tanah Perjanjian tetapi mengetahui bahwa dia tidak dapat mencapainya. Visi jangka panjang sepertinya mengharuskan dia untuk memiliki keyakinan yang brutal: Anda secara pribadi tidak akan diselamatkan, tetapi keturunan spiritual Anda akan diselamatkan.
Kita perlu memutuskan apakah ini cara kita menginginkan keselamatan
Tidak ada salahnya jika kita percaya bahwa teknologi dapat memperbaiki nasib umat manusia secara mendasar. Dalam banyak hal, hal itu jelas terjadi.
“Teknologi bukanlah masalahnya,” kata Ilia Delio, yang memegang dua gelar Ph.D. dan ketua teologi di Universitas Villanova, kepada saya. Faktanya, Delio yakin bahwa kita sudah berada dalam tahap evolusi baru, transisi dari Homo sapiens hingga “Homo sapiens berteknologi.” ” Pandangan ini memuaskan. Ia percaya bahwa kita harus berevolusi secara proaktif dengan bantuan teknologi dan berpikiran terbuka.
Namun dia juga memahami bahwa kita perlu memperjelas nilai-nilai apa saja yang memengaruhi teknologi kita, “sehingga kita dapat mengembangkan teknologi dengan tujuan – dan dengan etika,” katanya. Jika tidak, “teknologi itu buta dan berpotensi berbahaya.”
Geraci setuju. “Akan menakutkan jika banyak orang di Silicon Valley berkata, 'Hei, saya mendukung teknologi ini karena teknologi ini akan membuat saya abadi,'" katanya kepada saya. "Tetapi jika seseorang berkata, 'Saya mendukung teknologi ini, . karena menurut saya kita bisa menggunakannya untuk mengatasi kelaparan dunia' -- itu adalah dua motivasi yang sangat berbeda. Hal ini akan berdampak pada jenis produk yang Anda coba desain, orang yang Anda desain, dan orang yang Anda coba untuk mengelilingi diri Anda dengan cara penerapannya di dunia.”
Saat Anda dengan cermat memutuskan nilai teknologi, Anda juga harus benar-benar menyadari siapa yang mempunyai wewenang untuk mengambil keputusan. Schwarz percaya bahwa para perancang AI memberikan kepada kita sebuah visi tentang kemajuan teknologi yang diperlukan AI dan menempatkan diri mereka sebagai satu-satunya ahli di bidang tersebut, yang memberi mereka kekuatan yang sangat besar -- bisa dibilang lebih besar daripada kekuasaan yang kita pilih secara demokratis.
"Gagasan bahwa mengembangkan kecerdasan buatan adalah hukum alam menjadi sebuah prinsip keteraturan, dan prinsip keteraturan itu bersifat politis. Prinsip ini memberikan kekuatan politik kepada sebagian orang dan lebih sedikit kekuasaan kepada sebagian besar orang lainnya," kata Schwarz. “Aneh bagi saya untuk mengatakan, 'Kita harus sangat berhati-hati dengan AGI,' dibandingkan dengan mengatakan, 'Kita tidak membutuhkan AGI, itu bukan bagian dari diskusi.' Namun kita telah mencapai titik di mana kekuasaan adalah hal yang penting. diperlakukan dengan cara yang tidak adil. Cara kita diberikan pilihan semakin kuat, dan kita bahkan secara kolektif dapat merekomendasikan agar AGI tidak ditindaklanjuti."
Kita sampai pada titik ini sebagian besar karena selama seribu tahun terakhir, Barat berada dalam bahaya terjerumus ke dalam satu narasi: kisah yang kita warisi dari para pemikir agama abad pertengahan yang menyamakan kemajuan teknologi dengan kemajuan moralitas.
“Itulah satu-satunya narasi yang kami miliki,” kata Delio. “Narasi tersebut mengarahkan kami untuk mendengarkan para ahli teknis (yang, di masa lalu, juga merupakan otoritas spiritual) dan membangun nilai-nilai dan asumsi ke dalam produk mereka.”
"Apa alternatifnya? Jika alternatifnya adalah 'hidup adalah sebuah tujuan tersendiri,'" tambah Delio, "maka ekspektasi kita terhadap teknologi mungkin akan sangat berbeda." menciptakan, menemukan, membuat, dan membiarkan mereka mengubah kita.”
Kita perlu memutuskan keselamatan seperti apa yang kita inginkan. Jika antusiasme kita terhadap kecerdasan buatan berasal dari visi melampaui batas-batas bumi dan kematian tubuh, hal ini akan mempunyai konsekuensi sosial. Namun jika kita berkomitmen untuk menggunakan teknologi untuk memperbaiki dunia dan kesejahteraan dunia, kita dapat mencapai hasil yang berbeda. Seperti yang dikatakan Noble, kita bisa "mulai mengarahkan kemampuan luar biasa kita ke arah tujuan yang lebih sekuler dan manusiawi".
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Visi AI Silicon Valley? Itulah gaung dari agama yang dikemas ulang
Ditulis oleh Sigal Samuel
Sumber: Vox
Bagaimana jika saya memberi tahu Anda bahwa dalam 10 tahun dunia seperti yang Anda tahu akan berakhir. Anda akan hidup di surga tanpa penyakit, penuaan, atau kematian. Kehidupan kekal akan menjadi milikmu! Hebatnya lagi, otak Anda akan terbebas dari ketidakpastian -- dan Anda akan memperoleh pengetahuan yang sempurna. Anda tidak lagi terjebak di bumi, Anda bisa hidup di surga.
Jika saya menceritakan semua ini kepada Anda, apakah Anda akan menganggap saya sebagai pengkhotbah agama atau peneliti kecerdasan buatan?
Kedua tebakan itu masuk akal.
Semakin banyak Anda mendengarkan diskusi tentang kecerdasan buatan di Silicon Valley, semakin banyak pula gaung agama yang Anda dengar. Karena sebagian besar kegembiraan dalam membangun mesin super cerdas berasal dari daur ulang ide-ide keagamaan. Kebanyakan ahli teknologi sekuler yang membangun kecerdasan buatan tidak menyadari hal ini.
Pakar teknologi ini menyarankan untuk menyembunyikan kematian dengan mengunggah pemikiran kita ke cloud, tempat kita dapat hidup secara digital selamanya. Mereka menggambarkan kecerdasan buatan sebagai mekanisme pengambilan keputusan yang dapat menentukan dengan kepastian matematis apa yang optimal dan apa yang tidak. Mereka membayangkan kecerdasan umum buatan (AGI) – sebuah sistem hipotetis yang dapat menandingi kemampuan manusia dalam memecahkan masalah di banyak bidang – sebagai upaya yang dapat menjamin keselamatan umat manusia jika berjalan dengan baik, dan jika tidak, maka hal tersebut juga bisa terjadi. membawa bencana.
Visi-visi ini hampir identik dengan visi eskatologi Kristen, suatu cabang teologi yang berkaitan dengan "eskatologi" atau tujuan akhir umat manusia.
Eskatologi Kristen memberi tahu kita bahwa kita semua sedang menuju “empat hal terakhir”: kematian, penghakiman, surga atau neraka. Mereka yang telah meninggal akan dibangkitkan pada Kedatangan Kedua Kristus dan akan menemukan takdir kekal. Jiwa kita akan menghadapi penghakiman terakhir dari Tuhan, pengambil keputusan yang sempurna. Kalau lancar kita akan naik ke surga, tapi kalau tidak berjalan baik kita akan jatuh ke neraka.
Lima tahun lalu, ketika saya mulai menghadiri konferensi di Silicon Valley dan pertama kali menyadari kesamaan antara topik agama dan kecerdasan buatan, saya memikirkan penjelasan psikologis sederhana. Keduanya merupakan respons terhadap kecemasan inti manusia: kematian; kesulitan mengetahui apa yang kita lakukan benar atau salah; ketidaktahuan akan makna hidup dan tempat utama kita di alam semesta ini -- atau alam semesta berikutnya. Para pemikir agama dan AI baru saja menemukan jawaban serupa atas pertanyaan-pertanyaan yang menyusahkan kita semua.
Jadi saya terkejut saat mengetahui bahwa hubungannya jauh lebih dalam dari itu.
“Agama dan teknologi telah saling terkait selama berabad-abad, meskipun beberapa orang akan mengatakan kepada Anda bahwa sains bersifat netral terhadap nilai dan tidak ada hubungannya dengan hal-hal seperti agama,” kata Robert Geraci, profesor studi agama di Manhattan College dan penulis “Apocalyptic AI." Itu tidak benar. Itu tidak pernah terjadi."
Faktanya, para sejarawan yang menelusuri pengaruh pemikiran keagamaan percaya bahwa mulai dari para teolog Kristen di Abad Pertengahan hingga bapak empirisme di zaman Renaisans hingga futuris Ray Kurzweil dan mereka yang dipengaruhi olehnya dari para petinggi teknologi Silicon Valley, kita dapat menarik kesimpulan yang lurus. garis.
Kadang-kadang, beberapa orang masih samar-samar merasakan kesamaannya. Jack Clark, salah satu pendiri perusahaan keamanan kecerdasan buatan Anthropic, menulis di Twitter pada bulan Maret: "Saya terkadang berpikir bahwa antusiasme masyarakat terhadap AGI adalah dorongan keagamaan yang salah dari budaya sekuler."
Namun, sebagian besar mereka yang memandang AGI sebagai bentuk eskatologi teknologi—mulai dari Sam Altman, CEO pembuat ChatGPT OpenAI hingga Elon Musk, yang ingin menghubungkan otak ke komputer—berbicara dalam istilah sekuler. Mereka tidak menyadari, atau tidak mau mengakui, bahwa visi yang mereka ajukan sebagian besar menyatu dengan pemikiran keagamaan kuno.
Namun penting untuk mengetahui dari mana ide-ide ini berasal. Hal ini bukan karena “agama” bersifat merendahkan; hanya karena sebuah ide bersifat religius bukan berarti ada yang salah dengan ide tersebut (seringkali yang terjadi justru sebaliknya). Sebaliknya, kita harus memahami sejarah gagasan-gagasan ini—misalnya, kehidupan setelah kematian sebagai bentuk keselamatan, atau kemajuan moral yang dipahami sebagai kemajuan teknologi—sehingga kita memahami bahwa gagasan-gagasan tersebut tidak dapat diubah atau tidak dapat dihindari; beberapa orang Ide-ide ini diajukan pada saat-saat tertentu. waktu untuk tujuan tertentu, tetapi tujuan lain ada jika kita menginginkannya. Kita tidak harus terjerumus ke dalam bahaya satu cerita pun.
“Kita harus berhati-hati dengan narasi yang kita terima,” kata Elke Schwarz, ahli teori politik di Queen Mary University of London yang mempelajari etika kecerdasan buatan militer. “Setiap kali kita berbicara tentang sesuatu yang religius, ada sesuatu yang sakral di dalamnya. sakral Itu bisa menyakitkan karena jika sesuatu itu sakral, ada baiknya melakukan yang terburuk untuk itu."
Konsep kecerdasan buatan selalu sangat religius
Dalam agama-agama Ibrahim yang membentuk negara-negara Barat, semuanya bermula dari rasa malu.
Ingat apa yang terjadi dalam Kejadian? Ketika Adam dan Hawa makan dari Pohon Pengetahuan, Tuhan mengusir mereka dari Taman Eden dan menjadikan mereka semua penghinaan daging dan darah: kerja keras dan kesakitan, kelahiran dan kematian. Setelah kejatuhan dari kasih karunia, umat manusia tidak pernah sama lagi. Sebelum kita berdosa, kita adalah makhluk sempurna yang diciptakan menurut gambar Allah; sekarang, kita adalah kulit yang menyedihkan.
Namun pada Abad Pertengahan, para pemikir Kristen mengajukan gagasan radikal, sebagaimana dijelaskan oleh sejarawan David Noble dalam bukunya The Religion of Technology. Bagaimana jika teknologi dapat membantu kita memulihkan umat manusia ke kondisi kesempurnaan sebelum Kejatuhan?
Misalnya, filsuf berpengaruh abad kesembilan, John Scotus Eriugena, menyatakan bahwa salah satu makna penciptaan Adam menurut gambar Allah adalah bahwa ia adalah pencipta, pencipta. Oleh karena itu, kita harus mendekatkan diri pada aspek diri kita ini jika kita ingin mengembalikan umat manusia ke kesempurnaan seperti Tuhan sebelum kejatuhan Adam. Eriugena menulis bahwa "seni mekanik" (juga dikenal sebagai teknologi) adalah "hubungan manusia dengan Tuhan, dan pengembangannya adalah sarana untuk menyelamatkan umat manusia."
Ide ini muncul di biara-biara abad pertengahan, di mana semboyan “ora et labora” (berdoa dan bekerja) mulai beredar. Bahkan selama masa yang disebut Abad Kegelapan, beberapa dari biara-biara ini menjadi pusat rekayasa, menghasilkan penemuan-penemuan seperti kincir air bertenaga pasang surut pertama dan pengeboran perkusi. Umat Katolik dikenal sebagai inovator; hingga saat ini, para insinyur memiliki empat santo pelindung dalam agama tersebut. Ada yang mengatakan Gereja Katolik adalah Lembah Silikon pada Abad Pertengahan, dan ada alasannya: Seperti yang saya catat dalam artikel tahun 2018 di The Atlantic, mulai dari "metalurgi, pabrik, dan notasi musik hingga jarum jam dan percetakan", Gereja Katolik Gereja sangat diperlukan.
Ini bukan penelitian untuk teknologi, juga bukan penelitian untuk mencari keuntungan. Sebaliknya, kemajuan ilmu pengetahuan dan teknologi identik dengan kemajuan moral. Dengan mengembalikan umat manusia ke kesempurnaan aslinya, kita dapat mengantarkan Kerajaan Allah. Seperti yang Noble tulis: “Teknologi telah menjadi sinonim dengan transendensi dan sangat terkait dengan gagasan penebusan Kristen”.
Gagasan abad pertengahan yang menyamakan kemajuan teknologi dengan kemajuan moral telah mempengaruhi generasi pemikir Kristen dan berlanjut hingga era modern. Pasangan Bakong menggambarkan bagaimana keyakinan inti yang sama – bahwa teknologi akan membawa keselamatan – mempengaruhi penganut agama tradisional dan mereka yang menganut pandangan dunia ilmiah.
Pada abad ke-13, alkemis Roger Bacon mendapat inspirasi dari nubuatan alkitabiah dalam upayanya menciptakan ramuan kehidupan yang akan menghasilkan kebangkitan serupa dengan yang dijelaskan oleh rasul Paulus. Bacon berharap ramuan ini tidak hanya membuat manusia abadi, tetapi juga memberi mereka kemampuan magis, seperti bepergian dengan kecepatan berpikir. Pada abad ke-16, Francis Bacon muncul. Di permukaan, dia tampak sangat berbeda dari pendahulunya - dia mengkritik alkimia, menganggapnya tidak ilmiah - tetapi dia meramalkan bahwa suatu hari kita akan menggunakan teknologi untuk mengalahkan kematian kita, "untuk memuliakan Sang Pencipta dan meringankan penderitaan manusia."
Pada masa Renaisans, orang-orang Eropa berani bermimpi bahwa kita dapat mengubah diri kita menjadi serupa dengan Tuhan, tidak hanya secara bertahap mencapai keabadian, tetapi juga menciptakan kesadaran dari benda mati.
Schwarz mencatat: “Di luar kemenangan atas kematian, kemungkinan menciptakan kehidupan baru adalah kekuatan tertinggi.”
Insinyur Kristen menciptakan robot -- robot kayu -- yang dapat bergerak dan berdoa. Menurut legenda, umat Islam menciptakan kepala mekanis yang berbicara seperti ramalan. Ada cerita dalam cerita rakyat Yahudi tentang para rabi yang menggunakan konjugasi bahasa magis untuk menghidupkan patung tanah liat (disebut "gambar lumpur"). Dalam cerita-cerita ini, patung-patung tanah liat terkadang menyelamatkan orang-orang Yahudi dari penganiayaan. Namun di lain waktu, tokoh tanah liat tersebut akan berubah menjadi pengkhianat, membunuh orang dan mencuri barang, serta menggunakan kekuatannya untuk melakukan kejahatan.
Ya, ini semua terdengar sangat familiar. Anda dapat mendengar kegelisahan yang sama dalam buku matematikawan dan filsuf Norbert Wiener tahun 1964 tentang risiko kecerdasan buatan, God & Golem, Inc., dan dalam banyak surat terbuka yang saat ini diterbitkan oleh para pakar teknologi. Mereka memperingatkan bahwa AGI akan memberi kita keselamatan atau malapetaka.
Membaca pernyataan ini, Anda mungkin bertanya: Jika AGI mengancam kiamat dan menjanjikan keselamatan, mengapa kita menciptakan AGI? Mengapa tidak membatasi diri kita pada penciptaan bentuk-bentuk kecerdasan buatan yang lebih sempit – yang sudah dapat menghasilkan keajaiban dalam aplikasi seperti mengobati penyakit – dan tetap menggunakannya untuk sementara waktu?
Untuk mengetahuinya, ikuti saya sedikit lebih jauh ke belakang dalam sejarah saat kita mulai memahami bagaimana tiga gerakan baru-baru ini yang saling terkait membentuk visi Silicon Valley untuk kecerdasan buatan.
Menuju Transhumanisme, Altruisme Efektif, dan Jangka Panjang
Menurut banyak catatan, ketika Charles Darwin menerbitkan teori evolusinya pada tahun 1859, semua pemikir agama langsung memandangnya sebagai ancaman sesat yang mengerikan terhadap umat manusia, ciptaan Tuhan yang paling saleh. Namun beberapa pemikir Kristen melihatnya sebagai sebuah pakaian baru yang mencolok dari nubuatan spiritual kuno. Lagi pula, gagasan keagamaan tidak pernah benar-benar mati, mereka hanya mendapat baju baru.
Contoh tipikalnya adalah Pierre Teilhard de Chardin, seorang pendeta Jesuit Perancis yang juga mempelajari paleontologi pada awal abad ke-20. Ia yakin bahwa didorong oleh teknologi, evolusi manusia sebenarnya adalah pembawa kerajaan Tuhan.Integrasi manusia dan mesin akan berujung pada ledakan kecerdasan yang disebutnya Omega Point. Kesadaran kita akan memasuki "keadaan supra-sadar" di mana kita menyatu dengan Tuhan dan menjadi spesies baru.
Seperti yang didokumentasikan oleh penulis Meghan O'Gieblyn dalam bukunya God, Man, Animal, Machine yang terbit tahun 2021, ahli biologi evolusi Aldous Huxley adalah presiden British Humanist Association dan British Eugenics Society. Huxley mempopulerkan gagasan Teilhard bahwa kita harus menggunakan teknologi untuk mengembangkan spesies kita, menyebutnya "transhumanisme".
Hal ini kemudian memengaruhi futuris Ray Kurzweil, yang pada dasarnya membuat prediksi yang sama dengan Teilhard: Kita akan memasuki era integrasi kecerdasan manusia dan kecerdasan mesin, dan kecerdasan manusia akan menjadi sangat kuat. Namun alih-alih menyebutnya "Titik Omega", Kurzweil menamainya "Titik Singularitas".
“Manusia dan teknologi komputasi yang mereka ciptakan akan mampu memecahkan masalah-masalah kuno... dan akan mengubah sifat kematian di masa depan pasca-biologis,” tulis Kurzweil dalam buku terlaris nasionalnya tahun 1999, The Age of Ingenuity. Perjanjian Baru Menurut Kitab Wahyu: "Kematian tidak ada lagi, tidak ada lagi perkabungan, tangisan, atau rasa sakit, karena hal-hal yang dahulu sudah berlalu.")
Kurzweil mengakui kesamaan spiritual di antara keduanya, seperti halnya mereka yang secara eksplisit telah membentuk gerakan keagamaan seputar penyembahan kecerdasan buatan atau menggunakan kecerdasan buatan untuk menggerakkan manusia menuju kesalehan, mulai dari gerakan Terasem karya Martine Rothblatt, Asosiasi Manusia Super Mormon, hingga Way of Anthony Levandowski yang berumur pendek. gereja masa depan. Namun banyak orang, seperti filsuf Universitas Oxford Nick Bostrom, bersikeras bahwa transhumanisme berbeda dari agama dan bergantung pada “alasan kritis dan bukti ilmiah terbaik yang kita miliki.”
Saat ini, transhumanisme mempunyai saudara lain, gerakan lain yang lahir di Oxford dan berkembang di Silicon Valley: Altruisme Efektif (EA), yang tujuannya adalah mencari cara untuk berbuat sebaik mungkin bagi banyak orang. Penganut altruis yang efektif juga mengatakan bahwa pendekatan mereka berakar pada alasan dan bukti sekuler.
Namun, altruisme yang efektif sebenarnya dalam banyak hal sama dengan agama: secara fungsional (menyatukan kelompok yang dibangun berdasarkan visi bersama tentang kehidupan moral), secara struktural (memiliki hierarki pemimpin kenabian, teks klasik, festival dan ritual) dan secara estetis. (itu mempromosikan persepuluhan dan menyukai asketisme). Yang paling penting, ini memberikan eskatologi.
Eskatologi altruisme yang efektif hadir dalam bentuk pandangannya yang paling kontroversial, jangka panjang, yang pernah digambarkan Musk sebagai "sangat konsisten dengan filosofi saya". Argumennya adalah cara terbaik untuk membantu banyak orang adalah dengan fokus memastikan kelangsungan hidup umat manusia di masa depan yang jauh (katakanlah, jutaan tahun dari sekarang), ketika mungkin ada miliaran orang lebih banyak daripada yang kita miliki sekarang -- dengan asumsi spesies kita tidak akan punah. Pertama.
Dari sini kita mulai mendapatkan jawaban atas pertanyaan mengapa para teknolog berupaya membangun AGI.
Kemajuan AI sebagai Kemajuan Moral
Bagi penganut altruis yang efektif dan penganut jangka panjang, hanya memaksakan AI yang sempit bukanlah suatu pilihan. Filsuf Universitas Oxford Will MacAskill disebut sebagai "nabi yang enggan" dalam altruisme yang efektif dan jangka panjang. Dalam bukunya yang terbit tahun 2022, What We Owe the Future, ia menjelaskan mengapa ia yakin stagnasi kemajuan teknologi tidak dapat diterima. “Periode stagnasi,” tulisnya, “dapat meningkatkan risiko kepunahan dan keruntuhan permanen.”
Ia mengutip rekannya, Toby Ord, yang memperkirakan bahwa ada satu dari enam kemungkinan kepunahan manusia pada abad mendatang akibat risiko seperti AI yang tidak bertanggung jawab dan epidemi yang direkayasa. Rekan EA lainnya, Holden Karnofsky, juga percaya bahwa kita sedang hidup di "titik balik dalam sejarah" atau "abad paling penting" -- periode khusus dalam kisah manusia di mana kita akan berkembang lebih pesat atau mengalami kehancuran. MacAskill, seperti Musk, mengemukakan dalam bukunya bahwa cara terbaik untuk menghindari kepunahan adalah dengan menjajah planet lain sehingga kita tidak menaruh semua telur kita dalam satu keranjang.
Tapi itu hanya setengah dari "kasus moral untuk penyelesaian ruang angkasa" MacAskill. Separuh lainnya adalah kita harus berusaha keras untuk membuat peradaban manusia di masa depan menjadi sebesar dan seutopis mungkin. Seperti yang dikatakan rekan MacAskill di Oxford, Bostrom, “kolonisasi kosmik” akan memberi kita ruang dan sumber daya untuk menjalankan sejumlah besar simulasi digital yang akan memungkinkan manusia untuk hidup bahagia selamanya. Semakin besar ruangnya, semakin banyak manusia (digital) yang bahagia! Di sinilah letak sebagian besar nilai-nilai moral: bukan saat ini di bumi, tetapi di masa depan di surga… maaf, yang saya maksud adalah “kehidupan akhirat yang sebenarnya.”
Ketika kita menggabungkan semua gagasan ini dan menggeneralisasikannya, kita sampai pada proposisi dasar ini:
Siapa pun yang mempelajari agama dapat langsung melihat apa ini: logika apokaliptik.
Kaum transhumanis, altruis yang efektif, dan penganut jangka panjang mewarisi pandangan bahwa akhir zaman sudah dekat dan bahwa kemajuan teknologi adalah peluang terbaik kita untuk maju sebagai sebuah peradaban. Bagi mereka yang bertindak berdasarkan logika ini, mengejar AGI mungkin tampak seperti hal yang mudah. Meskipun mereka percaya AGI menimbulkan risiko eksistensial yang signifikan, mereka percaya kita tidak bisa tidak membangun AGI karena ia mempunyai potensi untuk mendorong umat manusia dari masa remaja terestrial yang berbahaya (yang bisa berakhir kapan saja!) ke masa dewasa antarbintang yang sejahtera (begitu banyak orang yang bahagia, jadi banyak nilai-nilai beradab!). Tentu kita harus maju secara teknologi, karena itu berarti maju secara peradaban!
Namun apakah hal ini berakar pada alasan dan bukti? Ataukah itu berakar pada dogma?
Premis yang mendasarinya adalah determinisme teknologi, yang dipadukan dengan sedikit geopolitik. Idenya adalah meskipun Anda dan saya tidak menciptakan AI yang sangat kuat, orang lain atau negara lain akan melakukannya - jadi mengapa kita tidak ikut terlibat? Altman dari OpenAI mencontohkan keyakinan bahwa teknologi harus maju. Dia menulis di blognya pada tahun 2017: “Kecuali kita menghancurkan diri kita sendiri terlebih dahulu, kecerdasan buatan manusia super akan muncul.” Mengapa? “Seperti yang telah kita pelajari, kemajuan ilmu pengetahuan pada akhirnya akan terjadi jika hukum fisika tidak menghentikannya.”
Sudahkah kita belajar? Saya tidak melihat bukti bahwa apapun yang dapat ditemukan akan pernah ditemukan. (Seperti yang ditulis oleh ketua peneliti Dampak Kecerdasan Buatan, Katja Grace: “Bayangkan sebuah mesin yang meludahkan kotoran ke mata Anda. Secara teknis kami dapat melakukannya, tetapi mungkin belum ada yang pernah membuat mesin seperti itu.”) Orang-orang tampaknya lebih cenderung untuk melakukannya. mengejar inovasi ketika didorong oleh tekanan ekonomi, sosial, atau ideologi yang kuat.
Di tengah kegilaan AGI di Silicon Valley, tekanan sosial dan ideologis dihasilkan oleh penemuan kembali ide-ide keagamaan dengan kedok transhumanisme, altruisme yang efektif, dan jangka panjang. Mengenai tekanan ekonomi dan profitabilitas, hal tersebut selalu ada di Silicon Valley.
Jajak pendapat Reuters pada bulan Mei menunjukkan bahwa 61% warga Amerika kini percaya bahwa kecerdasan buatan dapat mengancam peradaban manusia, sebuah pandangan yang sangat kuat di kalangan umat Kristen Evangelis. Bagi pakar studi agama Geraci, hal ini tidak mengherankan. Dia mencatat bahwa logika apokaliptik "sangat, sangat, sangat kuat dalam agama Kristen Protestan Amerika" -- sedemikian rupa sehingga 4 dari 10 orang dewasa Amerika saat ini percaya bahwa umat manusia sedang hidup di akhir zaman.
Sayangnya, logika apokaliptik seringkali melahirkan fanatisme yang berbahaya. Pada Abad Pertengahan, ketika seorang mesias palsu muncul, orang-orang akan meninggalkan harta benda duniawi mereka untuk mengikuti nabi mereka. Saat ini, ketika pembicaraan tentang kiamat AI membanjiri media, orang-orang yang benar-benar beriman keluar dari perguruan tinggi untuk mempelajari keamanan AI. Logika kiamat atau penebusan, surga atau neraka, mendorong orang mengambil risiko besar -- berkomitmen pada hal tersebut.
Dalam wawancara dengan saya tahun lalu, MacAskill membantah praktik perjudian ekstrem. Dia mengatakan kepada saya bahwa dalam imajinasinya, saudara-saudara teknologi tertentu di Silicon Valley percaya bahwa ada 5% kemungkinan meninggal akibat bencana AGI, dan 10% kemungkinan AGI akan membawa utopia bahagia, dan mereka akan bersedia untuk menanggung peluang ini. Bangunlah AGI secepatnya.
“Saya tidak ingin orang-orang seperti ini membangun AGI karena mereka tidak responsif terhadap masalah etika,” kata MacAskill kepada saya. “Mungkin itu berarti kita harus menunda Singularitas agar lebih aman. Mungkin itu berarti Singularitas tidak akan berjalan. untuk terjadi dalam hidupku. Itu akan menjadi pengorbanan yang besar."
Ketika MacAskill menceritakan hal ini kepada saya, saya membayangkan gambaran Musa yang memandang ke Tanah Perjanjian tetapi mengetahui bahwa dia tidak dapat mencapainya. Visi jangka panjang sepertinya mengharuskan dia untuk memiliki keyakinan yang brutal: Anda secara pribadi tidak akan diselamatkan, tetapi keturunan spiritual Anda akan diselamatkan.
Kita perlu memutuskan apakah ini cara kita menginginkan keselamatan
Tidak ada salahnya jika kita percaya bahwa teknologi dapat memperbaiki nasib umat manusia secara mendasar. Dalam banyak hal, hal itu jelas terjadi.
“Teknologi bukanlah masalahnya,” kata Ilia Delio, yang memegang dua gelar Ph.D. dan ketua teologi di Universitas Villanova, kepada saya. Faktanya, Delio yakin bahwa kita sudah berada dalam tahap evolusi baru, transisi dari Homo sapiens hingga “Homo sapiens berteknologi.” ” Pandangan ini memuaskan. Ia percaya bahwa kita harus berevolusi secara proaktif dengan bantuan teknologi dan berpikiran terbuka.
Namun dia juga memahami bahwa kita perlu memperjelas nilai-nilai apa saja yang memengaruhi teknologi kita, “sehingga kita dapat mengembangkan teknologi dengan tujuan – dan dengan etika,” katanya. Jika tidak, “teknologi itu buta dan berpotensi berbahaya.”
Geraci setuju. “Akan menakutkan jika banyak orang di Silicon Valley berkata, 'Hei, saya mendukung teknologi ini karena teknologi ini akan membuat saya abadi,'" katanya kepada saya. "Tetapi jika seseorang berkata, 'Saya mendukung teknologi ini, . karena menurut saya kita bisa menggunakannya untuk mengatasi kelaparan dunia' -- itu adalah dua motivasi yang sangat berbeda. Hal ini akan berdampak pada jenis produk yang Anda coba desain, orang yang Anda desain, dan orang yang Anda coba untuk mengelilingi diri Anda dengan cara penerapannya di dunia.”
Saat Anda dengan cermat memutuskan nilai teknologi, Anda juga harus benar-benar menyadari siapa yang mempunyai wewenang untuk mengambil keputusan. Schwarz percaya bahwa para perancang AI memberikan kepada kita sebuah visi tentang kemajuan teknologi yang diperlukan AI dan menempatkan diri mereka sebagai satu-satunya ahli di bidang tersebut, yang memberi mereka kekuatan yang sangat besar -- bisa dibilang lebih besar daripada kekuasaan yang kita pilih secara demokratis.
"Gagasan bahwa mengembangkan kecerdasan buatan adalah hukum alam menjadi sebuah prinsip keteraturan, dan prinsip keteraturan itu bersifat politis. Prinsip ini memberikan kekuatan politik kepada sebagian orang dan lebih sedikit kekuasaan kepada sebagian besar orang lainnya," kata Schwarz. “Aneh bagi saya untuk mengatakan, 'Kita harus sangat berhati-hati dengan AGI,' dibandingkan dengan mengatakan, 'Kita tidak membutuhkan AGI, itu bukan bagian dari diskusi.' Namun kita telah mencapai titik di mana kekuasaan adalah hal yang penting. diperlakukan dengan cara yang tidak adil. Cara kita diberikan pilihan semakin kuat, dan kita bahkan secara kolektif dapat merekomendasikan agar AGI tidak ditindaklanjuti."
Kita sampai pada titik ini sebagian besar karena selama seribu tahun terakhir, Barat berada dalam bahaya terjerumus ke dalam satu narasi: kisah yang kita warisi dari para pemikir agama abad pertengahan yang menyamakan kemajuan teknologi dengan kemajuan moralitas.
“Itulah satu-satunya narasi yang kami miliki,” kata Delio. “Narasi tersebut mengarahkan kami untuk mendengarkan para ahli teknis (yang, di masa lalu, juga merupakan otoritas spiritual) dan membangun nilai-nilai dan asumsi ke dalam produk mereka.”
"Apa alternatifnya? Jika alternatifnya adalah 'hidup adalah sebuah tujuan tersendiri,'" tambah Delio, "maka ekspektasi kita terhadap teknologi mungkin akan sangat berbeda." menciptakan, menemukan, membuat, dan membiarkan mereka mengubah kita.”
Kita perlu memutuskan keselamatan seperti apa yang kita inginkan. Jika antusiasme kita terhadap kecerdasan buatan berasal dari visi melampaui batas-batas bumi dan kematian tubuh, hal ini akan mempunyai konsekuensi sosial. Namun jika kita berkomitmen untuk menggunakan teknologi untuk memperbaiki dunia dan kesejahteraan dunia, kita dapat mencapai hasil yang berbeda. Seperti yang dikatakan Noble, kita bisa "mulai mengarahkan kemampuan luar biasa kita ke arah tujuan yang lebih sekuler dan manusiawi".