Resim kaynağı: Sınırsız Yapay Zeka aracı tarafından oluşturulmuştur
Bu bir tesadüf değil; din ve teknoloji yüzyıllardır iç içe geçmiştir.
Peki ya size 10 yıl içinde bildiğiniz dünyanın sonunun geleceğini söylesem? Cennette hastalık, yaşlanma ve ölüm olmadan yaşayacaksınız. Sonsuz yaşam senin olacak! Daha da iyisi, beyniniz belirsizlikten kurtulacak ve mükemmel bilgiye sahip olacaksınız. Artık dünyada sıkışıp kalmıyorsunuz, cennette yaşayabilirsiniz.
Bütün bunları size anlatsam beni bir din vaizi olarak mı yoksa bir yapay zeka araştırmacısı olarak mı düşünürsünüz?
Her iki tahmin de mantıklıdır.
Silikon Vadisi'ndeki yapay zeka tartışmalarını dinledikçe dinin yankılarını da daha çok duyarsınız. Çünkü süper akıllı makineler yapma heyecanının büyük kısmı dini fikirlerin geri dönüştürülmesinden kaynaklanıyor. Yapay zeka geliştiren laik teknoloji uzmanlarının çoğu bunun farkında değil.
Bu teknoloji uzmanları, düşüncelerimizi sonsuza kadar dijital olarak yaşayabileceğimiz buluta yükleyerek ölümü gizlemeyi öneriyor. Yapay zekayı, neyin optimal olup neyin olmadığını matematiksel kesinlikle belirleyebilen bir karar verme mekanizması olarak tanımlıyorlar. Yapay genel zekayı (AGI) - birçok alanda insanın problem çözme yetenekleriyle eşleşebilecek varsayımsal bir sistem - işler iyi giderse insanlığın kurtuluşunu garanti edebilecek bir çaba olarak tasavvur ediyorlar. felaket getir.
Bu vizyonlar, teolojinin "eskatologya" ya da insanlığın nihai kaderiyle ilgilenen bir dalı olan Hıristiyan eskatolojisininkilerle neredeyse aynıdır.
Hıristiyan eskatolojisi bize hepimizin “son dört şeye” doğru gittiğimizi söyler: ölüm, yargı, cennet veya cehennem. Ölenler, Mesih'in İkinci Gelişinde dirilecek ve sonsuz kadere kavuşacaklar. Ruhlarımız, kusursuz karar verici olan Tanrı'nın nihai yargısıyla yüzleşecek. İşler iyi giderse cennete çıkacağız, ama işler ters giderse cehenneme düşeceğiz.
Beş yıl önce Silikon Vadisi'ndeki konferanslara katılmaya başladığımda ve din konusu ile yapay zeka arasındaki benzerlikleri ilk fark ettiğimde aklıma basit bir psikolojik açıklama geldi. Her ikisi de temel insan kaygılarına verilen yanıtlardır: ölüm; neyi doğru ya da yanlış yaptığımızı bilmenin zorluğu; hayattaki anlamımızın ve bu evrendeki veya sonraki evrendeki nihai yerimizin bilinemezliği. Dini düşünürler ve yapay zeka düşünürleri, hepimizi rahatsız eden sorulara benzer yanıtlar buldular.
Bağlantının bundan çok daha derinlere indiğini görünce şaşırdım.
Manhattan College'da dini çalışmalar profesörü ve "Apocalyptic" kitabının yazarı Robert Geraci, "Bazı insanlar size bilimin değer açısından tarafsız olduğunu ve din gibi şeylerle hiçbir ilgisi olmadığını söylese de, din ve teknoloji yüzyıllardır iç içe olmuştur" dedi. AI." Bu kesinlikle doğru değil. Durum hiçbir zaman böyle olmadı."
Aslında dini düşüncenin etkisinin izini süren tarihçiler, Orta Çağ'ın Hıristiyan ilahiyatçılarından Rönesans'taki deneyciliğin babalarına, fütürist Ray Kurzweil'e ve ondan etkilenen Silikon Vadisi teknoloji ağır toplarına kadar, düz bir çizgi çizebileceğimize inanıyorlar. astar.
Bazen bazı insanlar hala benzerlikler konusunda belli belirsiz bir fikir sahibi olabiliyor. Yapay zeka güvenlik şirketi Anthropic'in kurucu ortağı Jack Clark, Mart ayında Twitter'da şöyle yazmıştı: "Bazen insanların YGZ'ye olan coşkusunun laik bir kültürden kaynaklanan yersiz bir dini dürtü olduğunu düşünüyorum."
Ancak ChatGPT yapımcısı OpenAI'nin CEO'su Sam Altman'dan beyinleri bilgisayarlara bağlamak isteyen Elon Musk'a kadar YGZ'yi bir tür teknolojik eskatoloji olarak görenler çoğunlukla seküler terimlerle konuşuyor. Geliştirdikleri vizyonun büyük ölçüde eski dini düşünceyle kaynaştığını ya fark edemiyorlar ya da kabul etmek istemiyorlar.
Ancak bu fikirlerin nereden geldiğini bilmek önemlidir. Bunun nedeni "dinin" bir şekilde aşağılayıcı bir ifade olması değildir; fikirlerin dini olması, onlarda yanlış bir şey olduğu anlamına gelmez (tam tersi genellikle doğrudur). Bunun yerine, bu fikirlerin (örneğin, bir kurtuluş biçimi olarak sanal bir ahiret hayatı veya teknolojik ilerleme olarak anlaşılan ahlaki ilerleme) tarihini anlamalıyız, böylece bunların değişmez veya kaçınılmaz olmadığını anlarız; bazı insanlar bu fikirler belirli zamanlarda önerilmiştir. Bazen belirli amaçlar için, ancak biz istersek başkaları da var olur. Tek bir hikayenin tehlikesine düşmemize gerek yok.
Londra Queen Mary Üniversitesi'nde askeri yapay zekanın etiğini inceleyen siyaset teorisyeni Elke Schwarz, "Kabul ettiğimiz anlatılar konusunda dikkatli olmalıyız" dedi ve şöyle devam etti: "Ne zaman dini bir şeyden bahsetsek, işin içinde kutsal bir şeyler vardır. kutsal Acı verebilir çünkü eğer bir şey kutsalsa, onun için en kötüsünü yapmaya değer.”
Yapay zeka kavramı her zaman son derece dinsel olmuştur
Batı'yı şekillendiren İbrahimi dinlerde her şey utanca dayanıyor.
Yaratılış'ta ne olduğunu hatırlıyor musun? Adem ve Havva Bilgi Ağacı'ndan yediklerinde, Tanrı onları Aden Bahçesi'nden kovdu ve onları et ve kanın tüm aşağılamalarına maruz bıraktı: emek ve acı, doğum ve ölüm. Gözden düştükten sonra insanlık bir daha asla eskisi gibi olmadı. Günah işlemeden önce, Tanrı'nın benzerliğinde yaratılmış mükemmel yaratıklardık; şimdi ise zavallı derileriz.
Ancak Orta Çağ'da Hıristiyan düşünürler, tarihçi David Noble'ın Teknoloji Dini adlı kitabında açıkladığı gibi radikal bir fikir öne sürdüler. Ya teknoloji insanlığı Düşüş öncesi mükemmel durumuna geri döndürmemize yardımcı olabilirse?
Örneğin, dokuzuncu yüzyılın etkili filozofu John Scotus Eriugena, Adem'in Tanrı'nın benzerliğinde yaratılmış olmasının anlamının bir kısmının onun bir yaratıcı, bir yapıcı olması olduğunu savundu. Bu nedenle, eğer insanlığı, Adem'in düşüşünden önceki Tanrı benzeri mükemmelliğe geri döndürmek istiyorsak, kendimizin bu yönüne daha da yaklaşmalıyız. Eriugena, "mekanik sanatların" (teknoloji olarak da bilinir) "insanın ilahi olanla bağlantısı olduğunu ve bunların geliştirilmesinin insanlığı kurtarmanın yolu olduğunu" yazıyor.
Bu fikir, "ora et Labora" (dua et ve çalış) sloganının dolaşıma girdiği ortaçağ manastırlarında ortaya çıktı. Karanlık Çağlar olarak adlandırılan dönemde bile bu manastırlardan bazıları, bilinen ilk gelgit gücüyle çalışan su çarkı ve darbeli sondaj gibi icatların üretildiği mühendislik yuvası haline geldi. Katolikler yenilikçiler olarak bilinmeye başlandı; bugüne kadar mühendislerin dininde dört koruyucu aziz var. Bazıları Katolik Kilisesi'nin Orta Çağ'ın Silikon Vadisi olduğunu söylüyor ve bunun bir nedeni var: The Atlantic'te 2018'de yayınlanan bir makalede belirttiğim gibi, "metalurji, değirmenler ve müzik notalarından saat mekanizması ve matbaaya kadar her şey" Katolik Kilise vazgeçilmezdir.
Bu ne teknoloji amaçlı bir araştırma, ne de kâr amaçlı bir araştırma. Tam tersine bilimsel ve teknolojik ilerleme ahlaki ilerlemeyle eş anlamlıdır. İnsanlığı orijinal mükemmelliğine kavuşturarak Tanrı'nın Krallığını başlatabiliriz. Noble'ın yazdığı gibi: "Teknoloji aşkınlıkla eşanlamlı hale geldi ve Hıristiyanlığın kurtuluş fikirleriyle daha önce hiç olmadığı kadar bağlantılı hale geldi".
Teknolojik ilerlemeyi ahlaki ilerlemeyle eşitleyen Orta Çağ fikri, nesiller boyu Hıristiyan düşünürleri etkilemiş ve modern çağda da devam etmektedir. Bir Bakong çifti, teknolojinin kurtuluş getireceğine dair aynı temel inancın, dindar gelenekçileri ve bilimsel dünya görüşünü benimseyenleri nasıl etkilediğini gösteriyor.
yüzyılda simyacı Roger Bacon, elçi Pavlus'un tanımladığına benzer bir diriliş sağlayacak bir yaşam iksiri yaratmak amacıyla İncil'deki kehanetlerden ilham aldı. Bacon, bu iksirin insanları ölümsüz kılmakla kalmayıp aynı zamanda onlara düşünce hızında seyahat etme gibi sihirli yetenekler de kazandıracağını umuyor. 16. yüzyılda Francis Bacon ortaya çıktı. Görünüşte öncüllerinden çok farklı görünüyordu - simyayı bilim dışı olduğunu düşünerek eleştirdi - ancak bir gün teknolojiyi ölümlülüğü yenmek, "Yaratıcıyı yüceltmek ve insanın acısını hafifletmek için" kullanacağımızı öngördü.
Rönesans'la birlikte Avrupalılar, kendimizi Tanrı'nın suretinde yeniden yaratabileceğimizi, yalnızca yavaş yavaş ölümsüzlüğe ulaşmakla kalmayıp, aynı zamanda cansız maddeden bilinç yaratabileceğimizi hayal etmeye cesaret ettiler.
Schwarz şunları kaydetti: "Ölüme karşı kazanılan zaferin ötesinde, yeni bir yaşam yaratma olasılığı en büyük güçtür."
Hıristiyan mühendisler hareket edebilen ve dua edebilen otomatlar (ahşap robotlar) yarattılar. Efsaneye göre Müslümanlar, kehanet gibi konuşan mekanik kafalar yarattılar. Yahudi folklorunda, hahamların sihirli dil çekimlerini kullanarak kilden figürleri ("çamur figürleri" olarak adlandırılan) canlandırdıklarına dair hikayeler vardır. Bu hikayelerde kil figürler bazen Yahudileri zulümden kurtarır. Ancak diğer zamanlarda kilden figürler hain olacak, insanları öldürecek, malları çalacak ve güçlerini kötülük yapmak için kullanacak.
Evet, bunların hepsi çok tanıdık geliyor. Aynı kaygıyı matematikçi ve filozof Norbert Wiener'in 1964'te yapay zekanın riskleri üzerine yazdığı God & Golem, Inc. kitabında ve şu anda teknoloji uzmanları tarafından yayınlanan çok sayıda açık mektupta da duyabilirsiniz. AGI'nin bize kurtuluş ya da kıyamet getireceği konusunda uyarıyorlar.
Bu açıklamaları okuduğunuzda şunu sorabilirsiniz: Eğer YGZ hem kıyameti tehdit ediyor hem de kurtuluş vaat ediyorsa, neden YGZ yaratıyoruz? Neden kendimizi, hastalıkları tedavi etmek gibi uygulamalarda zaten harikalar yaratabilen daha dar yapay zeka biçimleri yaratmakla sınırlandırmıyoruz ve bir süre buna bağlı kalmıyoruz?
Bunu öğrenmek için, yakın zamanda iç içe geçmiş üç hareketin Silikon Vadisi'nin yapay zeka vizyonunu nasıl şekillendirdiğini anlamaya başladığımızda beni biraz daha geriye doğru takip edin.
Transhümanizm, Etkili Fedakarlık ve Uzun Vadeliliğe Bakış
Pek çok anlatıma göre, Charles Darwin 1859'da evrim teorisini yayınladığında, tüm dindar düşünürler bunu hemen, Tanrı'nın en dindar yaratımı olan insanlığa yönelik korkunç, sapkın bir tehdit olarak gördüler. Ancak bazı Hıristiyan düşünürler bunu eski ruhani kehanetlerin gösterişli yeni bir kıyafeti olarak görüyorlar. Sonuçta dini fikirler asla ölmez, sadece yeni kıyafetler alırlar.
Tipik bir örnek, 20. yüzyılın başlarında paleontoloji eğitimi almış Fransız Cizvit rahibi Pierre Teilhard de Chardin'dir. Teknolojinin yönlendirdiği insan evriminin aslında Tanrı'nın krallığının taşıyıcısı olduğuna inanıyor.İnsanlar ve makinelerin entegrasyonu, Omega Noktası adını verdiği bir zeka patlamasına yol açacaktır. Bilincimiz, Tanrı ile birleşeceğimiz ve yeni bir tür olacağımız bir "süper bilinç durumuna" girecektir.
Yazar Meghan O'Gieblyn'in 2021 tarihli Tanrı, İnsan, Hayvan, Makine kitabında belgelediği gibi, evrimci biyolog Aldous Huxley, İngiliz Hümanist Derneği ve İngiliz Öjeni Derneği'nin başkanıydı. Huxley, Teilhard'ın türümüzü geliştirmek için teknolojiyi kullanmamız gerektiği fikrini popüler hale getirdi. buna "transhümanizm" diyorlar.
Bu da Teilhard'la temelde aynı tahminde bulunan fütürist Ray Kurzweil'i etkiledi: İnsan zekası ile makine zekasının bütünleştiği bir çağa girmek üzereyiz ve insan zekası son derece güçlü hale gelecek. Ancak Kurzweil bunu "Omega Noktası" olarak adlandırmak yerine "Tekillik Noktası" olarak yeniden adlandırdı.
Kurzweil 1999 yılında ulusal çok satan kitabı The Age of Ingenuity'de "İnsanlar ve onların yarattığı bilgi işlem teknolojileri asırlık sorunları çözebilecek... ve postbiyolojik gelecekte ölümün doğasını değiştirecek" diye yazmıştı. Vahiy Kitabına göre: "Artık ölüm yok, artık ne matem, ne ağlama, ne de acı var, çünkü önceki şeyler geçti."
Kurzweil, Martine Rothblatt'ın Terasem hareketinden Mormon süperinsanlar Derneği'ne, Anthony Levandowski'nin kısa ömürlü Yolu'na kadar, yapay zekaya tapınma veya insanları dindarlığa yönlendirmek için yapay zekayı kullanma etrafında açıkça dini hareketler oluşturanlar gibi, ikisi arasındaki manevi benzerlikleri kabul ediyor. Gelecek kilisesi. Ancak Oxford Üniversitesi filozofu Nick Bostrom gibi pek çok kişi, trans hümanizmin dinden farklı olduğu ve "eleştirel akla ve sahip olduğumuz en iyi bilimsel kanıtlara" dayandığı konusunda ısrar ediyor.
Bugün transhümanizmin bir kız kardeşi var, Oxford'da doğan ve Silikon Vadisi'nde patlayan başka bir hareket: Çoğu insan için en iyinin nasıl yapılacağını bulmayı amaçlayan Etkili Altruizm (EA). Etkili fedakarlar aynı zamanda yaklaşımlarının seküler akıl ve kanıtlara dayandığını da söylüyorlar.
Bununla birlikte, etkili fedakarlık aslında pek çok açıdan din ile aynıdır: işlevsel olarak (ortak bir ahlaki yaşam vizyonu etrafında inşa edilmiş bir grubu bir araya getirir), yapısal olarak (peygamber liderleri, klasik metinler, festivaller ve ritüellerden oluşan bir hiyerarşiye sahiptir) ve estetik olarak (ondalık vermeyi teşvik etti ve çileciliği destekledi). En önemlisi, bir eskatoloji sağlar.
Etkili fedakarlığın eskatolojisi, Musk'ın bir zamanlar "benim felsefemle çok tutarlı" olarak tanımladığı, en tartışmalı görüşü olan uzun vadelicilik biçiminde gelir. Çoğu insana yardım etmenin en iyi yolunun, türümüzün neslinin tükenmeyeceğini varsayarak, şu anda olduğundan milyarlarca daha fazla insanın var olabileceği uzak bir gelecekte (örneğin milyonlarca yıl sonra) insanlığın hayatta kalmasını sağlamaya odaklanmak olduğunu savunuyor. Birinci.
Buradan teknoloji uzmanlarının neden YGZ oluşturmak için çalıştıkları sorusunun yanıtlarını almaya başlıyoruz.
Ahlaki İlerleme Olarak Yapay Zeka İlerlemesi
Etkili fedakarlar ve uzun vadeli düşünenler için, dar kapsamlı yapay zeka konusunda ısrar etmek bir seçenek değil. Oxford Üniversitesi filozofu Will MacAskill, etkili fedakarlığın ve uzun vadeliciliğin "isteksiz peygamberi" olarak adlandırıldı. 2022 tarihli Geleceğe Ne Borçluyuz adlı kitabında teknolojik ilerlemedeki durgunluğun neden kabul edilemez olduğuna inandığını açıklıyor. "Durgunluk dönemleri" diye yazdı, "yok olma ve kalıcı çöküş riskini artırabilir."
Sahte yapay zeka ve tasarlanmış salgın hastalıklar gibi riskler nedeniyle önümüzdeki yüzyılda insanlığın yok olma ihtimalinin altıda bir olduğunu tahmin eden meslektaşı Toby Ord'dan alıntı yapıyor. Bir başka EA meslektaşı Holden Karnofsky de benzer şekilde "tarihin bir dönüm noktasında" veya "en önemli yüzyılda" yaşadığımıza inanıyor; insanlık tarihinde ya daha önce hiç olmadığı kadar gelişeceğimiz ya da yıkıma uğrayacağımız özel bir dönem. Musk gibi MacAskill de kitapta yok olmayı önlemenin iyi bir yolunun diğer gezegenleri kolonileştirmek ve böylece tüm yumurtalarımızı aynı sepete koymamak olduğunu öne sürüyor.
Ancak bu, MacAskill'in "uzay yerleşimine ilişkin ahlaki görüşünün" yalnızca yarısı. Diğer yarısı ise gelecekteki insan uygarlığını mümkün olduğu kadar büyük ve ütopik kılmak için çabalamamız gerektiğidir. MacAskill'in Oxford'lu meslektaşı Bostrom'un belirttiği gibi, "kozmik kolonizasyon" bize, insanların sonsuza dek mutlu yaşamasını sağlayacak çok sayıda dijital simülasyonu çalıştırmamız için alan ve kaynak sağlayacak. Alan ne kadar büyükse, o kadar mutlu (dijital) insanlar var! Ahlaki değerlerin çoğunun yattığı yer burasıdır: şu anda burada, dünyada değil, gelecekte cennette… Kusura bakmayın, “sanal ölümden sonraki yaşamı” kastetmiştim.
Tüm bu fikirleri bir araya getirip genellediğimizde şu temel önermeye ulaşıyoruz:
Bittiğini bildiğimiz hayatımızın bitmesine fazla zamanımız kalmamış olabilir.
Bu nedenle bizi kurtaracak bir şeye bahse girmeliyiz.
Bahisler çok yüksek olduğundan, yeterince bahis oynamalıyız ve tüm gücümüzle oynamalıyız.
Bunun ne olduğunu, dini araştıran herkes hemen görebilir: Kıyamet mantığı.
Transhümanistler, etkili fedakarlar ve uzun vadeli düşünenler, sonun yakın olduğu ve teknolojik ilerlemenin bir medeniyet olarak ilerlememiz için en iyi şansımız olduğu görüşünü miras alıyorlar. Bu mantıkla hareket edenler için YGZ'ye yönelmek basit bir iş gibi görünebilir. Her ne kadar YZG'nin önemli bir varoluşsal risk oluşturduğuna inansalar da, YZG'yi inşa etmemeyi göze alamayacağımıza inanıyorlar çünkü YZZ, insanlığı istikrarsız karasal ergenlikten (her an sona erebilir!) müreffeh yıldızlararası yetişkinliğe (o kadar çok Mutlu insan var ki, bu yüzden) ilerletme potansiyeline sahip. birçok uygar değer!). Elbette teknolojik olarak ilerlememiz gerekiyor, çünkü bu, medeniyet olarak ilerlemek anlamına geliyor!
Fakat bu, akla ve delillere dayanıyor mu? Yoksa dogmaya mı dayanıyor?
Buradaki temel öncül, bir miktar jeopolitik ile karıştırılmış teknolojik determinizmdir. Fikir şu ki, sen ve ben korkutucu derecede güçlü bir yapay zeka yaratmasak bile, başka biri veya başka bir ülke yaratacak; o halde neden kendimizi bu işe karışmaktan alıkoyalım ki? OpenAI'den Altman, teknolojinin ilerlemesi gerektiğine olan inancın örneğini oluşturuyor. 2017 yılında blogunda şöyle yazmıştı: "Önce kendimizi yok etmezsek, insanüstü yapay zeka ortaya çıkacak." Neden? "Öğrendiğimiz gibi, fizik yasaları onu durdurmazsa bilimsel ilerleme eninde sonunda gerçekleşecektir."
Öğrendik mi? İcat edilebilecek herhangi bir şeyin asla icat edilmeyeceğine dair hiçbir kanıt göremiyorum. (Yapay Zekanın Etkisi baş araştırmacısı Katja Grace şöyle yazıyor: "Gözlerinize bok tüküren bir makine düşünün. Teknik olarak bunu yapabiliriz, ancak muhtemelen hiç kimse böyle bir makine yapmamıştır.") İnsanlar, yapay zekaya daha yatkın görünüyorlar. Güçlü ekonomik, sosyal veya ideolojik baskıların yönlendirdiği durumlarda yeniliği takip edin.
Silikon Vadisi'ndeki YGZ çılgınlığının ortasında sosyal ve ideolojik baskı, transhümanizm, etkili fedakarlık ve uzun vadelilik kisvesi altında yeniden icat edilen dini fikirler tarafından sağlanıyor. Ekonomik ve kârlılık baskılarına gelince, bunlar Silikon Vadisi'nde her zaman var.
Mayıs ayında yapılan bir Reuters anketi, Amerikalıların yüzde 61'inin artık yapay zekanın insan uygarlığını tehdit edebileceğine inandığını gösterdi; bu görüş özellikle Evanjelik Hıristiyanlar arasında güçlü. Dini çalışmalar uzmanı Geraci için bu durum şaşırtıcı değil. Kıyamet mantığının "Amerikan Protestan Hıristiyanlığında çok, çok, çok güçlü" olduğunu belirtti; öyle ki, 10 Amerikalı yetişkinden 4'ü şu anda insanlığın son zamanlarda yaşadığına inanıyor.
Maalesef kıyamet mantığı sıklıkla tehlikeli fanatizmi besliyor. Orta Çağ'da sahte bir mesih ortaya çıktığında insanlar, peygamberlerinin peşinden gitmek için dünyalıklarını terk ederlerdi. Bugün yapay zekanın kıyamet gününe ilişkin konuşmalar medyayı doldururken, gerçek inananlar yapay zekanın güvenliği üzerine çalışmak için üniversiteyi bırakıyor. Kıyamet ya da kurtuluşun, cennet ya da cehennemin mantığı, insanları büyük riskler almaya, kendilerini buna adamaya itiyor.
Geçen yıl benimle yaptığı bir röportajda MacAskill aşırı kumar uygulamalarını reddetti. Bana, kendi hayalinde, Silikon Vadisi'ndeki bazı teknoloji kardeşlerinin, bir YZZ felaketinden ölme ihtimalinin %5, YZG'nin mutlu bir ütopya getirme ihtimalinin ise %10 olduğuna inandıklarını ve istekli olacaklarını söyledi. Bu şanslara katlanmak için aceleyle AGI oluşturun.
MacAskill bana şöyle dedi: "İnsanların bu YGZ inşa etmekten hoşlanmasını istemiyorum çünkü onlar etik konulara tepki vermiyorlar. Belki bu, onu daha güvenli hale getirmek için Tekilliği geciktirmemiz gerektiği anlamına geliyor. Belki de bu, Tekilliğin olmayacağı anlamına geliyor. Bu gidiyor." hayatım boyunca olmak. Bu çok büyük bir fedakarlık olacak."
MacAskill bana bunu söylediğinde Musa'nın Vaat Edilmiş Topraklara bakan ama oraya ulaşamayacağını bilen bir görüntüsünü hayal ettim. Uzun vadeli vizyon onun acımasız bir inanca sahip olmasını gerektiriyordu: Kişisel olarak siz kurtulamayacaksınız, ancak ruhsal torunlarınız kurtulacak.
Kurtuluşu bu şekilde isteyip istemediğimize karar vermeliyiz
Teknolojinin insanlığın kaderini temelden iyileştirebileceğine inanmanın kendi içinde yanlış bir yanı yoktur. Pek çok açıdan açıkça öyle.
İki doktorası bulunan ve Villanova Üniversitesi'nde teoloji kürsüsü bulunan Ilia Delio bana "Teknoloji sorun değil" dedi. Aslında Delio, Homo sapiens'ten geçiş yaparak halihazırda yeni bir evrim aşamasında olduğumuza ikna olmuştu. “teknolojik Homo sapiens”e bakış sevindirici. Açık fikirlilikle teknolojinin yardımıyla proaktif bir şekilde gelişmemiz gerektiğine inanıyor.
Ancak aynı zamanda hangi değerlerin teknolojimizi etkilediği konusunda net olmamız gerektiğini de anlıyor, "böylece teknolojiyi amaç doğrultusunda ve etik değerlerle geliştirebiliriz" dedi. Aksi takdirde "teknoloji kördür ve potansiyel olarak tehlikelidir."
Geraci de aynı fikirde. "Silikon Vadisi'ndeki birçok insanın 'Hey, bu teknolojiyi destekliyorum çünkü beni ölümsüz yapacak' demesi biraz korkutucu olurdu" dedi. "Ama birisi 'Bu teknolojiyi destekliyorum' derse, çünkü bunu dünyadaki açlığı çözmek için kullanabileceğimizi düşünüyorum' -- bunlar çok farklı iki motivasyon. Bu, tasarlamaya çalıştığınız ürünün türünü, tasarladığınız insanları ve denediğiniz insanları etkileyecektir. kendinizi dünyada konuşlandırılma şekliyle çevrelemek için.
Teknolojinin değerine düşünceli bir şekilde karar verirken, aynı zamanda karar verme yetkisinin kimde olduğunu da çok iyi bilmelisiniz. Schwarz, yapay zeka tasarımcılarının bize yapay zekanın getireceği gerekli teknolojik gelişmelere dair bir vizyon sattıklarına ve kendilerini bu konuda tek uzman olarak belirlediklerine inanıyor, bu da onlara muazzam bir güç veriyor - tartışmasız demokratik olarak seçilmiş olanlardan daha fazla. Yetkililerin daha fazla gücü var.
Schwarz, "Yapay zeka geliştirmenin doğal bir yasa olduğu fikri, düzenleyici bir ilke haline gelir ve bu düzenleyici ilke politiktir. Bazı insanlara siyasi güç verirken diğerlerine çok daha az güç verir, " dedi. "'YGZ'ye ihtiyacımız yok, bu masada değil' demek yerine, 'YGZ konusunda çok dikkatli olmalıyız' demek benim için tuhaf. Ama gücün artık ortada olduğu bir noktaya geldik. Bize seçeneklerin sunulma şekli sağlamlaştırılmış durumda ve hatta kolektif olarak AGI'nin takip edilmemesi gerektiğini bile tavsiye edebiliyoruz."
Bu noktaya büyük ölçüde gelmemizin nedeni, geçtiğimiz bin yıl boyunca Batı'nın tek bir anlatıya düşme tehlikesiyle karşı karşıya olmasıdır: Orta Çağ dini düşünürlerinden miras aldığımız, teknolojik ilerlemeyi ahlakla eşitleyen hikaye: ilerleme.
Delio, "Elimizdeki tek anlatı bu" diyor ve ekliyor: "Bu anlatı bizi (geçmişte aynı zamanda ruhani otoriteler olan) teknik uzmanları dinlemeye ve değerleri ve varsayımları onların ürünlerine yerleştirmeye yönlendiriyor."
"Alternatif nedir? Alternatif 'canlı yaşamak başlı başına bir amaçtır' olsaydı" diye ekledi Delio, "o zaman teknolojiden beklentilerimiz tamamen farklı olabilir." "Ama bizim böyle bir anlatımız yok! Ana akım Anlatılarımız bununla ilgili. yaratmak, icat etmek, yapmak ve bizi değiştirmelerine izin vermek.”
Nasıl bir kurtuluş istediğimize karar vermemiz gerekiyor. Eğer yapay zekaya duyduğumuz heyecan dünyanın sınırlarını aşma ve bedenin ölümü vizyonundan kaynaklanıyorsa bunun toplumsal bir sonucu olacaktır. Ancak dünyayı ve bu bedenlerin refahını iyileştirmek için teknolojiyi kullanmaya kararlı olursak farklı sonuçlar elde edebiliriz. Noble'ın belirttiği gibi, "şaşırtıcı yeteneklerimizi daha laik ve insani amaçlara yönlendirmeye başlayabiliriz."
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Silikon Vadisi'nin yapay zeka vizyonu? Bu yeniden paketlenmiş dinin yankısı
Sigal Samuel'in yazdığı
Kaynak: Vox
Peki ya size 10 yıl içinde bildiğiniz dünyanın sonunun geleceğini söylesem? Cennette hastalık, yaşlanma ve ölüm olmadan yaşayacaksınız. Sonsuz yaşam senin olacak! Daha da iyisi, beyniniz belirsizlikten kurtulacak ve mükemmel bilgiye sahip olacaksınız. Artık dünyada sıkışıp kalmıyorsunuz, cennette yaşayabilirsiniz.
Bütün bunları size anlatsam beni bir din vaizi olarak mı yoksa bir yapay zeka araştırmacısı olarak mı düşünürsünüz?
Her iki tahmin de mantıklıdır.
Silikon Vadisi'ndeki yapay zeka tartışmalarını dinledikçe dinin yankılarını da daha çok duyarsınız. Çünkü süper akıllı makineler yapma heyecanının büyük kısmı dini fikirlerin geri dönüştürülmesinden kaynaklanıyor. Yapay zeka geliştiren laik teknoloji uzmanlarının çoğu bunun farkında değil.
Bu teknoloji uzmanları, düşüncelerimizi sonsuza kadar dijital olarak yaşayabileceğimiz buluta yükleyerek ölümü gizlemeyi öneriyor. Yapay zekayı, neyin optimal olup neyin olmadığını matematiksel kesinlikle belirleyebilen bir karar verme mekanizması olarak tanımlıyorlar. Yapay genel zekayı (AGI) - birçok alanda insanın problem çözme yetenekleriyle eşleşebilecek varsayımsal bir sistem - işler iyi giderse insanlığın kurtuluşunu garanti edebilecek bir çaba olarak tasavvur ediyorlar. felaket getir.
Bu vizyonlar, teolojinin "eskatologya" ya da insanlığın nihai kaderiyle ilgilenen bir dalı olan Hıristiyan eskatolojisininkilerle neredeyse aynıdır.
Hıristiyan eskatolojisi bize hepimizin “son dört şeye” doğru gittiğimizi söyler: ölüm, yargı, cennet veya cehennem. Ölenler, Mesih'in İkinci Gelişinde dirilecek ve sonsuz kadere kavuşacaklar. Ruhlarımız, kusursuz karar verici olan Tanrı'nın nihai yargısıyla yüzleşecek. İşler iyi giderse cennete çıkacağız, ama işler ters giderse cehenneme düşeceğiz.
Beş yıl önce Silikon Vadisi'ndeki konferanslara katılmaya başladığımda ve din konusu ile yapay zeka arasındaki benzerlikleri ilk fark ettiğimde aklıma basit bir psikolojik açıklama geldi. Her ikisi de temel insan kaygılarına verilen yanıtlardır: ölüm; neyi doğru ya da yanlış yaptığımızı bilmenin zorluğu; hayattaki anlamımızın ve bu evrendeki veya sonraki evrendeki nihai yerimizin bilinemezliği. Dini düşünürler ve yapay zeka düşünürleri, hepimizi rahatsız eden sorulara benzer yanıtlar buldular.
Bağlantının bundan çok daha derinlere indiğini görünce şaşırdım.
Manhattan College'da dini çalışmalar profesörü ve "Apocalyptic" kitabının yazarı Robert Geraci, "Bazı insanlar size bilimin değer açısından tarafsız olduğunu ve din gibi şeylerle hiçbir ilgisi olmadığını söylese de, din ve teknoloji yüzyıllardır iç içe olmuştur" dedi. AI." Bu kesinlikle doğru değil. Durum hiçbir zaman böyle olmadı."
Aslında dini düşüncenin etkisinin izini süren tarihçiler, Orta Çağ'ın Hıristiyan ilahiyatçılarından Rönesans'taki deneyciliğin babalarına, fütürist Ray Kurzweil'e ve ondan etkilenen Silikon Vadisi teknoloji ağır toplarına kadar, düz bir çizgi çizebileceğimize inanıyorlar. astar.
Bazen bazı insanlar hala benzerlikler konusunda belli belirsiz bir fikir sahibi olabiliyor. Yapay zeka güvenlik şirketi Anthropic'in kurucu ortağı Jack Clark, Mart ayında Twitter'da şöyle yazmıştı: "Bazen insanların YGZ'ye olan coşkusunun laik bir kültürden kaynaklanan yersiz bir dini dürtü olduğunu düşünüyorum."
Ancak ChatGPT yapımcısı OpenAI'nin CEO'su Sam Altman'dan beyinleri bilgisayarlara bağlamak isteyen Elon Musk'a kadar YGZ'yi bir tür teknolojik eskatoloji olarak görenler çoğunlukla seküler terimlerle konuşuyor. Geliştirdikleri vizyonun büyük ölçüde eski dini düşünceyle kaynaştığını ya fark edemiyorlar ya da kabul etmek istemiyorlar.
Ancak bu fikirlerin nereden geldiğini bilmek önemlidir. Bunun nedeni "dinin" bir şekilde aşağılayıcı bir ifade olması değildir; fikirlerin dini olması, onlarda yanlış bir şey olduğu anlamına gelmez (tam tersi genellikle doğrudur). Bunun yerine, bu fikirlerin (örneğin, bir kurtuluş biçimi olarak sanal bir ahiret hayatı veya teknolojik ilerleme olarak anlaşılan ahlaki ilerleme) tarihini anlamalıyız, böylece bunların değişmez veya kaçınılmaz olmadığını anlarız; bazı insanlar bu fikirler belirli zamanlarda önerilmiştir. Bazen belirli amaçlar için, ancak biz istersek başkaları da var olur. Tek bir hikayenin tehlikesine düşmemize gerek yok.
Londra Queen Mary Üniversitesi'nde askeri yapay zekanın etiğini inceleyen siyaset teorisyeni Elke Schwarz, "Kabul ettiğimiz anlatılar konusunda dikkatli olmalıyız" dedi ve şöyle devam etti: "Ne zaman dini bir şeyden bahsetsek, işin içinde kutsal bir şeyler vardır. kutsal Acı verebilir çünkü eğer bir şey kutsalsa, onun için en kötüsünü yapmaya değer.”
Yapay zeka kavramı her zaman son derece dinsel olmuştur
Batı'yı şekillendiren İbrahimi dinlerde her şey utanca dayanıyor.
Yaratılış'ta ne olduğunu hatırlıyor musun? Adem ve Havva Bilgi Ağacı'ndan yediklerinde, Tanrı onları Aden Bahçesi'nden kovdu ve onları et ve kanın tüm aşağılamalarına maruz bıraktı: emek ve acı, doğum ve ölüm. Gözden düştükten sonra insanlık bir daha asla eskisi gibi olmadı. Günah işlemeden önce, Tanrı'nın benzerliğinde yaratılmış mükemmel yaratıklardık; şimdi ise zavallı derileriz.
Ancak Orta Çağ'da Hıristiyan düşünürler, tarihçi David Noble'ın Teknoloji Dini adlı kitabında açıkladığı gibi radikal bir fikir öne sürdüler. Ya teknoloji insanlığı Düşüş öncesi mükemmel durumuna geri döndürmemize yardımcı olabilirse?
Örneğin, dokuzuncu yüzyılın etkili filozofu John Scotus Eriugena, Adem'in Tanrı'nın benzerliğinde yaratılmış olmasının anlamının bir kısmının onun bir yaratıcı, bir yapıcı olması olduğunu savundu. Bu nedenle, eğer insanlığı, Adem'in düşüşünden önceki Tanrı benzeri mükemmelliğe geri döndürmek istiyorsak, kendimizin bu yönüne daha da yaklaşmalıyız. Eriugena, "mekanik sanatların" (teknoloji olarak da bilinir) "insanın ilahi olanla bağlantısı olduğunu ve bunların geliştirilmesinin insanlığı kurtarmanın yolu olduğunu" yazıyor.
Bu fikir, "ora et Labora" (dua et ve çalış) sloganının dolaşıma girdiği ortaçağ manastırlarında ortaya çıktı. Karanlık Çağlar olarak adlandırılan dönemde bile bu manastırlardan bazıları, bilinen ilk gelgit gücüyle çalışan su çarkı ve darbeli sondaj gibi icatların üretildiği mühendislik yuvası haline geldi. Katolikler yenilikçiler olarak bilinmeye başlandı; bugüne kadar mühendislerin dininde dört koruyucu aziz var. Bazıları Katolik Kilisesi'nin Orta Çağ'ın Silikon Vadisi olduğunu söylüyor ve bunun bir nedeni var: The Atlantic'te 2018'de yayınlanan bir makalede belirttiğim gibi, "metalurji, değirmenler ve müzik notalarından saat mekanizması ve matbaaya kadar her şey" Katolik Kilise vazgeçilmezdir.
Bu ne teknoloji amaçlı bir araştırma, ne de kâr amaçlı bir araştırma. Tam tersine bilimsel ve teknolojik ilerleme ahlaki ilerlemeyle eş anlamlıdır. İnsanlığı orijinal mükemmelliğine kavuşturarak Tanrı'nın Krallığını başlatabiliriz. Noble'ın yazdığı gibi: "Teknoloji aşkınlıkla eşanlamlı hale geldi ve Hıristiyanlığın kurtuluş fikirleriyle daha önce hiç olmadığı kadar bağlantılı hale geldi".
Teknolojik ilerlemeyi ahlaki ilerlemeyle eşitleyen Orta Çağ fikri, nesiller boyu Hıristiyan düşünürleri etkilemiş ve modern çağda da devam etmektedir. Bir Bakong çifti, teknolojinin kurtuluş getireceğine dair aynı temel inancın, dindar gelenekçileri ve bilimsel dünya görüşünü benimseyenleri nasıl etkilediğini gösteriyor.
Rönesans'la birlikte Avrupalılar, kendimizi Tanrı'nın suretinde yeniden yaratabileceğimizi, yalnızca yavaş yavaş ölümsüzlüğe ulaşmakla kalmayıp, aynı zamanda cansız maddeden bilinç yaratabileceğimizi hayal etmeye cesaret ettiler.
Schwarz şunları kaydetti: "Ölüme karşı kazanılan zaferin ötesinde, yeni bir yaşam yaratma olasılığı en büyük güçtür."
Hıristiyan mühendisler hareket edebilen ve dua edebilen otomatlar (ahşap robotlar) yarattılar. Efsaneye göre Müslümanlar, kehanet gibi konuşan mekanik kafalar yarattılar. Yahudi folklorunda, hahamların sihirli dil çekimlerini kullanarak kilden figürleri ("çamur figürleri" olarak adlandırılan) canlandırdıklarına dair hikayeler vardır. Bu hikayelerde kil figürler bazen Yahudileri zulümden kurtarır. Ancak diğer zamanlarda kilden figürler hain olacak, insanları öldürecek, malları çalacak ve güçlerini kötülük yapmak için kullanacak.
Evet, bunların hepsi çok tanıdık geliyor. Aynı kaygıyı matematikçi ve filozof Norbert Wiener'in 1964'te yapay zekanın riskleri üzerine yazdığı God & Golem, Inc. kitabında ve şu anda teknoloji uzmanları tarafından yayınlanan çok sayıda açık mektupta da duyabilirsiniz. AGI'nin bize kurtuluş ya da kıyamet getireceği konusunda uyarıyorlar.
Bu açıklamaları okuduğunuzda şunu sorabilirsiniz: Eğer YGZ hem kıyameti tehdit ediyor hem de kurtuluş vaat ediyorsa, neden YGZ yaratıyoruz? Neden kendimizi, hastalıkları tedavi etmek gibi uygulamalarda zaten harikalar yaratabilen daha dar yapay zeka biçimleri yaratmakla sınırlandırmıyoruz ve bir süre buna bağlı kalmıyoruz?
Bunu öğrenmek için, yakın zamanda iç içe geçmiş üç hareketin Silikon Vadisi'nin yapay zeka vizyonunu nasıl şekillendirdiğini anlamaya başladığımızda beni biraz daha geriye doğru takip edin.
Transhümanizm, Etkili Fedakarlık ve Uzun Vadeliliğe Bakış
Pek çok anlatıma göre, Charles Darwin 1859'da evrim teorisini yayınladığında, tüm dindar düşünürler bunu hemen, Tanrı'nın en dindar yaratımı olan insanlığa yönelik korkunç, sapkın bir tehdit olarak gördüler. Ancak bazı Hıristiyan düşünürler bunu eski ruhani kehanetlerin gösterişli yeni bir kıyafeti olarak görüyorlar. Sonuçta dini fikirler asla ölmez, sadece yeni kıyafetler alırlar.
Tipik bir örnek, 20. yüzyılın başlarında paleontoloji eğitimi almış Fransız Cizvit rahibi Pierre Teilhard de Chardin'dir. Teknolojinin yönlendirdiği insan evriminin aslında Tanrı'nın krallığının taşıyıcısı olduğuna inanıyor.İnsanlar ve makinelerin entegrasyonu, Omega Noktası adını verdiği bir zeka patlamasına yol açacaktır. Bilincimiz, Tanrı ile birleşeceğimiz ve yeni bir tür olacağımız bir "süper bilinç durumuna" girecektir.
Yazar Meghan O'Gieblyn'in 2021 tarihli Tanrı, İnsan, Hayvan, Makine kitabında belgelediği gibi, evrimci biyolog Aldous Huxley, İngiliz Hümanist Derneği ve İngiliz Öjeni Derneği'nin başkanıydı. Huxley, Teilhard'ın türümüzü geliştirmek için teknolojiyi kullanmamız gerektiği fikrini popüler hale getirdi. buna "transhümanizm" diyorlar.
Bu da Teilhard'la temelde aynı tahminde bulunan fütürist Ray Kurzweil'i etkiledi: İnsan zekası ile makine zekasının bütünleştiği bir çağa girmek üzereyiz ve insan zekası son derece güçlü hale gelecek. Ancak Kurzweil bunu "Omega Noktası" olarak adlandırmak yerine "Tekillik Noktası" olarak yeniden adlandırdı.
Kurzweil 1999 yılında ulusal çok satan kitabı The Age of Ingenuity'de "İnsanlar ve onların yarattığı bilgi işlem teknolojileri asırlık sorunları çözebilecek... ve postbiyolojik gelecekte ölümün doğasını değiştirecek" diye yazmıştı. Vahiy Kitabına göre: "Artık ölüm yok, artık ne matem, ne ağlama, ne de acı var, çünkü önceki şeyler geçti."
Kurzweil, Martine Rothblatt'ın Terasem hareketinden Mormon süperinsanlar Derneği'ne, Anthony Levandowski'nin kısa ömürlü Yolu'na kadar, yapay zekaya tapınma veya insanları dindarlığa yönlendirmek için yapay zekayı kullanma etrafında açıkça dini hareketler oluşturanlar gibi, ikisi arasındaki manevi benzerlikleri kabul ediyor. Gelecek kilisesi. Ancak Oxford Üniversitesi filozofu Nick Bostrom gibi pek çok kişi, trans hümanizmin dinden farklı olduğu ve "eleştirel akla ve sahip olduğumuz en iyi bilimsel kanıtlara" dayandığı konusunda ısrar ediyor.
Bugün transhümanizmin bir kız kardeşi var, Oxford'da doğan ve Silikon Vadisi'nde patlayan başka bir hareket: Çoğu insan için en iyinin nasıl yapılacağını bulmayı amaçlayan Etkili Altruizm (EA). Etkili fedakarlar aynı zamanda yaklaşımlarının seküler akıl ve kanıtlara dayandığını da söylüyorlar.
Bununla birlikte, etkili fedakarlık aslında pek çok açıdan din ile aynıdır: işlevsel olarak (ortak bir ahlaki yaşam vizyonu etrafında inşa edilmiş bir grubu bir araya getirir), yapısal olarak (peygamber liderleri, klasik metinler, festivaller ve ritüellerden oluşan bir hiyerarşiye sahiptir) ve estetik olarak (ondalık vermeyi teşvik etti ve çileciliği destekledi). En önemlisi, bir eskatoloji sağlar.
Etkili fedakarlığın eskatolojisi, Musk'ın bir zamanlar "benim felsefemle çok tutarlı" olarak tanımladığı, en tartışmalı görüşü olan uzun vadelicilik biçiminde gelir. Çoğu insana yardım etmenin en iyi yolunun, türümüzün neslinin tükenmeyeceğini varsayarak, şu anda olduğundan milyarlarca daha fazla insanın var olabileceği uzak bir gelecekte (örneğin milyonlarca yıl sonra) insanlığın hayatta kalmasını sağlamaya odaklanmak olduğunu savunuyor. Birinci.
Buradan teknoloji uzmanlarının neden YGZ oluşturmak için çalıştıkları sorusunun yanıtlarını almaya başlıyoruz.
Ahlaki İlerleme Olarak Yapay Zeka İlerlemesi
Etkili fedakarlar ve uzun vadeli düşünenler için, dar kapsamlı yapay zeka konusunda ısrar etmek bir seçenek değil. Oxford Üniversitesi filozofu Will MacAskill, etkili fedakarlığın ve uzun vadeliciliğin "isteksiz peygamberi" olarak adlandırıldı. 2022 tarihli Geleceğe Ne Borçluyuz adlı kitabında teknolojik ilerlemedeki durgunluğun neden kabul edilemez olduğuna inandığını açıklıyor. "Durgunluk dönemleri" diye yazdı, "yok olma ve kalıcı çöküş riskini artırabilir."
Sahte yapay zeka ve tasarlanmış salgın hastalıklar gibi riskler nedeniyle önümüzdeki yüzyılda insanlığın yok olma ihtimalinin altıda bir olduğunu tahmin eden meslektaşı Toby Ord'dan alıntı yapıyor. Bir başka EA meslektaşı Holden Karnofsky de benzer şekilde "tarihin bir dönüm noktasında" veya "en önemli yüzyılda" yaşadığımıza inanıyor; insanlık tarihinde ya daha önce hiç olmadığı kadar gelişeceğimiz ya da yıkıma uğrayacağımız özel bir dönem. Musk gibi MacAskill de kitapta yok olmayı önlemenin iyi bir yolunun diğer gezegenleri kolonileştirmek ve böylece tüm yumurtalarımızı aynı sepete koymamak olduğunu öne sürüyor.
Ancak bu, MacAskill'in "uzay yerleşimine ilişkin ahlaki görüşünün" yalnızca yarısı. Diğer yarısı ise gelecekteki insan uygarlığını mümkün olduğu kadar büyük ve ütopik kılmak için çabalamamız gerektiğidir. MacAskill'in Oxford'lu meslektaşı Bostrom'un belirttiği gibi, "kozmik kolonizasyon" bize, insanların sonsuza dek mutlu yaşamasını sağlayacak çok sayıda dijital simülasyonu çalıştırmamız için alan ve kaynak sağlayacak. Alan ne kadar büyükse, o kadar mutlu (dijital) insanlar var! Ahlaki değerlerin çoğunun yattığı yer burasıdır: şu anda burada, dünyada değil, gelecekte cennette… Kusura bakmayın, “sanal ölümden sonraki yaşamı” kastetmiştim.
Tüm bu fikirleri bir araya getirip genellediğimizde şu temel önermeye ulaşıyoruz:
Bunun ne olduğunu, dini araştıran herkes hemen görebilir: Kıyamet mantığı.
Transhümanistler, etkili fedakarlar ve uzun vadeli düşünenler, sonun yakın olduğu ve teknolojik ilerlemenin bir medeniyet olarak ilerlememiz için en iyi şansımız olduğu görüşünü miras alıyorlar. Bu mantıkla hareket edenler için YGZ'ye yönelmek basit bir iş gibi görünebilir. Her ne kadar YZG'nin önemli bir varoluşsal risk oluşturduğuna inansalar da, YZG'yi inşa etmemeyi göze alamayacağımıza inanıyorlar çünkü YZZ, insanlığı istikrarsız karasal ergenlikten (her an sona erebilir!) müreffeh yıldızlararası yetişkinliğe (o kadar çok Mutlu insan var ki, bu yüzden) ilerletme potansiyeline sahip. birçok uygar değer!). Elbette teknolojik olarak ilerlememiz gerekiyor, çünkü bu, medeniyet olarak ilerlemek anlamına geliyor!
Fakat bu, akla ve delillere dayanıyor mu? Yoksa dogmaya mı dayanıyor?
Buradaki temel öncül, bir miktar jeopolitik ile karıştırılmış teknolojik determinizmdir. Fikir şu ki, sen ve ben korkutucu derecede güçlü bir yapay zeka yaratmasak bile, başka biri veya başka bir ülke yaratacak; o halde neden kendimizi bu işe karışmaktan alıkoyalım ki? OpenAI'den Altman, teknolojinin ilerlemesi gerektiğine olan inancın örneğini oluşturuyor. 2017 yılında blogunda şöyle yazmıştı: "Önce kendimizi yok etmezsek, insanüstü yapay zeka ortaya çıkacak." Neden? "Öğrendiğimiz gibi, fizik yasaları onu durdurmazsa bilimsel ilerleme eninde sonunda gerçekleşecektir."
Öğrendik mi? İcat edilebilecek herhangi bir şeyin asla icat edilmeyeceğine dair hiçbir kanıt göremiyorum. (Yapay Zekanın Etkisi baş araştırmacısı Katja Grace şöyle yazıyor: "Gözlerinize bok tüküren bir makine düşünün. Teknik olarak bunu yapabiliriz, ancak muhtemelen hiç kimse böyle bir makine yapmamıştır.") İnsanlar, yapay zekaya daha yatkın görünüyorlar. Güçlü ekonomik, sosyal veya ideolojik baskıların yönlendirdiği durumlarda yeniliği takip edin.
Silikon Vadisi'ndeki YGZ çılgınlığının ortasında sosyal ve ideolojik baskı, transhümanizm, etkili fedakarlık ve uzun vadelilik kisvesi altında yeniden icat edilen dini fikirler tarafından sağlanıyor. Ekonomik ve kârlılık baskılarına gelince, bunlar Silikon Vadisi'nde her zaman var.
Mayıs ayında yapılan bir Reuters anketi, Amerikalıların yüzde 61'inin artık yapay zekanın insan uygarlığını tehdit edebileceğine inandığını gösterdi; bu görüş özellikle Evanjelik Hıristiyanlar arasında güçlü. Dini çalışmalar uzmanı Geraci için bu durum şaşırtıcı değil. Kıyamet mantığının "Amerikan Protestan Hıristiyanlığında çok, çok, çok güçlü" olduğunu belirtti; öyle ki, 10 Amerikalı yetişkinden 4'ü şu anda insanlığın son zamanlarda yaşadığına inanıyor.
Maalesef kıyamet mantığı sıklıkla tehlikeli fanatizmi besliyor. Orta Çağ'da sahte bir mesih ortaya çıktığında insanlar, peygamberlerinin peşinden gitmek için dünyalıklarını terk ederlerdi. Bugün yapay zekanın kıyamet gününe ilişkin konuşmalar medyayı doldururken, gerçek inananlar yapay zekanın güvenliği üzerine çalışmak için üniversiteyi bırakıyor. Kıyamet ya da kurtuluşun, cennet ya da cehennemin mantığı, insanları büyük riskler almaya, kendilerini buna adamaya itiyor.
Geçen yıl benimle yaptığı bir röportajda MacAskill aşırı kumar uygulamalarını reddetti. Bana, kendi hayalinde, Silikon Vadisi'ndeki bazı teknoloji kardeşlerinin, bir YZZ felaketinden ölme ihtimalinin %5, YZG'nin mutlu bir ütopya getirme ihtimalinin ise %10 olduğuna inandıklarını ve istekli olacaklarını söyledi. Bu şanslara katlanmak için aceleyle AGI oluşturun.
MacAskill bana şöyle dedi: "İnsanların bu YGZ inşa etmekten hoşlanmasını istemiyorum çünkü onlar etik konulara tepki vermiyorlar. Belki bu, onu daha güvenli hale getirmek için Tekilliği geciktirmemiz gerektiği anlamına geliyor. Belki de bu, Tekilliğin olmayacağı anlamına geliyor. Bu gidiyor." hayatım boyunca olmak. Bu çok büyük bir fedakarlık olacak."
MacAskill bana bunu söylediğinde Musa'nın Vaat Edilmiş Topraklara bakan ama oraya ulaşamayacağını bilen bir görüntüsünü hayal ettim. Uzun vadeli vizyon onun acımasız bir inanca sahip olmasını gerektiriyordu: Kişisel olarak siz kurtulamayacaksınız, ancak ruhsal torunlarınız kurtulacak.
Kurtuluşu bu şekilde isteyip istemediğimize karar vermeliyiz
Teknolojinin insanlığın kaderini temelden iyileştirebileceğine inanmanın kendi içinde yanlış bir yanı yoktur. Pek çok açıdan açıkça öyle.
İki doktorası bulunan ve Villanova Üniversitesi'nde teoloji kürsüsü bulunan Ilia Delio bana "Teknoloji sorun değil" dedi. Aslında Delio, Homo sapiens'ten geçiş yaparak halihazırda yeni bir evrim aşamasında olduğumuza ikna olmuştu. “teknolojik Homo sapiens”e bakış sevindirici. Açık fikirlilikle teknolojinin yardımıyla proaktif bir şekilde gelişmemiz gerektiğine inanıyor.
Ancak aynı zamanda hangi değerlerin teknolojimizi etkilediği konusunda net olmamız gerektiğini de anlıyor, "böylece teknolojiyi amaç doğrultusunda ve etik değerlerle geliştirebiliriz" dedi. Aksi takdirde "teknoloji kördür ve potansiyel olarak tehlikelidir."
Geraci de aynı fikirde. "Silikon Vadisi'ndeki birçok insanın 'Hey, bu teknolojiyi destekliyorum çünkü beni ölümsüz yapacak' demesi biraz korkutucu olurdu" dedi. "Ama birisi 'Bu teknolojiyi destekliyorum' derse, çünkü bunu dünyadaki açlığı çözmek için kullanabileceğimizi düşünüyorum' -- bunlar çok farklı iki motivasyon. Bu, tasarlamaya çalıştığınız ürünün türünü, tasarladığınız insanları ve denediğiniz insanları etkileyecektir. kendinizi dünyada konuşlandırılma şekliyle çevrelemek için.
Teknolojinin değerine düşünceli bir şekilde karar verirken, aynı zamanda karar verme yetkisinin kimde olduğunu da çok iyi bilmelisiniz. Schwarz, yapay zeka tasarımcılarının bize yapay zekanın getireceği gerekli teknolojik gelişmelere dair bir vizyon sattıklarına ve kendilerini bu konuda tek uzman olarak belirlediklerine inanıyor, bu da onlara muazzam bir güç veriyor - tartışmasız demokratik olarak seçilmiş olanlardan daha fazla. Yetkililerin daha fazla gücü var.
Schwarz, "Yapay zeka geliştirmenin doğal bir yasa olduğu fikri, düzenleyici bir ilke haline gelir ve bu düzenleyici ilke politiktir. Bazı insanlara siyasi güç verirken diğerlerine çok daha az güç verir, " dedi. "'YGZ'ye ihtiyacımız yok, bu masada değil' demek yerine, 'YGZ konusunda çok dikkatli olmalıyız' demek benim için tuhaf. Ama gücün artık ortada olduğu bir noktaya geldik. Bize seçeneklerin sunulma şekli sağlamlaştırılmış durumda ve hatta kolektif olarak AGI'nin takip edilmemesi gerektiğini bile tavsiye edebiliyoruz."
Bu noktaya büyük ölçüde gelmemizin nedeni, geçtiğimiz bin yıl boyunca Batı'nın tek bir anlatıya düşme tehlikesiyle karşı karşıya olmasıdır: Orta Çağ dini düşünürlerinden miras aldığımız, teknolojik ilerlemeyi ahlakla eşitleyen hikaye: ilerleme.
Delio, "Elimizdeki tek anlatı bu" diyor ve ekliyor: "Bu anlatı bizi (geçmişte aynı zamanda ruhani otoriteler olan) teknik uzmanları dinlemeye ve değerleri ve varsayımları onların ürünlerine yerleştirmeye yönlendiriyor."
"Alternatif nedir? Alternatif 'canlı yaşamak başlı başına bir amaçtır' olsaydı" diye ekledi Delio, "o zaman teknolojiden beklentilerimiz tamamen farklı olabilir." "Ama bizim böyle bir anlatımız yok! Ana akım Anlatılarımız bununla ilgili. yaratmak, icat etmek, yapmak ve bizi değiştirmelerine izin vermek.”
Nasıl bir kurtuluş istediğimize karar vermemiz gerekiyor. Eğer yapay zekaya duyduğumuz heyecan dünyanın sınırlarını aşma ve bedenin ölümü vizyonundan kaynaklanıyorsa bunun toplumsal bir sonucu olacaktır. Ancak dünyayı ve bu bedenlerin refahını iyileştirmek için teknolojiyi kullanmaya kararlı olursak farklı sonuçlar elde edebiliriz. Noble'ın belirttiği gibi, "şaşırtıcı yeteneklerimizi daha laik ve insani amaçlara yönlendirmeye başlayabiliriz."