Musk: Microsoft ve Google'ın yapay zeka hegemonyasına karşı savaşın

Kaynak｜TIME

Yazar｜Walter Isaacson

Çeviri｜Yang Xuehan

Kaynak丨Heizhi

Elon Musk, 2012 yılında bir konferansta DeepMind'ın kurucusu Demis Hassabis ile tanıştı.Şirketin yaratıcı konsepti, insanın düşünme kalıplarını öğrenebilen makineler tasarlamaktı.

Hassabis, "Elon ve ben hemen anlaştık, ben de onun roket fabrikasına gittim" dedi. Fabrikanın montaj hattına bakan bir restoranda birlikte otururken Musk, roketleri yapacağını düşündüğü için yaptığını açıkladı. İnsanların bir dünya savaşı, gezegensel bir çarpışma veya medeniyetin çöküşü karşısında bilinçlerini korumanın bir yolu. Hassabis, başka bir potansiyel tehdidin eklenebileceğini söyledi: yapay zeka. Makineler bir gün biz ölümlüleri geride bırakarak "süper zeki" hale gelebilir ve hatta insanoğlunun küçük varlığını bile ortadan kaldırabilir.

Musk bu olasılığı kabul etmek için bir dakikalık saygı duruşunda bulundu. Hassabis'in yapay zekanın tehlikeleri konusunda haklı olabileceğini düşündü ve ne yaptığını izlemek için hemen DeepMind'a 5 milyon dolar yatırım yaptı.

Bu konuşmadan birkaç hafta sonra Musk, DeepMind'ı Google'ın kurucusu Larry Page ile tanıştırdı. İkisi birbirini bir düzineden fazla yıldır tanıyor ve Musk sık sık Page'i Palo Alto'daki evinde ziyaret ediyor. Yapay zekanın potansiyel tehdidi, Musk tarafından görüşmeler sırasında sıklıkla gündeme getirilen bir konu haline geldi, ancak Page bu konuyu önemsemiyor.

Musk, 2013 yılında Kaliforniya'nın Napa Vadisi'nde doğum gününü kutlarken hararetli bir tartışmaya girdiler. Musk, güvenlik önlemleri oluşturmadığımız sürece, yapay zeka sistemlerinin insanların yerini alma, türümüzü ilgisiz hale getirme ve hatta yok olmasına yol açma ihtimalinin yüksek olduğuna inanıyor.

Page şu cevabı verdi: "Eğer makineler bir gün insanları aşacak ve hatta özerk bilince sahip olacaksa, bunda ne sakınca var?" Bu sadece evrimin bir sonraki aşamasıdır. Musk, insan bilincinin evrendeki değerli bir ışık olduğunu ve onun sönmesine izin vermememiz gerektiğini söyleyerek buna karşı çıktı. Page bunun duygusal bir saçmalık olduğunu düşünüyor. Eğer bilinç makinelerde kopyalanabiliyorsa, değer de kopyalanabilir. Musk'ı "tür üstünlüğü yanlısı", insan yanlısı topluluğun bir üyesi olmakla suçladı. Musk, "Evet, insanların büyük bir hayranıyım" diye yanıt verdi.

Dolayısıyla Musk, 2013'ün sonlarında Page ve Google'ın DeepMind'ı satın almayı planladıklarını duyduğunda dehşete düştü. Musk ve arkadaşı Luke Nosek anlaşmayı engellemek için para toplamaya çalıştı. Los Angeles'taki bir partide Hassabis ile bir saat süren Skype görüşmesi yaptılar. Musk, "Yapay zekanın geleceği Larry tarafından kontrol edilmemelidir" dedi.

Ancak bu çaba başarısız oldu ve Google, Ocak 2014'te DeepMind'ı satın aldığını duyurdu. Page bir "güvenlik komitesi" kurulmasını önerdi ve Musk'ı üye olmaya davet etti. Tek toplantı SpaceX'te yapıldı ve Page, Hassabis, Google Başkanı Eric Schmidt, Reid Hoffman ve diğer birçok önde gelen ismin katılımıyla gerçekleşti. Toplantının ardından Musk, komitenin temelde insanlara yalan söylediği sonucuna vardı.

Böylece Musk, Google ile mücadele etmenin ve yapay zeka güvenliğini geliştirmenin yollarını keşfetmeyi amaçlayan bir dizi akşam yemeği seminerine ev sahipliği yapmaya başladı. Hatta Mayıs 2015'te bire bir görüşmeyi kabul eden Obama ile temasa geçti. Musk yapay zekanın potansiyel risklerini açıkladı ve düzenlemelerin devam etmesini önerdi. Musk, "Obama ne söylediğimi anladı ama bunun onun herhangi bir eyleme geçme isteği uyandırmaya yetmediğini fark ettim" dedi.

Musk daha sonra yazılım girişimcisi, spor araba tutkunu ve hayatta kalma uzmanı olan ve dışarıdan olgun görünümüne rağmen Musk'ınkine benzer şiddetli bir kararlılığa sahip olan Sam Altman'dan yardım istedi. Palo Alto'da küçük bir akşam yemeğinde OpenAI adında kar amacı gütmeyen bir yapay zeka araştırma laboratuvarı kurmaya karar verdiler. Google'ın bu alanda artan etkisine karşı koymak için yazılımını açık kaynaklı hale getirecek. Musk, "Linux'un herhangi bir kişi veya şirket tarafından kontrol edilmeyen yapay zeka benzeri bir sürümüne sahip olmak istiyoruz" dedi.

Tartıştıkları sorulardan biri hangi yaklaşımın daha güvenli olduğuydu: büyük şirketler tarafından kontrol edilen bir avuç yapay zeka sistemi mi, yoksa bağımsız sistemlerdeki büyük miktarda veri mi? Sonuçta birbirini kontrol edip dengeleyebilen çok sayıda rakip sistemin daha iyi bir çözüm olacağı sonucuna vardılar. Musk'a göre açık kaynak, birçok kişinin kaynak koduna dayalı sistemler oluşturabileceği anlamına geliyor, bu yüzden OpenAI'yi açık tutuyor.

Musk, yapay zekanın güvenliğini sağlamanın bir başka yolunun da robotları insanlarla yakından ilişkilendirmek olduğuna inanıyor. Bunlar, kontrolden çıkıp benlik ve amaç duygusu geliştirebilecek sistemler değil, insan iradesinin uzantıları olmalıdır. İnsan beynini doğrudan bilgisayarlara bağlayabilen çipler üretmeye adanmış bir şirket olan Neuralink'i kurmasının nedenlerinden biri de bu oldu.

Musk'un yapay zeka yeteneklerini kendi şirketinin kontrolünde geliştirme fikri, 2018'de OpenAI ile yaşadığı anlaşmazlığın tetikleyicisi oldu. Altman'ı OpenAI'yi Tesla'ya dahil etmeye ikna etmeye çalıştı. Ancak OpenAI ekibi bu fikri reddetti ve Altman başkan olarak görevi devraldı, karlı bir birim kurdu ve Microsoft'tan büyük bir yatırım da dahil olmak üzere özsermaye yatırımını başarıyla artırdı.

Musk bir yapay zeka karşıtı ekip oluşturmaya devam etmeye karar verdi ve bir dizi ilgili proje geliştirmeye çalıştı. Bunlar arasında insan beynine mikroçipler yerleştirmeyi amaçlayan Neuralink, insana benzer bir robot olan Optimus ve insan beynini simüle etmek üzere yapay sinir ağlarını eğitmek için milyonlarca video kullanabilen bir süper bilgisayar olan Dojo yer alıyor. Bu aynı zamanda ona Tesla arabalarının otonom sürüşünü isteme konusunda da ilham verdi.

İlk başta bu çabalar nispeten bağımsızdı, ancak sonunda Musk bunları, xAI adında kurduğu yeni bir şirketle ve genel yapay zeka hedefine ulaşmak için diğer tüm projelerle bir araya getirdi.

Mart 2023'te OpenAI, GPT-4'ü halka yayınladı. Google, Bard adında bir sohbet robotunun piyasaya sürülmesiyle aynı şeyi yaptı. İnsanlarla doğal olarak sohbet edebilen ve sonsuz metin tabanlı entelektüel görevleri yerine getirebilen ürünler geliştirmek için OpenAI-Microsoft ve DeepMind-Google arasında yarış başladı.

Musk, bu sohbet robotlarının ve yapay zeka sistemlerinin, özellikle de Microsoft ve Google tarafından yönetilenlerin, politik olarak beyinlerinin yıkanmış olabileceğinden ve hatta "uyanmış zihin virüslerinden" etkilenebileceğinden endişe ediyor. Ayrıca kendi kendine öğrenen yapay zeka sistemlerinin insan türüne düşman olabileceğinden de endişe ediyor. Olumsuz şekilde eğitilen sohbet robotlarının Twitter'da yanlış bilgi, önyargılı raporlama veya mali dolandırıcılık yayabileceğinden endişeleniyor. Elbette insanlar bunları zaten yapıyor ancak binlerce chatbotun konuşlandırılması bu sorunları yüzlerce hatta binlerce kez daha da kötüleştirecek.

Kalbinin derinliklerinde her zaman kurtarma dürtüsü vardı. Kurduğu ve büyümesini finanse ettiği OpenAI'nin dışında bırakılmaktan rahatsızdı. Yapay zeka fırtınası yaklaşıyor. Ve kimse fırtınaları Musk kadar çekemez.

Şubat 2023'te Sam Altman'ı Twitter üzerinden buluşmaya davet etti ve ondan OpenAI'nin kuruluş belgelerini getirmesini istedi. Musk, bağışlarla finanse edilen kâr amacı gütmeyen bir kuruluşu yasal olarak nasıl milyonlar kazanabilecek kâr amaçlı bir kuruluşa dönüştürebileceğini sorguladı. Atman, tüm bunların yasal olduğunu söyledi ve kendisinin hissedar olmadığını ve kar elde etmediğini vurguladı. Musk'a yeni şirkette hisse teklif etmeye çalıştı ancak reddedildi.

Bunun yerine Musk, OpenAI'ye bir dizi saldırı başlattı ve Altman sıkıntıya girdi. Musk'ın aksine hassastır ve tartışmalardan hoşlanmaz. Musk'ın yapay zeka güvenlik sorunlarının karmaşıklığını derinlemesine araştırmadığına inanıyor. Ancak Musk'un eleştirisinin gerçek endişelerden kaynaklandığını da kabul etti. Altman, Kara Swisher'a "O bir pislik" dedi. "Takdir etmediğim bir tarzı var. Ama bence insanlığı gerçekten önemsiyor ve insanlığın geleceği konusunda çok endişeli."

Yapay zekanın yakıtı veridir. Yeni sohbet robotları geniş ölçekte bilgiyle besleniyor; web sayfalarından ve diğer belgelerden milyarlarca sayfalık veri. Google ve Microsoft, bu büyük miktardaki verileri arama motorları, bulut hizmetleri ve e-posta erişimi aracılığıyla, bu yapay zeka sistemlerinin eğitilmesine yardımcı olmak için kullanıyor.

Musk bu alana neler getirebilir? Bu tür varlıklardan biri, yıllar içinde gönderilen bir trilyondan fazla tweet'i içeren ve her gün eklenen yarım milyar yeni tweet'i içeren Twitter'ın veri akışıdır. Bu, insanlığın kolektif zihnidir; gerçek insan konuşmaları, haberler, ilgi alanları, trendler, tartışmalar ve daha fazlasını içeren dünyanın en güncel veri kümesidir. Ayrıca chatbotların gerçek insanlarla nasıl etkileşim kurduğunu test etmek için harika bir eğitim alanıdır. Musk, Twitter'ı satın alırken bu veri akışının değerini düşünmemişti. "Aslında bu, satın alma işlemini gerçekleştirene kadar farkına varmadığım ek bir faydaydı" dedi.

Twitter, diğer şirketlerin bu veri akışından yararlanmasına izin verme konusunda nispeten hoşgörülü davranmıştı. Ocak 2023'te Musk, Twitter konferans odasında bunun nasıl ücretlendirileceğini çözmek için gece geç saatlerde bir dizi toplantı düzenledi. Mühendislere "Bu bir para kazanma fırsatı" dedi. Bu aynı zamanda Google ve Microsoft'un yapay zeka sohbet robotlarını geliştirmek için bu verileri kullanmasını sınırlamanın bir yoludur. Temmuz ayında günde görüntülenen tweet sayısını geçici olarak sınırlamaya karar vermesi tartışmalara yol açtı; amaç, Google ve Microsoft'un yapay zeka sistemlerini eğitmek için kullanılan milyonlarca tweet'i "kazımasını" önlemekti.

Musk'ın elinde başka bir veri grubu daha var: Tesla'nın araç kameralarından günlük olarak alıp işlediği 160 milyar karelik video. Bu veriler, bir chatbot'a gönderilen bilgilendirici metinle aynı değil; bu, insanların gerçek dünyada gezinmesine ilişkin video verileridir. Yalnızca metin üreten sohbet robotları için değil, fiziksel robotlar için de yapay zeka oluşturulmasına yardımcı olabilir.

Genel yapay zekanın nihai hedefi, bizi bedensiz konuşmalarla şaşırtmak yerine, fabrikalar, ofisler ve hatta Mars yüzeyi gibi insanlar gibi fiziksel alanlarda çalışabilen makineler inşa etmektir. Tesla ve Twitter, iki yaklaşım için gereken veri kümelerini ve işlem gücünü sağlamak üzere iş birliği yapıyor: Makinelere fiziksel alanlarda gezinmeyi ve soruları doğal dilde yanıtlamayı öğretmek.

Mart ayında Musk bana mesaj attı ve şöyle dedi: "Seninle konuşmak istediğim önemli bir şey var ve bu sadece şahsen yapılabilir." Austin'e vardığımda, Neuralink yöneticisi Shivon Zilis'in evindeydi. aynı zamanda iki çocuğunun da annesi, sekiz yıl önce OpenAI'yi kurduğundan beri yapay zeka alanındaki beyin güveni oldu. Telefonlarımızı evde bırakmamız gerektiğini çünkü birisinin onları konuşmalarımızı gözetlemek için kullanabileceğini söyledi. Ancak daha sonra yapay zeka hakkındaki sözlerini kitabımda kullanabileceğimi kabul etti.

O ve Zilis, havuzun kenarındaki güvertede bağdaş kurup yalınayak oturuyorlardı ve 16 aylık ikizleri Strider ve Azure'u kollarında tutuyorlardı. Zilis kahveyi yaptı ve çok çabuk içmesin diye fincanını mikrodalgaya koyarak çok sıcak hale getirdi.

Musk, "Yapay zekanın güvenliğini nasıl sağlayabiliriz?" diye sordu. "Bu soruyu düşünüyordum. Yapay zekanın tehlikelerini azaltmak ve insan bilincinin hayatta kalmasını sağlamak için ne gibi eylemler yapabiliriz?"

Sesi alçaktı. İnsanların yeterince çocuk sahibi olmaması nedeniyle insan zekasının miktarının istikrar kazandığına dikkat çekiyor. Aynı zamanda akıllı bilgisayarların sayısı da katlanarak artıyor. Gelecekte bir noktada insan beyninin zekası, dijital zekanın önüne geçecek.

Ek olarak, yeni yapay zeka makine öğrenimi sistemleri bilgileri kendi başlarına özümseyebilir ve nasıl çıktı oluşturulacağını öğrenebilir, hatta kendi kodlarını ve yeteneklerini yükseltebilir. "Tekillik" terimi, matematikçi John von Neumann ve bilim kurgu yazarı Vernor Vinge tarafından, yapay zekanın kendisini kontrol edilemeyen hızlarda ilerletme ve sıradan insanları geride bırakma yeteneğini tanımlamak için icat edildi. Musk uğursuz bir ses tonuyla "Bu beklediğimizden daha erken gerçekleşebilir" dedi.

Bir an bu sahnenin fantezisi beni etkiledi. Güneşli bir bahar gününde, arka bahçedeki aynı derecede sessiz bir yüzme havuzunun yanındaki sakin bir banliyö verandasında oturuyoruz, ikizler yürümeye başlıyor ve Musk, AI kıyameti gerçekleşmeden önce ciddi bir şekilde spekülasyon yapıyor. Mars'ta sürdürülebilir insan kolonisi

Musk sessizliğe büründü ve Sivan Zilis "toplu işleme"nin, eski bilgisayarların yeterli işlem gücüne sahip olduklarında birden fazla görevi çalıştırmak üzere sıraya koyma biçimini ifade ettiğini söyledi. Yumuşak bir sesle "Burada oturup hiçbir şey yapamam" dedi. "Yapay zeka geliştikçe, Twitter hakkında düşünmeye bu kadar vakit ayırmaya değer mi diye merak ediyorum. Elbette onu dünyanın en büyük Twitter'ına dönüştürme fırsatım var." en büyük finans kurumu, ama beynimde sadece bu kadar yer var ve günde sadece 24 saatim var."

Konuşmaya başladım ama ne soracağımı biliyordu. "Peki zamanımı nerede geçirmeliyim?" dedi. "Yıldız gemisinin fırlatılması ve Mars'a iniş çok yakında." Tekrar duraksadı ve ardından şunu ekledi: "Ve benim de yapay zekanın güvenliğini sağlamam gerekiyor. Bu yüzden bir yapay zeka şirketi kurmak istiyorum."

Şirket Musk tarafından xAI olarak adlandırılıyor. Kendisi bizzat eski DeepMind araştırmacısı Igor Babushkin'i işe aldı ve bana xAI'yi şahsen yöneteceğini söyledi. Ben de hesabı yaptım ve bu onun altı şirketi yöneteceği anlamına geliyordu: Tesla, SpaceX ve Starlink birimi, Twitter, The Boring Co., Neuralink ve xAI. Bu, Steve Jobs'un zirvedeki seviyesinin üç katından fazla.

Sohbet robotlarında OpenAI'nin çok gerisinde olduğunu itiraf ediyor. Ancak Tesla'nın sürücüsüz otomobiller ve robotu Optimus'taki ilerlemesi, onu yapay zeka navigasyonunda çok ileri taşıyor. Bu, mühendislerinin aslında tam gelişmiş genel yapay zeka yaratma konusunda OpenAI'nin ilerisinde olduğu anlamına geliyor. Şunları söyledi: "Tesla'nın gerçek dünyadaki yapay zekası hafife alınıyor. Tesla ve OpenAI'nin görev değiştirdiğini, OpenAI'nin otonom sürüş yaptığını ve Tesla'nın sohbet robotları yaptığını hayal edin. Kim kazanırdı? Cevap sadece biziz."

Nisan ayında Musk, Babushkin ve ekibine üç ana hedef verdi: Birincisi, bilgisayar kodu yazabilen bir yapay zeka robotu yaratmaktı. Programcılar herhangi bir programlama dilini yazabilir ve xAI robot, görevi mümkün olan en yüksek işlemlerle otomatikleştirecektir. İkinci ürün, GPT serisi chatbotlara rakip geliştirecek ve algoritmalar ve veri setleri üzerinde eğitim kullanarak siyasi tarafsızlığını sağlayacak.

Musk'ın takım için üçüncü hedefi ise daha da iddialı. Nihai misyonu her zaman yapay zekanın insan bilincinin devam eden varlığını korumaya yardımcı olacak şekilde gelişmesini sağlamak olmuştur. "Akıl yürütebilen", "düşünebilen" ve yol gösterici ilkesi olarak "gerçeği" kullanabilen genel bir yapay zeka biçimi yaratıp ona "daha iyi roket motorları inşa etmek" gibi bazı önemli görevler vererek bunun mümkün olabileceğine inanıyor. Bunu mümkün olan en iyi şekilde başarmak için yapılmıştır.

Musk bir gün daha büyük, daha geniş kapsamlı sorunların üstesinden gelebileceğini umuyor. Yani "gerçeğin arayışını en üst düzeye çıkaran bir yapay zeka olacak. Evreni önemseyecek, anlayacak ve hatta belki de tüm insanları koruyacak, çünkü biz insanlar da evrenin ilginç bir parçasıyız." Bu tanıdık geldi ve sonra Nedenini anladım.

Yüklendiği görev, çocukluğunun kültürel klasiği ve bir yetişkin olarak ilham kaynağı olan Otostopçunun Galaksi Rehberi'ne benziyor. Kitapta "hayatın, evrenin ve her şeyin en önemli sorularına yanıtlar" bulmak üzere tasarlanmış bir süper bilgisayar anlatılıyor.