DeepMind, 2010 yılında kurulmuş ve merkezi Londra, İngiltere'de bulunan bir yapay zeka araştırma şirketidir. Şirket, bilgisayarların insanlar gibi öğrenmesini ve akıl yürütmesini sağlamayı amaçlayan yapay genel zeka (AGI) sistemlerini geliştiriyor ve araştırıyor.
DeepMind'ın en bilinen başarılarından biri, 2016 yılında geliştirilen ve Go oyununda dünya şampiyonu Lee Sedol'u mağlup eden ve büyük ilgi gören AlphaGo programıdır. Bu başarı, yapay zekanın karmaşık problemler üzerindeki potansiyelini gösteriyor ve DeepMind'ı yapay zeka alanında lider şirketlerden biri haline getiriyor.
2014 yılında DeepMind Google tarafından satın alındı, ancak nispeten bağımsız operasyonlar sürdürüyor ve en ileri yapay zeka araştırmalarını yürütmeye devam ediyor.
Resim kaynağı: Sınırsız Yapay Zeka tarafından oluşturulmuştur
DeepMind kurucu ortağı Mustafa Süleyman, sohbet etmekten daha fazlası için kullanılabilecek bir sohbet robotu oluşturmak istedi. Kendisiyle yakın zamanda yaptığımız bir sohbette bana üretken yapay zekanın sadece bir aşama olduğunu söyledi. Sırada etkileşimli yapay zeka var: diğer yazılımları ve diğer insanları arayarak kendileri için belirlediğiniz görevleri tamamlayabilen robotlar. Ayrıca bunun başarılmasının zor olmayacağını savunarak daha güçlü yapay zeka düzenlemesi çağrısında bulundu.
Daha otonom yazılımlarla dolu bir gelecekten bahseden tek kişi Süleyman değil. Ancak çoğu insanın aksine, DeepMind, Meta ve OpenAI arasından seçilmiş bir grup üst düzey yapay zeka yeteneğinden oluşan milyarlarca dolar değerinde yeni bir şirket olan Inflection'ın sahibi ve aynı zamanda en büyük yapay zeka çipi üreticisi olan Nvidia ile de bir anlaşmaya vardı. . Süleyman söylediklerini uyguluyor ve çok para yatırıyor.
Süleyman, DeepMind'dan ayrıldı ve ardından yapay zeka politikasına adanmış bir ekibe liderlik etmek üzere Google'a geçti. 2022 yılında, en yeni yapay zeka şirketlerinden biri olan Inflection'ı kurdu. Microsoft, NVIDIA, Bill Gates ve LinkedIn kurucusu Reid Hoffman'ın 1,5 milyar dolarlık yatırımıyla desteklenen şirket, en büyük finansman ölçeğine sahip tek şirket oldu. OpenAI'ye. Bu yılın başlarında ChatGPT'nin rakibi olan Pi'yi piyasaya sürdü. Yazar ve araştırmacı Michael Bhaskar'la birlikte yapay zekanın geleceği hakkında The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century adlı bir kitabın ortak yazarı oldu.
Pek çok kişi Süleyman'ın teknolojik iyimserliğiyle, hatta saflığıyla alay ederdi. Örneğin, çevrimiçi polisliğin başarısı hakkındaki bazı iddiaları kulağa hoş gelmiyor. Ancak inançlarının samimi ve Evanjelik olduğuna ikna olmaya devam etti.
Aslında Süleyman'ın bir teknoloji multimilyoneri olarak sıra dışı bir geçmişi var. 19 yaşındayken üniversiteyi bıraktı ve telefonla danışmanlık sağlayan Müslüman Gençlik Yardım Hattını kurdu. Yerel yönetimlerde de çalıştı. Bu çabalardan elde edilen değerlerin çoğunu Inflection'a getirdiğini söyledi. Aradaki fark, artık her zaman istediği değişiklikleri iyi ya da kötü yönde yapabilmesidir.
Yapay zekadaki inanılmaz ilerleme baş döndürücü ve katlanarak artıyor. Konuşma, görselleştirme, okuma, dil anlama, ilkokul matematiği, kod oluşturma; yapay zeka, bu alanlarda insan performansına yaklaşıyor veya onu aşıyor. ——Mustafa Süleyman
Aşağıdaki röportaj uzunluk ve netlik açısından düzenlendi.
***Gençlik yardım hattında ve yerel yönetimde çalışmayı da içeren kariyerinizin ilk yılları, Silikon Vadisi değerlerine aykırı görünüyordu. Elbette bu deneyimler sizin için önemlidir. O tarihten bu yana 15 yıldır yapay zeka alanında çalışıyorsunuz ve bu yıl ikinci milyar dolarlık yapay zeka şirketinizi kurdunuz. Bu deneyimler arasındaki noktaları birleştirebilir misiniz? ***
Süleyman: İktidara, siyasete vs. her zaman ilgi duymuşumdur. Biliyorsunuz, insan hakları ilkeleri temel olarak tüm bu farklı çatışma gerilimleri arasında bir değiş-tokuş, sürekli bir müzakeredir. İnsanların bununla mücadele ettiğini görebiliyorum; kendi önyargılarımız ve kör noktalarımızla doluyuz. Aktivistlerin, yerel, ulusal, uluslararası hükümetlerin vb. çalışmaları yavaş, verimsiz ve hataya açık.
İnsanların yaptığı hataların sizde olmadığını hayal edin. Kolektif benliğimizi gerçekten yansıtan ve sonuçta bizim adımıza daha iyi, daha tutarlı ve daha adil takaslar sağlayan yapay zeka oluşturmanın mümkün olduğunu düşünüyorum.
***Hala motivasyonunuz bu mu? ***
**Süleyman:**Tabii ki yani DeepMind'dan sonra bir daha hiç çalışmak zorunda kalmadım. Kesinlikle bir kitap ya da buna benzer bir şey yazmak zorunda değilim. Para hiçbir zaman motive edici olmadı. Bilirsin, para her zaman sadece bir yan üründür.
Benim için amaç hiçbir zaman dünyada nasıl iyilik yapılacağı ve dünyayı sağlıklı, tatmin edici bir şekilde nasıl ileriye taşıyacağımızdan başka bir şey olmadı. 2009 yılında bile teknolojiye girmeyi düşünmeye başladığımda yapay zekanın dünyaya hizmet sunmanın adil ve doğru bir yolunu temsil ettiğini görebiliyordum.
***10-15 yıl önce, bu teknolojinin birçok eksikliğini görmeden önce bunu söylemenin daha kolay olacağını düşünmeden edemiyorum. Nasıl iyimser kalabilirsiniz? ***
Süleyman: Sanırım senin iyimser mi yoksa kötümser mi olduğunu çok önemsiyoruz. Bu tamamen taraflı bir bakış açısıdır. Ben de böyle bir insan olmak istemiyorum. Avantajlara ve tehditlere soğukkanlılıkla bakmak istiyorum. Durduğum yerden çok net bir şekilde görebiliyoruz ki, her adımda bu büyük dil modellerinin ölçeği artıyor, daha kontrol edilebilir hale geliyor.
İki yıl önce, o zamanlar yanlış olduğunu düşündüğüm konuşma şuydu: "Ah, zehirli, mide bulandırıcı, önyargılı, ırkçı tiradlar yapmaya devam edecekler." Ben de bu bir anlık görüntü gibiydi zamanla. İnsanların gözden kaçırdığı şeyin yıldan yıla kaydedilen ilerleme ve bu ilerlemenin gidişatı olduğunu düşünüyorum.
Örneğin artık Pi gibi inanılmaz derecede kontrol edilebilir modellerimiz var. Pi'yi ırkçı, homofobik, cinsiyetçi ya da zehirli herhangi bir şey yapamazsınız. Biyolojik veya kimyasal silah üretiminizi yönlendirmesine veya komşunuzun penceresine tuğla atma isteğinizi desteklemesine izin veremezsiniz. Yapamazsın...
***Devam etmek. Bana bunu nasıl başardığınızı söyleyin, çünkü bu genellikle çözülmemiş bir sorun olarak kabul edilir. Geniş dil modelinizin söylemek istemediğiniz şeyleri söylemediğinden nasıl emin olabilirsiniz? ***
Süleyman: Evet, açıkçası öyle bir istekte bulunmak istemiyorum. Lütfen dene! Pi çevrimiçi ve mümkün olan tüm saldırıları denemelisiniz. Jailbreak, anında hackleme veya başka herhangi bir şey Pi'de çalışmaz. Bir iddiada bulunmayacağım. Bu nesnel bir gerçektir.
Nasıl olduğu hakkında yani çok fazla detaya girmeyeceğim çünkü hassas bir konu. Ama en önemlisi, son üç dört yılda en büyük dil modellerinin hepsini yaratan, dünyanın en güçlü ekiplerinden birine sahibiz. Son derece özenli bir ortamda birçok hesaplama yapan harika insanlar. Güvenliği en başından itibaren ilk sıraya koyduk, bu nedenle Pi diğer şirketlerin modelleri kadar baharatlı değil.
Character.ai'ye göz atın. [Karakter, kullanıcıların farklı "kişilikler" yaratabileceği ve bunları başkalarının sohbet etmesi için çevrimiçi olarak paylaşabileceği bir sohbet robotudur. ] Bu öncelikle romantik rol oyunu için ve başından beri bunun mümkün olmadığını söyledik - bunu yapmayacağız. Pi'ye "Hey tatlım" veya "Hey tatlım" demeye çalışırsan ve o da olur seni hemen reddederim.
Ama inanılmaz derecede saygılı olurdu. Topluluğunuzdaki göçmenlerin işinizi elinden almasından şikayet etmeye başlarsanız Pi size bağırmaz veya parmağını sallamaz. Pi, bu bilginin nereden geldiğini anlamaya çalışarak ve sizi nazikçe empati kurmaya teşvik ederek destek ister ve sunar. Biliyorsunuz bu benim 20 yıldır düşündüğüm bir değer.
*** Değerlerinizden ve dünyayı daha iyi bir yer haline getirmek istediğinizden bahsedin, başkalarının da kendi modellerini geliştirebilmesi için neden bunu nasıl yaptığınızı paylaşmıyorsunuz? ***
Süleyman: Çünkü ben de pragmatistim ve para kazanmaya çalışıyorum. Bir iş kurmaya çalışıyorum. Az önce 1,5 milyar dolar topladım ve o çiplerin parasını ödemem gerekiyor.
Bakın, açık kaynak ekosistemi hızla gelişiyor ve harika iş çıkarıyor, insanlar da benzer hileler keşfediyor. Her zaman yalnızca altı ay ileride olduğumu varsayıyorum.
***Neyi başarmak istediğinize geri dönelim. Büyük dil modelleri açıkça mevcut teknolojidir. Ama neden hala onlara bahse giresiniz ki? ***
**Süleyman:**Yapay zekanın ilk dalgası sınıflandırmayla ilgiliydi. Derin öğrenme, bilgisayarları çeşitli türdeki giriş verilerini (görüntüler, video, ses, dil) sınıflandırmak üzere eğitebileceğimizi gösteriyor. Artık girdi verilerini alıp yeni veriler oluşturduğunuz üretken dalgadayız.
Üçüncü dalga etkileşimli aşama olacaktır. Bu yüzden uzun zamandır konuşmaların geleceğin arayüzü olduğuna inanıyorum. Biliyorsunuz, yalnızca düğmelere tıklayıp yazmak yerine yapay zekanızla konuşacaksınız.
Bu yapay zekalar harekete geçebilecek. Siz ona genel, üst düzey bir hedef verirsiniz ve o da bu hedefe ulaşmak için elindeki tüm araçları kullanır. Başka insanlarla, diğer yapay zekalarla konuşuyorlar. Pi ile yapacağımız şey bu.
Bu, teknolojinin mümkün kılabileceği çok büyük bir değişimdir. Bu, teknoloji tarihinde pek çok insanın hafife aldığını düşündüğüm çok çok derin bir an. Günümüz teknolojisi statiktir. Kabaca söylemek gerekirse, ona yapmasını söylediğiniz şeyi yapar.
Ama artık teknoloji canlanmak üzere. Eğer verirseniz, potansiyel olarak hareket etme özgürlüğüne sahip olacaktır. Bu tür bir aracılıkla araçlar yaratıyoruz ki bu gerçekten türümüzün tarihinde bir değişim adımıdır.
***Bu tam olarak birçok insanı endişelendiren açıklamadır. Dünyayı etkilemeleri için makinelere özerklik (bir kurum) vermek istiyorsunuz, ancak biz aynı zamanda onları kontrol edebilmek de istiyoruz. Bu iki şeyi nasıl dengeliyorsunuz? Bunun ilişkiyi zorlayacağına inanıyorum. ***
Süleyman: Evet, bu iyi bir nokta. İnsanları tedirgin eden de bu.
Buradaki fikir, insanların her zaman komutada kalacağıdır. Esasen bu, yapay zekanın geçemeyeceği sınırları belirlemekle ilgilidir. Ve bu sınırların, gerçek koddan, diğer yapay zekalarla (veya insanlarla) etkileşime girme şekline, teknolojiyi yaratan şirketlerin motivasyonlarına ve teşviklerine kadar kanıtlanabilir güvenlik yaratmasını sağlamak. Bu çizgilerin aşılmamasını sağlamak için bağımsız kurumların ve hatta hükümetlerin nasıl doğrudan müdahale edebileceğini bulmalıyız.
***Bu sınırları kim belirliyor? Bunların ulusal veya uluslararası düzeyde belirlenmesi gerektiğini düşünüyorum. Nasıl anlaşmaya vardılar? ***
Süleyman: Yani şu anda uluslararası düzeyde yeni gözetim organları için her türlü teklifle gündeme getiriliyor. Ancak sınırlar mikro düzeyde de devreye giriyor. Yapay zekanıza kişisel verilerinizi işlemesi için bazı sınırlı izinler verecek ve bazı sorulara yanıt verirken bazılarına yanıt vermeyeceksiniz.
Genel olarak, öngörülebilir gelecek için bazı yetenekler konusunda çok dikkatli olmamız, hatta bunları göz ardı etmemiz gerektiğini düşünüyorum.
***Örneğin? ***
Süleyman: Tekrar tekrar kendini geliştirme gibi bir şey sanırım. Küçük yapay zekanızın sizin denetiminiz olmadan çalışmaya başlamasını ve kendi kodunu güncellemesini istemezsiniz. Belki lisanslı bir faaliyet bile olmalı; şarbon ya da nükleer maddeyle uğraşmak gibi.
Veya halka açık hiçbir yerde drone'lara izin vermiyoruz, değil mi? Bu lisanslı bir faaliyettir. İnsanların mahremiyetine tehdit oluşturduğu için istediğiniz yere götüremezsiniz.
Sanırım herkes panikliyor çünkü bunu düzenleyemeyeceğimizi düşünüyorlar. Ama bu sadece saçmalık. Biz bunu tamamen düzenleme kapasitesine sahibiz. Daha önce başarılı olan aynı çerçeveyi uygulayacağız.
***Ama dronları gökyüzündeyken görebilirsiniz. Firmaların sadece yaptıklarını ortaya çıkaracaklarını düşünmek saflık gibi görünüyor. Bu düzenlemeyi zorlaştırmaz mı? ***
Çevrimiçi ortamda pek çok şeyin polisliğini yapıyoruz, değil mi? Çevrimiçi dolandırıcılık ve suç faaliyeti miktarı düşüktür. Spam konusunda gerçekten iyi iş çıkarıyoruz. Biliyorsunuz, genel olarak intikam pornosu sorunu iyileşti, her ne kadar üç ya da beş yıl önce oldukça kötü olsa da. İnternette radikal içerik veya terörist malzeme bulmak çok zordur. İnternetten silah ve uyuşturucu satın almak çok zordur.
[Süleyman'ın iddialarının tamamı verilerle desteklenmemektedir. Siber suçlar hâlâ büyük bir küresel sorun olmaya devam ediyor. Bazı tahminlere göre, yalnızca Amerika Birleşik Devletleri'ndeki finansal maliyetler son on yılda 100 kattan fazla arttı. Raporlar, rıza dışı deepfake pornografisinde patlama yaşayan bir ekonomiyi ortaya koyuyor. Uyuşturucu ve silah sosyal medyada satılıyor. Bazı çevrimiçi platformlar, zararlı içeriği filtreleme konusunda daha iyi bir iş yapmak zorunda kalırken, daha fazlasını da yapabilirler. ]
Dolayısıyla İnternet kuralsız ve kuralsız bir alan değildir. Yönetiliyor. Yapay zeka, yönetimin başka bir bileşeni haline gelecek.
Bu, kültürel baskı, kurumsal baskı ve hükümet düzenlemelerinin bir kombinasyonunu gerektirir. Ancak bunu daha önce yaptığımız ve tekrar yapabileceğimiz konusunda iyimserim.
***Yapay zekayı kontrol etmek, internet düzenlemelerinin bir parçası haline gelecek; bu, son zamanlarda bazı yüksek profilli felaket tellallarından duyduklarımızdan çok daha iyimser. ***
Süleyman: Riskler konusunda çok iyimserim. Kitaplarımda pek çok karanlık şey var. Kesinlikle bunu ben de gördüm. Bence bunda tamamen çılgınca bir dikkat dağıtıcı, riskli bir şey var. Gizlilikten önyargıya, yüz tanımadan çevrimiçi denetime kadar hepimizin tartışması gereken 101 pratik konu daha.
Süper karmaşık şeyleri düzenleme konusunda gerçekten iyi bir iş yaptığımız gerçeği üzerine konuşmayı yeniden odaklamalıyız. Federal Havacılık İdaresi'ne bakın: Hepimizin 40.000 feet'te düzenlemeye girmesi inanılmaz ve bu şimdiye kadar yaratılmış en güvenli ulaşım modlarından biri. Neden kutlamıyoruz? Veya bir araba düşünün: kullanım ömrünün sonunda her parça stres testine tabi tutulur ve bunu yapabilmek için ehliyetinizin olması gerekir.
Havayolları gibi bazı endüstriler başlangıçta kendilerini düzenleme konusunda iyi bir iş çıkardılar. Eğer işleri güvende tutmazlarsa herkesin korkacağını ve işlerini kaybedeceklerini biliyorlar.
Ancak yukarıdan aşağıya düzenlemeye de ihtiyacınız var. Kamu yararına inanıyorum, vergilendirmenin ve yeniden dağıtımın faydalarına inanıyorum, düzenlemenin gücüne inanıyorum. Ben devletin sorunun çözümü için harekete geçmesini talep ediyorum. Ne kadar tehlikede olduğu göz önüne alındığında, şimdi harekete geçme zamanı.
Referanslar:
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
DeepMind'ın kurucusuyla özel röportaj: Üretken yapay zeka sadece bir aşama, sonraki adım etkileşimli yapay zeka
Orijinal kaynak: AGI İnovasyon Laboratuvarı
DeepMind kurucu ortağı Mustafa Süleyman, sohbet etmekten daha fazlası için kullanılabilecek bir sohbet robotu oluşturmak istedi. Kendisiyle yakın zamanda yaptığımız bir sohbette bana üretken yapay zekanın sadece bir aşama olduğunu söyledi. Sırada etkileşimli yapay zeka var: diğer yazılımları ve diğer insanları arayarak kendileri için belirlediğiniz görevleri tamamlayabilen robotlar. Ayrıca bunun başarılmasının zor olmayacağını savunarak daha güçlü yapay zeka düzenlemesi çağrısında bulundu.
Daha otonom yazılımlarla dolu bir gelecekten bahseden tek kişi Süleyman değil. Ancak çoğu insanın aksine, DeepMind, Meta ve OpenAI arasından seçilmiş bir grup üst düzey yapay zeka yeteneğinden oluşan milyarlarca dolar değerinde yeni bir şirket olan Inflection'ın sahibi ve aynı zamanda en büyük yapay zeka çipi üreticisi olan Nvidia ile de bir anlaşmaya vardı. . Süleyman söylediklerini uyguluyor ve çok para yatırıyor.
Süleyman, DeepMind'dan ayrıldı ve ardından yapay zeka politikasına adanmış bir ekibe liderlik etmek üzere Google'a geçti. 2022 yılında, en yeni yapay zeka şirketlerinden biri olan Inflection'ı kurdu. Microsoft, NVIDIA, Bill Gates ve LinkedIn kurucusu Reid Hoffman'ın 1,5 milyar dolarlık yatırımıyla desteklenen şirket, en büyük finansman ölçeğine sahip tek şirket oldu. OpenAI'ye. Bu yılın başlarında ChatGPT'nin rakibi olan Pi'yi piyasaya sürdü. Yazar ve araştırmacı Michael Bhaskar'la birlikte yapay zekanın geleceği hakkında The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century adlı bir kitabın ortak yazarı oldu.
Pek çok kişi Süleyman'ın teknolojik iyimserliğiyle, hatta saflığıyla alay ederdi. Örneğin, çevrimiçi polisliğin başarısı hakkındaki bazı iddiaları kulağa hoş gelmiyor. Ancak inançlarının samimi ve Evanjelik olduğuna ikna olmaya devam etti.
Aslında Süleyman'ın bir teknoloji multimilyoneri olarak sıra dışı bir geçmişi var. 19 yaşındayken üniversiteyi bıraktı ve telefonla danışmanlık sağlayan Müslüman Gençlik Yardım Hattını kurdu. Yerel yönetimlerde de çalıştı. Bu çabalardan elde edilen değerlerin çoğunu Inflection'a getirdiğini söyledi. Aradaki fark, artık her zaman istediği değişiklikleri iyi ya da kötü yönde yapabilmesidir.
Aşağıdaki röportaj uzunluk ve netlik açısından düzenlendi.
***Gençlik yardım hattında ve yerel yönetimde çalışmayı da içeren kariyerinizin ilk yılları, Silikon Vadisi değerlerine aykırı görünüyordu. Elbette bu deneyimler sizin için önemlidir. O tarihten bu yana 15 yıldır yapay zeka alanında çalışıyorsunuz ve bu yıl ikinci milyar dolarlık yapay zeka şirketinizi kurdunuz. Bu deneyimler arasındaki noktaları birleştirebilir misiniz? ***
Süleyman: İktidara, siyasete vs. her zaman ilgi duymuşumdur. Biliyorsunuz, insan hakları ilkeleri temel olarak tüm bu farklı çatışma gerilimleri arasında bir değiş-tokuş, sürekli bir müzakeredir. İnsanların bununla mücadele ettiğini görebiliyorum; kendi önyargılarımız ve kör noktalarımızla doluyuz. Aktivistlerin, yerel, ulusal, uluslararası hükümetlerin vb. çalışmaları yavaş, verimsiz ve hataya açık.
İnsanların yaptığı hataların sizde olmadığını hayal edin. Kolektif benliğimizi gerçekten yansıtan ve sonuçta bizim adımıza daha iyi, daha tutarlı ve daha adil takaslar sağlayan yapay zeka oluşturmanın mümkün olduğunu düşünüyorum.
***Hala motivasyonunuz bu mu? ***
**Süleyman:**Tabii ki yani DeepMind'dan sonra bir daha hiç çalışmak zorunda kalmadım. Kesinlikle bir kitap ya da buna benzer bir şey yazmak zorunda değilim. Para hiçbir zaman motive edici olmadı. Bilirsin, para her zaman sadece bir yan üründür.
Benim için amaç hiçbir zaman dünyada nasıl iyilik yapılacağı ve dünyayı sağlıklı, tatmin edici bir şekilde nasıl ileriye taşıyacağımızdan başka bir şey olmadı. 2009 yılında bile teknolojiye girmeyi düşünmeye başladığımda yapay zekanın dünyaya hizmet sunmanın adil ve doğru bir yolunu temsil ettiğini görebiliyordum.
***10-15 yıl önce, bu teknolojinin birçok eksikliğini görmeden önce bunu söylemenin daha kolay olacağını düşünmeden edemiyorum. Nasıl iyimser kalabilirsiniz? ***
Süleyman: Sanırım senin iyimser mi yoksa kötümser mi olduğunu çok önemsiyoruz. Bu tamamen taraflı bir bakış açısıdır. Ben de böyle bir insan olmak istemiyorum. Avantajlara ve tehditlere soğukkanlılıkla bakmak istiyorum. Durduğum yerden çok net bir şekilde görebiliyoruz ki, her adımda bu büyük dil modellerinin ölçeği artıyor, daha kontrol edilebilir hale geliyor.
İki yıl önce, o zamanlar yanlış olduğunu düşündüğüm konuşma şuydu: "Ah, zehirli, mide bulandırıcı, önyargılı, ırkçı tiradlar yapmaya devam edecekler." Ben de bu bir anlık görüntü gibiydi zamanla. İnsanların gözden kaçırdığı şeyin yıldan yıla kaydedilen ilerleme ve bu ilerlemenin gidişatı olduğunu düşünüyorum.
Örneğin artık Pi gibi inanılmaz derecede kontrol edilebilir modellerimiz var. Pi'yi ırkçı, homofobik, cinsiyetçi ya da zehirli herhangi bir şey yapamazsınız. Biyolojik veya kimyasal silah üretiminizi yönlendirmesine veya komşunuzun penceresine tuğla atma isteğinizi desteklemesine izin veremezsiniz. Yapamazsın...
***Devam etmek. Bana bunu nasıl başardığınızı söyleyin, çünkü bu genellikle çözülmemiş bir sorun olarak kabul edilir. Geniş dil modelinizin söylemek istemediğiniz şeyleri söylemediğinden nasıl emin olabilirsiniz? ***
Süleyman: Evet, açıkçası öyle bir istekte bulunmak istemiyorum. Lütfen dene! Pi çevrimiçi ve mümkün olan tüm saldırıları denemelisiniz. Jailbreak, anında hackleme veya başka herhangi bir şey Pi'de çalışmaz. Bir iddiada bulunmayacağım. Bu nesnel bir gerçektir.
Nasıl olduğu hakkında yani çok fazla detaya girmeyeceğim çünkü hassas bir konu. Ama en önemlisi, son üç dört yılda en büyük dil modellerinin hepsini yaratan, dünyanın en güçlü ekiplerinden birine sahibiz. Son derece özenli bir ortamda birçok hesaplama yapan harika insanlar. Güvenliği en başından itibaren ilk sıraya koyduk, bu nedenle Pi diğer şirketlerin modelleri kadar baharatlı değil.
Character.ai'ye göz atın. [Karakter, kullanıcıların farklı "kişilikler" yaratabileceği ve bunları başkalarının sohbet etmesi için çevrimiçi olarak paylaşabileceği bir sohbet robotudur. ] Bu öncelikle romantik rol oyunu için ve başından beri bunun mümkün olmadığını söyledik - bunu yapmayacağız. Pi'ye "Hey tatlım" veya "Hey tatlım" demeye çalışırsan ve o da olur seni hemen reddederim.
Ama inanılmaz derecede saygılı olurdu. Topluluğunuzdaki göçmenlerin işinizi elinden almasından şikayet etmeye başlarsanız Pi size bağırmaz veya parmağını sallamaz. Pi, bu bilginin nereden geldiğini anlamaya çalışarak ve sizi nazikçe empati kurmaya teşvik ederek destek ister ve sunar. Biliyorsunuz bu benim 20 yıldır düşündüğüm bir değer.
*** Değerlerinizden ve dünyayı daha iyi bir yer haline getirmek istediğinizden bahsedin, başkalarının da kendi modellerini geliştirebilmesi için neden bunu nasıl yaptığınızı paylaşmıyorsunuz? ***
Süleyman: Çünkü ben de pragmatistim ve para kazanmaya çalışıyorum. Bir iş kurmaya çalışıyorum. Az önce 1,5 milyar dolar topladım ve o çiplerin parasını ödemem gerekiyor.
Bakın, açık kaynak ekosistemi hızla gelişiyor ve harika iş çıkarıyor, insanlar da benzer hileler keşfediyor. Her zaman yalnızca altı ay ileride olduğumu varsayıyorum.
***Neyi başarmak istediğinize geri dönelim. Büyük dil modelleri açıkça mevcut teknolojidir. Ama neden hala onlara bahse giresiniz ki? ***
**Süleyman:**Yapay zekanın ilk dalgası sınıflandırmayla ilgiliydi. Derin öğrenme, bilgisayarları çeşitli türdeki giriş verilerini (görüntüler, video, ses, dil) sınıflandırmak üzere eğitebileceğimizi gösteriyor. Artık girdi verilerini alıp yeni veriler oluşturduğunuz üretken dalgadayız.
Üçüncü dalga etkileşimli aşama olacaktır. Bu yüzden uzun zamandır konuşmaların geleceğin arayüzü olduğuna inanıyorum. Biliyorsunuz, yalnızca düğmelere tıklayıp yazmak yerine yapay zekanızla konuşacaksınız.
Bu yapay zekalar harekete geçebilecek. Siz ona genel, üst düzey bir hedef verirsiniz ve o da bu hedefe ulaşmak için elindeki tüm araçları kullanır. Başka insanlarla, diğer yapay zekalarla konuşuyorlar. Pi ile yapacağımız şey bu.
Bu, teknolojinin mümkün kılabileceği çok büyük bir değişimdir. Bu, teknoloji tarihinde pek çok insanın hafife aldığını düşündüğüm çok çok derin bir an. Günümüz teknolojisi statiktir. Kabaca söylemek gerekirse, ona yapmasını söylediğiniz şeyi yapar.
Ama artık teknoloji canlanmak üzere. Eğer verirseniz, potansiyel olarak hareket etme özgürlüğüne sahip olacaktır. Bu tür bir aracılıkla araçlar yaratıyoruz ki bu gerçekten türümüzün tarihinde bir değişim adımıdır.
***Bu tam olarak birçok insanı endişelendiren açıklamadır. Dünyayı etkilemeleri için makinelere özerklik (bir kurum) vermek istiyorsunuz, ancak biz aynı zamanda onları kontrol edebilmek de istiyoruz. Bu iki şeyi nasıl dengeliyorsunuz? Bunun ilişkiyi zorlayacağına inanıyorum. ***
Süleyman: Evet, bu iyi bir nokta. İnsanları tedirgin eden de bu.
Buradaki fikir, insanların her zaman komutada kalacağıdır. Esasen bu, yapay zekanın geçemeyeceği sınırları belirlemekle ilgilidir. Ve bu sınırların, gerçek koddan, diğer yapay zekalarla (veya insanlarla) etkileşime girme şekline, teknolojiyi yaratan şirketlerin motivasyonlarına ve teşviklerine kadar kanıtlanabilir güvenlik yaratmasını sağlamak. Bu çizgilerin aşılmamasını sağlamak için bağımsız kurumların ve hatta hükümetlerin nasıl doğrudan müdahale edebileceğini bulmalıyız.
***Bu sınırları kim belirliyor? Bunların ulusal veya uluslararası düzeyde belirlenmesi gerektiğini düşünüyorum. Nasıl anlaşmaya vardılar? ***
Süleyman: Yani şu anda uluslararası düzeyde yeni gözetim organları için her türlü teklifle gündeme getiriliyor. Ancak sınırlar mikro düzeyde de devreye giriyor. Yapay zekanıza kişisel verilerinizi işlemesi için bazı sınırlı izinler verecek ve bazı sorulara yanıt verirken bazılarına yanıt vermeyeceksiniz.
Genel olarak, öngörülebilir gelecek için bazı yetenekler konusunda çok dikkatli olmamız, hatta bunları göz ardı etmemiz gerektiğini düşünüyorum.
***Örneğin? ***
Süleyman: Tekrar tekrar kendini geliştirme gibi bir şey sanırım. Küçük yapay zekanızın sizin denetiminiz olmadan çalışmaya başlamasını ve kendi kodunu güncellemesini istemezsiniz. Belki lisanslı bir faaliyet bile olmalı; şarbon ya da nükleer maddeyle uğraşmak gibi.
Veya halka açık hiçbir yerde drone'lara izin vermiyoruz, değil mi? Bu lisanslı bir faaliyettir. İnsanların mahremiyetine tehdit oluşturduğu için istediğiniz yere götüremezsiniz.
Sanırım herkes panikliyor çünkü bunu düzenleyemeyeceğimizi düşünüyorlar. Ama bu sadece saçmalık. Biz bunu tamamen düzenleme kapasitesine sahibiz. Daha önce başarılı olan aynı çerçeveyi uygulayacağız.
***Ama dronları gökyüzündeyken görebilirsiniz. Firmaların sadece yaptıklarını ortaya çıkaracaklarını düşünmek saflık gibi görünüyor. Bu düzenlemeyi zorlaştırmaz mı? ***
Çevrimiçi ortamda pek çok şeyin polisliğini yapıyoruz, değil mi? Çevrimiçi dolandırıcılık ve suç faaliyeti miktarı düşüktür. Spam konusunda gerçekten iyi iş çıkarıyoruz. Biliyorsunuz, genel olarak intikam pornosu sorunu iyileşti, her ne kadar üç ya da beş yıl önce oldukça kötü olsa da. İnternette radikal içerik veya terörist malzeme bulmak çok zordur. İnternetten silah ve uyuşturucu satın almak çok zordur.
[Süleyman'ın iddialarının tamamı verilerle desteklenmemektedir. Siber suçlar hâlâ büyük bir küresel sorun olmaya devam ediyor. Bazı tahminlere göre, yalnızca Amerika Birleşik Devletleri'ndeki finansal maliyetler son on yılda 100 kattan fazla arttı. Raporlar, rıza dışı deepfake pornografisinde patlama yaşayan bir ekonomiyi ortaya koyuyor. Uyuşturucu ve silah sosyal medyada satılıyor. Bazı çevrimiçi platformlar, zararlı içeriği filtreleme konusunda daha iyi bir iş yapmak zorunda kalırken, daha fazlasını da yapabilirler. ]
Dolayısıyla İnternet kuralsız ve kuralsız bir alan değildir. Yönetiliyor. Yapay zeka, yönetimin başka bir bileşeni haline gelecek.
Bu, kültürel baskı, kurumsal baskı ve hükümet düzenlemelerinin bir kombinasyonunu gerektirir. Ancak bunu daha önce yaptığımız ve tekrar yapabileceğimiz konusunda iyimserim.
***Yapay zekayı kontrol etmek, internet düzenlemelerinin bir parçası haline gelecek; bu, son zamanlarda bazı yüksek profilli felaket tellallarından duyduklarımızdan çok daha iyimser. ***
Süleyman: Riskler konusunda çok iyimserim. Kitaplarımda pek çok karanlık şey var. Kesinlikle bunu ben de gördüm. Bence bunda tamamen çılgınca bir dikkat dağıtıcı, riskli bir şey var. Gizlilikten önyargıya, yüz tanımadan çevrimiçi denetime kadar hepimizin tartışması gereken 101 pratik konu daha.
Süper karmaşık şeyleri düzenleme konusunda gerçekten iyi bir iş yaptığımız gerçeği üzerine konuşmayı yeniden odaklamalıyız. Federal Havacılık İdaresi'ne bakın: Hepimizin 40.000 feet'te düzenlemeye girmesi inanılmaz ve bu şimdiye kadar yaratılmış en güvenli ulaşım modlarından biri. Neden kutlamıyoruz? Veya bir araba düşünün: kullanım ömrünün sonunda her parça stres testine tabi tutulur ve bunu yapabilmek için ehliyetinizin olması gerekir.
Havayolları gibi bazı endüstriler başlangıçta kendilerini düzenleme konusunda iyi bir iş çıkardılar. Eğer işleri güvende tutmazlarsa herkesin korkacağını ve işlerini kaybedeceklerini biliyorlar.
Ancak yukarıdan aşağıya düzenlemeye de ihtiyacınız var. Kamu yararına inanıyorum, vergilendirmenin ve yeniden dağıtımın faydalarına inanıyorum, düzenlemenin gücüne inanıyorum. Ben devletin sorunun çözümü için harekete geçmesini talep ediyorum. Ne kadar tehlikede olduğu göz önüne alındığında, şimdi harekete geçme zamanı.
Referanslar: