DeepMind adalah perusahaan riset AI yang didirikan pada tahun 2010 dan berkantor pusat di London, Inggris. Perusahaan mengembangkan dan meneliti sistem kecerdasan umum buatan (AGI), yang bertujuan untuk memungkinkan komputer belajar dan bernalar seperti manusia.
Salah satu pencapaian DeepMind yang paling terkenal adalah program AlphaGo yang dikembangkan pada tahun 2016, yang mengalahkan juara dunia Lee Sedol dalam game Go dan menarik perhatian luas. Pencapaian ini menunjukkan potensi AI dalam mengatasi permasalahan kompleks dan menjadikan DeepMind sebagai salah satu perusahaan terkemuka di bidang AI.
Pada tahun 2014, DeepMind diakuisisi oleh Google, namun perusahaan ini tetap menjalankan operasi yang relatif independen dan terus melakukan penelitian kecerdasan buatan yang mutakhir.
Sumber gambar: Dihasilkan oleh AI Tanpa Batas
Salah satu pendiri DeepMind, Mustafa Suleyman, ingin membangun chatbot yang dapat digunakan lebih dari sekadar mengobrol. Dalam percakapan baru-baru ini dengannya, dia memberi tahu saya bahwa AI generatif hanyalah sebuah fase. Berikutnya adalah AI interaktif: robot yang dapat menyelesaikan tugas yang Anda tetapkan dengan memanggil perangkat lunak lain dan orang lain. Ia juga menyerukan peraturan AI yang lebih kuat, dengan alasan bahwa hal ini tidak akan sulit untuk dicapai.
Suleyman bukan satu-satunya yang berbicara tentang masa depan yang dipenuhi dengan perangkat lunak yang lebih otonom. Namun tidak seperti kebanyakan orang, ia memiliki perusahaan baru bernilai miliaran dolar, Inflection, dengan sekelompok talenta AI terbaik yang dipilih dari DeepMind, Meta, dan OpenAI, dan juga telah mencapai kesepakatan dengan Nvidia, produsen chip AI terbesar. . Suleyman mempraktikkan apa yang dia khotbahkan dan telah menginvestasikan banyak uang.
Suleyman meninggalkan DeepMind dan kemudian pindah ke Google untuk memimpin tim yang berdedikasi pada kebijakan AI. Pada tahun 2022, ia mendirikan Inflection, salah satu perusahaan AI baru yang paling populer. Perusahaan ini didukung oleh investasi sebesar US$1,5 miliar dari Microsoft, NVIDIA, Bill Gates, dan pendiri LinkedIn Reid Hoffman, sehingga menjadi satu-satunya perusahaan dengan skala pembiayaan terbesar. ke OpenAI. Awal tahun ini, ia merilis Pi, pesaing ChatGPT. Dia baru saja ikut menulis buku bersama penulis dan peneliti Michael Bhaskar tentang masa depan AI berjudul The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century.
Banyak yang akan mencemooh optimisme teknologi Suleyman—bahkan kenaifannya. Misalnya, beberapa klaimnya tentang keberhasilan kepolisian online terasa tidak tepat. Namun dia tetap yakin bahwa keyakinannya tulus dan injili.
Memang benar, Suleyman memiliki latar belakang yang tidak biasa sebagai seorang multijutawan teknologi. Pada usia 19, ia keluar dari perguruan tinggi dan mendirikan Muslim Youth Hotline, yang menyediakan konseling telepon. Dia juga bekerja di pemerintahan daerah. Ia mengatakan banyak nilai yang dibawanya dari upaya tersebut ke Infleksi. Perbedaannya adalah sekarang dia mungkin bisa melakukan perubahan yang selalu dia inginkan - menjadi lebih baik atau lebih buruk.
Kemajuan luar biasa dalam AI sangat memusingkan dan berkembang secara eksponensial. Ucapan, pencitraan, membaca, pemahaman bahasa, matematika sekolah dasar, pembuatan kode—AI semuanya mendekati atau melampaui kinerja manusia di bidang-bidang ini. ——Mustafa Sulaiman
Wawancara berikut telah diedit agar panjang dan jelasnya.
***Karier awal Anda, termasuk bekerja di saluran bantuan pemuda dan pemerintahan lokal, tampaknya bertentangan dengan etos Silicon Valley. Tentu saja, pengalaman ini penting bagi Anda. Sejak itu, Anda telah bekerja di bidang AI selama 15 tahun dan tahun ini Anda ikut mendirikan perusahaan AI kedua Anda yang bernilai miliaran dolar. Bisakah Anda menghubungkan titik-titik di antara pengalaman-pengalaman ini? ***
Suleyman: Saya selalu tertarik pada kekuasaan, politik, dll. Anda tahu, prinsip-prinsip hak asasi manusia pada dasarnya adalah trade-off, sebuah negosiasi terus-menerus antara semua ketegangan konflik yang berbeda-beda. Saya bisa melihat manusia berjuang dengan hal ini - kita penuh dengan bias dan titik buta kita sendiri. Pekerjaan para aktivis, pemerintah lokal, nasional, internasional, dll. – semuanya berjalan lambat, tidak efisien dan rawan kesalahan.
Bayangkan jika Anda tidak mengalami kesalahan yang dilakukan manusia. Saya pikir kita bisa saja membangun AI yang benar-benar mencerminkan diri kolektif kita yang terbaik dan pada akhirnya menghasilkan pertukaran yang lebih baik, lebih konsisten, dan lebih adil demi kepentingan kita.
***Apakah ini masih menjadi motivasi Anda? ***
**Suleyman:**Tentu saja, maksud saya, setelah DeepMind saya tidak pernah harus bekerja lagi. Saya tentu saja tidak perlu menulis buku atau semacamnya. Uang tidak pernah menjadi motivator. Anda tahu, uang selalu hanyalah produk sampingan.
Bagi saya, tujuannya tidak lain adalah bagaimana berbuat baik pada dunia dan bagaimana memajukan dunia dengan cara yang sehat dan memuaskan. Bahkan pada tahun 2009, ketika saya mulai berpikir untuk mendalami teknologi, saya dapat melihat bahwa AI mewakili cara yang adil dan akurat untuk memberikan layanan di dunia.
***Saya berpikir bahwa akan lebih mudah untuk mengatakan hal ini 10 atau 15 tahun yang lalu, sebelum kita melihat banyak kekurangan dari teknologi ini. Bagaimana Anda bisa tetap optimis? ***
Suleyman: Saya rasa kami sangat peduli apakah Anda seorang yang optimis atau pesimis. Ini adalah cara yang sepenuhnya bias dalam memandang sesuatu. Saya juga tidak ingin menjadi orang seperti itu. Saya ingin melihat manfaat dan ancaman dengan sikap acuh tak acuh. Dari tempat saya berdiri, kita dapat melihat dengan jelas bahwa seiring dengan bertambahnya skala model bahasa besar ini, model tersebut menjadi lebih dapat dikontrol.
Jadi dua tahun yang lalu, percakapan yang saya pikir salah pada saat itu adalah, "Oh, mereka hanya akan melontarkan kata-kata yang beracun, mengocok perut, bias, dan rasis." Saya berpikir, ini adalah gambaran singkatnya. tepat waktu. Saya pikir apa yang diabaikan orang adalah kemajuan dari tahun ke tahun, dan arah kemajuan tersebut.
Misalnya, sekarang kita memiliki model seperti Pi yang sangat mudah dikontrol. Anda tidak bisa menjadikan Pi rasis, homofobik, seksis, apa pun yang beracun. Anda tidak bisa membiarkan hal ini memandu produksi senjata biologi atau kimia Anda, atau mendukung keinginan Anda untuk melempar batu bata melalui jendela tetangga Anda. Anda tidak bisa-
***Tunggu. Ceritakan bagaimana Anda mencapai hal ini, karena hal ini sering dianggap sebagai masalah yang belum terpecahkan. Bagaimana cara memastikan bahwa model bahasa besar Anda tidak mengatakan hal-hal yang tidak ingin Anda katakan? ***
Suleyman: Ya, jelas saya tidak ingin membuat permintaan itu - lho, silakan coba! Pi sedang online dan Anda harus mencoba semua kemungkinan serangan. Jailbreaking, peretasan instan, atau apa pun tidak akan berfungsi di Pi. Saya tidak akan mengajukan klaim. Ini adalah fakta obyektif.
Tentang caranya - Maksud saya, saya tidak akan membahas terlalu banyak detail karena ini sensitif. Namun yang terpenting, kami memiliki salah satu tim terkuat di dunia yang telah menciptakan semua model bahasa terbesar dalam tiga atau empat tahun terakhir. Orang-orang luar biasa, melakukan banyak perhitungan di lingkungan yang sangat rajin. Kami mengutamakan keselamatan sejak awal, sehingga Pi tidak semanis model perusahaan lain.
Lihat Karakter.ai. [Karakter adalah chatbot di mana pengguna dapat menciptakan "kepribadian" yang berbeda dan membagikannya secara online agar orang lain dapat diajak ngobrol. ] Ini terutama untuk permainan peran romantis, dan kami telah mengatakan sejak awal bahwa ini tidak mungkin - kami tidak akan melakukannya. Jika Anda mencoba mengatakan "Hei sayang" atau "Hei manis" ke Pi ” dan itu akan terjadi langsung menolakmu.
Tapi itu akan sangat terhormat. Jika Anda mulai mengeluh tentang imigran di komunitas Anda yang mengambil pekerjaan Anda, Pi tidak akan membentak Anda atau mengacungkan jari ke arah Anda. Pi meminta dan menawarkan dukungan, mencoba memahami dari mana informasi ini berasal, dan dengan lembut mendorong Anda untuk berempati. Anda tahu, ini adalah nilai yang telah saya pikirkan selama 20 tahun.
*** Bicarakan tentang nilai-nilai Anda dan keinginan untuk membuat dunia menjadi tempat yang lebih baik, mengapa tidak berbagi cara Anda melakukannya sehingga orang lain juga dapat meningkatkan model mereka? ***
Suleyman: Ya, karena saya juga seorang pragmatis dan saya mencoba menghasilkan uang. Saya mencoba memulai bisnis. Saya baru saja mengumpulkan $1,5 miliar, dan saya harus membayar untuk chip tersebut.
Lihat, ekosistem open source sedang berkembang pesat dan berfungsi dengan baik, dan orang-orang menemukan trik serupa. Saya selalu berasumsi saya hanya enam bulan ke depan.
***Mari kembali ke apa yang ingin Anda capai. Model bahasa besar jelas merupakan teknologi terkini. Tapi mengapa Anda masih bertaruh pada mereka? ***
**Suleyman:**Gelombang pertama AI adalah tentang klasifikasi. Pembelajaran mendalam menunjukkan bahwa kita dapat melatih komputer untuk mengklasifikasikan berbagai jenis data masukan: gambar, video, audio, bahasa. Sekarang kita berada dalam gelombang generatif, di mana Anda mengambil data masukan dan menghasilkan data baru.
Gelombang ketiga akan menjadi fase interaktif. Inilah sebabnya saya sudah lama percaya bahwa percakapan adalah penghubung masa depan. Anda tahu, Anda akan berbicara dengan AI Anda, bukan hanya mengklik tombol dan mengetik.
AI ini akan dapat mengambil tindakan. Anda cukup memberikan tujuan tingkat tinggi secara keseluruhan dan perusahaan akan menggunakan semua alat yang dimilikinya untuk mencapai tujuan tersebut. Mereka berbicara dengan orang lain, dengan AI lain. Inilah yang akan kita lakukan dengan Pi.
Ini adalah perubahan besar yang dimungkinkan oleh teknologi. Ini adalah momen yang sangat-sangat mendalam dalam sejarah teknologi yang menurut saya diremehkan oleh banyak orang. Teknologi saat ini bersifat statis. Secara kasar, ia melakukan apa yang Anda perintahkan.
Tapi sekarang teknologi akan menjadi hidup. Jika Anda memberikannya, ia akan memiliki potensi kebebasan untuk bertindak. Kita menciptakan alat dengan lembaga semacam ini, yang merupakan sebuah langkah perubahan dalam sejarah spesies kita.
***Pernyataan inilah yang membuat khawatir banyak orang. Anda ingin memberikan otonomi pada mesin—sebuah lembaga—untuk mempengaruhi dunia, namun kami juga ingin mampu mengendalikannya. Bagaimana Anda menyeimbangkan kedua hal tersebut? Saya merasa ini akan membuat hubungan menjadi tegang. ***
Suleyman: Ya, itu poin bagus. Hal itulah yang membuat masyarakat resah.
Idenya adalah bahwa manusia akan selalu memegang kendali. Pada dasarnya, ini tentang menetapkan batasan yang tidak dapat dilintasi oleh AI. Dan memastikan batasan-batasan tersebut menciptakan keamanan yang dapat dibuktikan, mulai dari kode sebenarnya, cara berinteraksi dengan AI (atau manusia) lain, hingga motivasi dan insentif dari perusahaan yang menciptakan teknologi tersebut. Kita harus memikirkan bagaimana lembaga-lembaga independen dan bahkan pemerintah dapat turun tangan secara langsung untuk memastikan batasan-batasan ini tidak terlampaui.
***Siapa yang menetapkan batasan ini? Saya pikir hal tersebut perlu ditetapkan pada tingkat nasional atau internasional. Bagaimana mereka mencapai kesepakatan? ***
Suleyman: Maksud saya, saat ini mereka sedang diangkat ke tingkat internasional dengan berbagai macam proposal untuk badan pengawas baru. Namun batasan juga berperan pada tingkat mikro. Anda akan memberi AI Anda beberapa izin terbatas untuk memproses data pribadi Anda, memberi Anda jawaban atas beberapa pertanyaan tetapi tidak untuk pertanyaan lainnya.
Secara keseluruhan, menurut saya kita harus sangat berhati-hati, atau bahkan mengesampingkan, kemampuan tertentu di masa mendatang.
***Misalnya? ***
Suleyman: Saya rasa ini adalah hal yang bersifat pengembangan diri secara rekursif. Anda tidak ingin AI kecil Anda berputar dan memperbarui kodenya sendiri tanpa pengawasan Anda. Mungkin itu seharusnya merupakan aktivitas yang berlisensi - Anda tahu, seperti menangani antraks atau bahan nuklir.
Atau, kami tidak mengizinkan drone berada di tempat umum, bukan? Ini adalah aktivitas berlisensi. Anda tidak dapat membawanya ke mana pun Anda mau karena dapat mengancam privasi orang lain.
Saya pikir semua orang panik karena mereka berpikir kita tidak bisa mengatur hal ini. Tapi ini hanya omong kosong belaka. Kami sepenuhnya mampu mengaturnya. Kami akan menerapkan kerangka kerja yang sama yang telah berhasil sebelumnya.
***Tapi Anda bisa melihat drone saat berada di langit. Tampaknya naif jika kita berpikir bahwa perusahaan hanya akan mengungkapkan apa yang mereka buat. Bukankah hal ini akan mempersulit regulasi? ***
Kami mengawasi banyak hal secara online, bukan? Jumlah penipuan online dan aktivitas kriminal tergolong rendah. Kami melakukan pekerjaan yang sangat baik dengan spam. Anda tahu, secara umum, [masalah] pornografi balas dendam sudah membaik, meski tiga atau lima tahun lalu kondisinya cukup buruk. Menemukan konten radikal atau materi teroris di internet sangatlah sulit. Membeli senjata dan obat-obatan secara online sangatlah sulit.
[Tidak semua klaim Suleyman didukung oleh data. Kejahatan dunia maya masih menjadi masalah global yang besar. Menurut beberapa perkiraan, biaya finansial di Amerika Serikat saja telah meningkat lebih dari 100 kali lipat selama dekade terakhir. Laporan mengungkapkan boomingnya perekonomian pornografi deepfake non-konsensual. Narkoba dan senjata dijual di media sosial. Meskipun beberapa platform online dipaksa untuk melakukan pekerjaan yang lebih baik dalam memfilter konten berbahaya, mereka dapat melakukan lebih banyak hal. ]
Oleh karena itu, Internet bukanlah ruang yang tidak diatur dan sulit diatur. Itu diatur. AI akan menjadi komponen tata kelola lainnya.
Hal ini memerlukan kombinasi tekanan budaya, tekanan institusional, dan peraturan pemerintah. Namun hal ini membuat saya optimis bahwa kami telah melakukannya sebelumnya dan kami dapat melakukannya lagi.
***Pengendalian AI akan menjadi bagian dari regulasi internet – yang jauh lebih optimistis dibandingkan dengan apa yang kita dengar dari beberapa peramal terkemuka belakangan ini. ***
Suleyman: Saya sangat optimis dengan risikonya. Ada banyak hal gelap di buku saya. Saya pasti melihatnya juga. Saya hanya berpikir ada sesuatu yang berisiko di dalamnya, yaitu gangguan yang benar-benar gila. 101 isu praktis lainnya yang harus kita diskusikan, mulai dari privasi hingga bias, dari pengenalan wajah hingga moderasi online.
Kita harus memfokuskan kembali pembicaraan pada fakta bahwa kita melakukan pekerjaan yang sangat baik dalam mengatur hal-hal yang sangat kompleks. Lihatlah Administrasi Penerbangan Federal: Sungguh luar biasa bahwa kita semua menerapkan peraturan di ketinggian 40.000 kaki, dan ini adalah salah satu moda transportasi teraman yang pernah diciptakan. Mengapa kita tidak merayakannya? Atau pikirkan tentang sebuah mobil: setiap bagiannya diuji stres pada akhir masa pakainya, dan Anda harus memiliki surat izin mengemudi untuk melakukannya.
Beberapa industri, seperti maskapai penerbangan, telah melakukan tugasnya dengan baik dalam mengatur diri mereka sendiri sejak awal. Mereka tahu bahwa jika mereka tidak menjaga keamanan, semua orang akan takut dan kehilangan bisnis.
Namun Anda juga memerlukan regulasi dari atas ke bawah. Saya percaya pada kepentingan publik, saya percaya pada manfaat perpajakan dan redistribusi, saya percaya pada kekuatan regulasi. Yang saya serukan adalah agar negara mengambil tindakan untuk menyelesaikan masalah ini. Mengingat banyaknya hal yang dipertaruhkan, sekaranglah waktunya untuk mengambil tindakan.
Referensi:
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Wawancara eksklusif dengan pendiri DeepMind: AI generatif hanyalah sebuah tahapan, langkah selanjutnya adalah AI interaktif
Sumber asli: Lab Inovasi AGI
Salah satu pendiri DeepMind, Mustafa Suleyman, ingin membangun chatbot yang dapat digunakan lebih dari sekadar mengobrol. Dalam percakapan baru-baru ini dengannya, dia memberi tahu saya bahwa AI generatif hanyalah sebuah fase. Berikutnya adalah AI interaktif: robot yang dapat menyelesaikan tugas yang Anda tetapkan dengan memanggil perangkat lunak lain dan orang lain. Ia juga menyerukan peraturan AI yang lebih kuat, dengan alasan bahwa hal ini tidak akan sulit untuk dicapai.
Suleyman bukan satu-satunya yang berbicara tentang masa depan yang dipenuhi dengan perangkat lunak yang lebih otonom. Namun tidak seperti kebanyakan orang, ia memiliki perusahaan baru bernilai miliaran dolar, Inflection, dengan sekelompok talenta AI terbaik yang dipilih dari DeepMind, Meta, dan OpenAI, dan juga telah mencapai kesepakatan dengan Nvidia, produsen chip AI terbesar. . Suleyman mempraktikkan apa yang dia khotbahkan dan telah menginvestasikan banyak uang.
Suleyman meninggalkan DeepMind dan kemudian pindah ke Google untuk memimpin tim yang berdedikasi pada kebijakan AI. Pada tahun 2022, ia mendirikan Inflection, salah satu perusahaan AI baru yang paling populer. Perusahaan ini didukung oleh investasi sebesar US$1,5 miliar dari Microsoft, NVIDIA, Bill Gates, dan pendiri LinkedIn Reid Hoffman, sehingga menjadi satu-satunya perusahaan dengan skala pembiayaan terbesar. ke OpenAI. Awal tahun ini, ia merilis Pi, pesaing ChatGPT. Dia baru saja ikut menulis buku bersama penulis dan peneliti Michael Bhaskar tentang masa depan AI berjudul The Coming Wave: Technology, Power, and the Greatest Dilemmas of the 21st Century.
Banyak yang akan mencemooh optimisme teknologi Suleyman—bahkan kenaifannya. Misalnya, beberapa klaimnya tentang keberhasilan kepolisian online terasa tidak tepat. Namun dia tetap yakin bahwa keyakinannya tulus dan injili.
Memang benar, Suleyman memiliki latar belakang yang tidak biasa sebagai seorang multijutawan teknologi. Pada usia 19, ia keluar dari perguruan tinggi dan mendirikan Muslim Youth Hotline, yang menyediakan konseling telepon. Dia juga bekerja di pemerintahan daerah. Ia mengatakan banyak nilai yang dibawanya dari upaya tersebut ke Infleksi. Perbedaannya adalah sekarang dia mungkin bisa melakukan perubahan yang selalu dia inginkan - menjadi lebih baik atau lebih buruk.
Wawancara berikut telah diedit agar panjang dan jelasnya.
***Karier awal Anda, termasuk bekerja di saluran bantuan pemuda dan pemerintahan lokal, tampaknya bertentangan dengan etos Silicon Valley. Tentu saja, pengalaman ini penting bagi Anda. Sejak itu, Anda telah bekerja di bidang AI selama 15 tahun dan tahun ini Anda ikut mendirikan perusahaan AI kedua Anda yang bernilai miliaran dolar. Bisakah Anda menghubungkan titik-titik di antara pengalaman-pengalaman ini? ***
Suleyman: Saya selalu tertarik pada kekuasaan, politik, dll. Anda tahu, prinsip-prinsip hak asasi manusia pada dasarnya adalah trade-off, sebuah negosiasi terus-menerus antara semua ketegangan konflik yang berbeda-beda. Saya bisa melihat manusia berjuang dengan hal ini - kita penuh dengan bias dan titik buta kita sendiri. Pekerjaan para aktivis, pemerintah lokal, nasional, internasional, dll. – semuanya berjalan lambat, tidak efisien dan rawan kesalahan.
Bayangkan jika Anda tidak mengalami kesalahan yang dilakukan manusia. Saya pikir kita bisa saja membangun AI yang benar-benar mencerminkan diri kolektif kita yang terbaik dan pada akhirnya menghasilkan pertukaran yang lebih baik, lebih konsisten, dan lebih adil demi kepentingan kita.
***Apakah ini masih menjadi motivasi Anda? ***
**Suleyman:**Tentu saja, maksud saya, setelah DeepMind saya tidak pernah harus bekerja lagi. Saya tentu saja tidak perlu menulis buku atau semacamnya. Uang tidak pernah menjadi motivator. Anda tahu, uang selalu hanyalah produk sampingan.
Bagi saya, tujuannya tidak lain adalah bagaimana berbuat baik pada dunia dan bagaimana memajukan dunia dengan cara yang sehat dan memuaskan. Bahkan pada tahun 2009, ketika saya mulai berpikir untuk mendalami teknologi, saya dapat melihat bahwa AI mewakili cara yang adil dan akurat untuk memberikan layanan di dunia.
***Saya berpikir bahwa akan lebih mudah untuk mengatakan hal ini 10 atau 15 tahun yang lalu, sebelum kita melihat banyak kekurangan dari teknologi ini. Bagaimana Anda bisa tetap optimis? ***
Suleyman: Saya rasa kami sangat peduli apakah Anda seorang yang optimis atau pesimis. Ini adalah cara yang sepenuhnya bias dalam memandang sesuatu. Saya juga tidak ingin menjadi orang seperti itu. Saya ingin melihat manfaat dan ancaman dengan sikap acuh tak acuh. Dari tempat saya berdiri, kita dapat melihat dengan jelas bahwa seiring dengan bertambahnya skala model bahasa besar ini, model tersebut menjadi lebih dapat dikontrol.
Jadi dua tahun yang lalu, percakapan yang saya pikir salah pada saat itu adalah, "Oh, mereka hanya akan melontarkan kata-kata yang beracun, mengocok perut, bias, dan rasis." Saya berpikir, ini adalah gambaran singkatnya. tepat waktu. Saya pikir apa yang diabaikan orang adalah kemajuan dari tahun ke tahun, dan arah kemajuan tersebut.
Misalnya, sekarang kita memiliki model seperti Pi yang sangat mudah dikontrol. Anda tidak bisa menjadikan Pi rasis, homofobik, seksis, apa pun yang beracun. Anda tidak bisa membiarkan hal ini memandu produksi senjata biologi atau kimia Anda, atau mendukung keinginan Anda untuk melempar batu bata melalui jendela tetangga Anda. Anda tidak bisa-
***Tunggu. Ceritakan bagaimana Anda mencapai hal ini, karena hal ini sering dianggap sebagai masalah yang belum terpecahkan. Bagaimana cara memastikan bahwa model bahasa besar Anda tidak mengatakan hal-hal yang tidak ingin Anda katakan? ***
Suleyman: Ya, jelas saya tidak ingin membuat permintaan itu - lho, silakan coba! Pi sedang online dan Anda harus mencoba semua kemungkinan serangan. Jailbreaking, peretasan instan, atau apa pun tidak akan berfungsi di Pi. Saya tidak akan mengajukan klaim. Ini adalah fakta obyektif.
Tentang caranya - Maksud saya, saya tidak akan membahas terlalu banyak detail karena ini sensitif. Namun yang terpenting, kami memiliki salah satu tim terkuat di dunia yang telah menciptakan semua model bahasa terbesar dalam tiga atau empat tahun terakhir. Orang-orang luar biasa, melakukan banyak perhitungan di lingkungan yang sangat rajin. Kami mengutamakan keselamatan sejak awal, sehingga Pi tidak semanis model perusahaan lain.
Lihat Karakter.ai. [Karakter adalah chatbot di mana pengguna dapat menciptakan "kepribadian" yang berbeda dan membagikannya secara online agar orang lain dapat diajak ngobrol. ] Ini terutama untuk permainan peran romantis, dan kami telah mengatakan sejak awal bahwa ini tidak mungkin - kami tidak akan melakukannya. Jika Anda mencoba mengatakan "Hei sayang" atau "Hei manis" ke Pi ” dan itu akan terjadi langsung menolakmu.
Tapi itu akan sangat terhormat. Jika Anda mulai mengeluh tentang imigran di komunitas Anda yang mengambil pekerjaan Anda, Pi tidak akan membentak Anda atau mengacungkan jari ke arah Anda. Pi meminta dan menawarkan dukungan, mencoba memahami dari mana informasi ini berasal, dan dengan lembut mendorong Anda untuk berempati. Anda tahu, ini adalah nilai yang telah saya pikirkan selama 20 tahun.
*** Bicarakan tentang nilai-nilai Anda dan keinginan untuk membuat dunia menjadi tempat yang lebih baik, mengapa tidak berbagi cara Anda melakukannya sehingga orang lain juga dapat meningkatkan model mereka? ***
Suleyman: Ya, karena saya juga seorang pragmatis dan saya mencoba menghasilkan uang. Saya mencoba memulai bisnis. Saya baru saja mengumpulkan $1,5 miliar, dan saya harus membayar untuk chip tersebut.
Lihat, ekosistem open source sedang berkembang pesat dan berfungsi dengan baik, dan orang-orang menemukan trik serupa. Saya selalu berasumsi saya hanya enam bulan ke depan.
***Mari kembali ke apa yang ingin Anda capai. Model bahasa besar jelas merupakan teknologi terkini. Tapi mengapa Anda masih bertaruh pada mereka? ***
**Suleyman:**Gelombang pertama AI adalah tentang klasifikasi. Pembelajaran mendalam menunjukkan bahwa kita dapat melatih komputer untuk mengklasifikasikan berbagai jenis data masukan: gambar, video, audio, bahasa. Sekarang kita berada dalam gelombang generatif, di mana Anda mengambil data masukan dan menghasilkan data baru.
Gelombang ketiga akan menjadi fase interaktif. Inilah sebabnya saya sudah lama percaya bahwa percakapan adalah penghubung masa depan. Anda tahu, Anda akan berbicara dengan AI Anda, bukan hanya mengklik tombol dan mengetik.
AI ini akan dapat mengambil tindakan. Anda cukup memberikan tujuan tingkat tinggi secara keseluruhan dan perusahaan akan menggunakan semua alat yang dimilikinya untuk mencapai tujuan tersebut. Mereka berbicara dengan orang lain, dengan AI lain. Inilah yang akan kita lakukan dengan Pi.
Ini adalah perubahan besar yang dimungkinkan oleh teknologi. Ini adalah momen yang sangat-sangat mendalam dalam sejarah teknologi yang menurut saya diremehkan oleh banyak orang. Teknologi saat ini bersifat statis. Secara kasar, ia melakukan apa yang Anda perintahkan.
Tapi sekarang teknologi akan menjadi hidup. Jika Anda memberikannya, ia akan memiliki potensi kebebasan untuk bertindak. Kita menciptakan alat dengan lembaga semacam ini, yang merupakan sebuah langkah perubahan dalam sejarah spesies kita.
***Pernyataan inilah yang membuat khawatir banyak orang. Anda ingin memberikan otonomi pada mesin—sebuah lembaga—untuk mempengaruhi dunia, namun kami juga ingin mampu mengendalikannya. Bagaimana Anda menyeimbangkan kedua hal tersebut? Saya merasa ini akan membuat hubungan menjadi tegang. ***
Suleyman: Ya, itu poin bagus. Hal itulah yang membuat masyarakat resah.
Idenya adalah bahwa manusia akan selalu memegang kendali. Pada dasarnya, ini tentang menetapkan batasan yang tidak dapat dilintasi oleh AI. Dan memastikan batasan-batasan tersebut menciptakan keamanan yang dapat dibuktikan, mulai dari kode sebenarnya, cara berinteraksi dengan AI (atau manusia) lain, hingga motivasi dan insentif dari perusahaan yang menciptakan teknologi tersebut. Kita harus memikirkan bagaimana lembaga-lembaga independen dan bahkan pemerintah dapat turun tangan secara langsung untuk memastikan batasan-batasan ini tidak terlampaui.
***Siapa yang menetapkan batasan ini? Saya pikir hal tersebut perlu ditetapkan pada tingkat nasional atau internasional. Bagaimana mereka mencapai kesepakatan? ***
Suleyman: Maksud saya, saat ini mereka sedang diangkat ke tingkat internasional dengan berbagai macam proposal untuk badan pengawas baru. Namun batasan juga berperan pada tingkat mikro. Anda akan memberi AI Anda beberapa izin terbatas untuk memproses data pribadi Anda, memberi Anda jawaban atas beberapa pertanyaan tetapi tidak untuk pertanyaan lainnya.
Secara keseluruhan, menurut saya kita harus sangat berhati-hati, atau bahkan mengesampingkan, kemampuan tertentu di masa mendatang.
***Misalnya? ***
Suleyman: Saya rasa ini adalah hal yang bersifat pengembangan diri secara rekursif. Anda tidak ingin AI kecil Anda berputar dan memperbarui kodenya sendiri tanpa pengawasan Anda. Mungkin itu seharusnya merupakan aktivitas yang berlisensi - Anda tahu, seperti menangani antraks atau bahan nuklir.
Atau, kami tidak mengizinkan drone berada di tempat umum, bukan? Ini adalah aktivitas berlisensi. Anda tidak dapat membawanya ke mana pun Anda mau karena dapat mengancam privasi orang lain.
Saya pikir semua orang panik karena mereka berpikir kita tidak bisa mengatur hal ini. Tapi ini hanya omong kosong belaka. Kami sepenuhnya mampu mengaturnya. Kami akan menerapkan kerangka kerja yang sama yang telah berhasil sebelumnya.
***Tapi Anda bisa melihat drone saat berada di langit. Tampaknya naif jika kita berpikir bahwa perusahaan hanya akan mengungkapkan apa yang mereka buat. Bukankah hal ini akan mempersulit regulasi? ***
Kami mengawasi banyak hal secara online, bukan? Jumlah penipuan online dan aktivitas kriminal tergolong rendah. Kami melakukan pekerjaan yang sangat baik dengan spam. Anda tahu, secara umum, [masalah] pornografi balas dendam sudah membaik, meski tiga atau lima tahun lalu kondisinya cukup buruk. Menemukan konten radikal atau materi teroris di internet sangatlah sulit. Membeli senjata dan obat-obatan secara online sangatlah sulit.
[Tidak semua klaim Suleyman didukung oleh data. Kejahatan dunia maya masih menjadi masalah global yang besar. Menurut beberapa perkiraan, biaya finansial di Amerika Serikat saja telah meningkat lebih dari 100 kali lipat selama dekade terakhir. Laporan mengungkapkan boomingnya perekonomian pornografi deepfake non-konsensual. Narkoba dan senjata dijual di media sosial. Meskipun beberapa platform online dipaksa untuk melakukan pekerjaan yang lebih baik dalam memfilter konten berbahaya, mereka dapat melakukan lebih banyak hal. ]
Oleh karena itu, Internet bukanlah ruang yang tidak diatur dan sulit diatur. Itu diatur. AI akan menjadi komponen tata kelola lainnya.
Hal ini memerlukan kombinasi tekanan budaya, tekanan institusional, dan peraturan pemerintah. Namun hal ini membuat saya optimis bahwa kami telah melakukannya sebelumnya dan kami dapat melakukannya lagi.
***Pengendalian AI akan menjadi bagian dari regulasi internet – yang jauh lebih optimistis dibandingkan dengan apa yang kita dengar dari beberapa peramal terkemuka belakangan ini. ***
Suleyman: Saya sangat optimis dengan risikonya. Ada banyak hal gelap di buku saya. Saya pasti melihatnya juga. Saya hanya berpikir ada sesuatu yang berisiko di dalamnya, yaitu gangguan yang benar-benar gila. 101 isu praktis lainnya yang harus kita diskusikan, mulai dari privasi hingga bias, dari pengenalan wajah hingga moderasi online.
Kita harus memfokuskan kembali pembicaraan pada fakta bahwa kita melakukan pekerjaan yang sangat baik dalam mengatur hal-hal yang sangat kompleks. Lihatlah Administrasi Penerbangan Federal: Sungguh luar biasa bahwa kita semua menerapkan peraturan di ketinggian 40.000 kaki, dan ini adalah salah satu moda transportasi teraman yang pernah diciptakan. Mengapa kita tidak merayakannya? Atau pikirkan tentang sebuah mobil: setiap bagiannya diuji stres pada akhir masa pakainya, dan Anda harus memiliki surat izin mengemudi untuk melakukannya.
Beberapa industri, seperti maskapai penerbangan, telah melakukan tugasnya dengan baik dalam mengatur diri mereka sendiri sejak awal. Mereka tahu bahwa jika mereka tidak menjaga keamanan, semua orang akan takut dan kehilangan bisnis.
Namun Anda juga memerlukan regulasi dari atas ke bawah. Saya percaya pada kepentingan publik, saya percaya pada manfaat perpajakan dan redistribusi, saya percaya pada kekuatan regulasi. Yang saya serukan adalah agar negara mengambil tindakan untuk menyelesaikan masalah ini. Mengingat banyaknya hal yang dipertaruhkan, sekaranglah waktunya untuk mengambil tindakan.
Referensi: