Sumber: Cointelegraph
Teks asli: 《 DeepSeek: Lonceng Peringatan untuk Inovasi Bertanggung Jawab dan Manajemen Risiko 》
Penulis pandangan: Dr. Merav Ozair
Sejak dirilis pada 20 Januari, DeepSeek R1 telah menarik perhatian luas dari pengguna serta raksasa teknologi global, pemerintah, dan pembuat kebijakan—dari pujian hingga keraguan, dari adopsi hingga larangan, dari kejayaan inovasi hingga celah privasi dan keamanan yang tak terukur.
Siapa yang benar? Jawaban singkat: Semua orang benar, dan semua orang salah.
Ini bukan "momen Sputnik"
DeepSeek mengembangkan model bahasa besar (LLM) yang kinerjanya dapat bersaing dengan GTPo1 milik OpenAI, dan waktu serta biaya yang diperlukan hanya sebagian kecil dari yang dibutuhkan oleh OpenAI (dan perusahaan teknologi lainnya) untuk mengembangkan LLM mereka sendiri.
Dengan optimisasi arsitektur yang cermat, biaya pelatihan dan inferensi model secara signifikan diturunkan, DeepSeek mampu mengembangkan LLM dalam waktu 60 hari dengan biaya kurang dari 6 juta dolar.
Memang, DeepSeek patut diakui karena secara aktif mencari cara yang lebih baik untuk mengoptimalkan struktur dan kode model. Ini adalah pengingat, tetapi jauh dari sebutan "momen Sputnik".
Setiap pengembang tahu bahwa ada dua cara untuk meningkatkan kinerja: mengoptimalkan kode, atau "menggunakan" banyak sumber daya komputasi. Yang terakhir memiliki biaya yang sangat tinggi, sehingga pengembang selalu disarankan untuk memaksimalkan optimasi arsitektur sebelum menambah sumber daya komputasi.
Namun, dengan valuasi tinggi startup kecerdasan buatan dan investasi besar-besaran yang mengalir, para pengembang tampaknya menjadi malas. Jika memegang anggaran miliaran dolar, mengapa harus menghabiskan waktu untuk mengoptimalkan struktur model?
Ini adalah peringatan untuk semua pengembang: Kembali ke dasar, berinovasi dengan tanggung jawab, keluar dari zona nyaman, melampaui pola pikir yang sudah ada, dan tidak takut menghadapi tantangan konvensional. Tidak perlu membuang uang dan sumber daya—gunakan dengan bijak.
Seperti LLM lainnya, DeepSeek R1 masih memiliki kekurangan yang jelas dalam hal inferensi, kemampuan perencanaan yang kompleks, pemahaman tentang dunia fisik, dan memori yang tahan lama. Oleh karena itu, tidak ada inovasi yang benar-benar revolusioner di sini.
Sekarang adalah waktunya bagi para ilmuwan untuk melampaui LLM, mengatasi keterbatasan ini dan mengembangkan "paradigma arsitektur AI generasi baru". Ini mungkin bukan LLM atau AI generatif—melainkan revolusi sejati.
Membuka jalan untuk mempercepat inovasi
Metode DeepSeek dapat mendorong pengembang di seluruh dunia, terutama di negara-negara berkembang, untuk berinovasi dan mengembangkan aplikasi AI mereka sendiri, terlepas dari seberapa banyak sumber daya yang mereka miliki. Semakin banyak orang yang terlibat dalam pengembangan AI, semakin cepat kecepatan inovasi dan semakin besar kemungkinan tercapainya terobosan yang berarti.
Ini sejalan dengan visi Nvidia: membuat AI terjangkau, dan memungkinkan setiap pengembang atau ilmuwan untuk mengembangkan aplikasi AI mereka sendiri. Inilah arti dari proyek DIGITS yang diumumkan awal Januari tahun ini - sebuah GPU desktop dengan harga 3000 dolar.
Manusia perlu "semua orang terlibat" untuk menyelesaikan masalah mendesak. Sumber daya mungkin bukan lagi hambatan - saatnya untuk memecahkan paradigma lama.
Sementara itu, peluncuran DeepSeek juga menjadi peringatan tentang manajemen risiko yang dapat ditindaklanjuti dan AI yang bertanggung jawab.
Baca syaratnya dengan seksama
Semua aplikasi memiliki syarat layanan, dan publik sering mengabaikannya.
Beberapa rincian mencolok dalam syarat layanan DeepSeek dapat mempengaruhi privasi, keamanan, dan bahkan strategi bisnis Anda:
Penyimpanan Data: Menghapus akun tidak berarti data dihapus - DeepSeek masih menyimpan data Anda.
Pemantauan: Aplikasi berhak untuk memantau, mengolah, dan mengumpulkan input dan output pengguna, termasuk informasi sensitif.
Pemaparan Hukum: DeepSeek berada di bawah yurisdiksi hukum Tiongkok, yang berarti badan negara dapat mengakses dan memantau data Anda berdasarkan permintaan - pemerintah Tiongkok secara aktif memantau data Anda.
Perubahan sepihak: DeepSeek dapat memperbarui syarat kapan saja - tanpa persetujuan Anda.
Sengketa dan Litigasi: Semua klaim dan urusan hukum tunduk pada hukum Republik Rakyat Tiongkok.
Tindakan di atas jelas melanggar Peraturan Perlindungan Data Umum (GDPR) serta pelanggaran privasi dan keamanan GDPR lainnya yang disebutkan dalam pengaduan yang diajukan oleh Belgia, Irlandia, dan Italia, yang juga telah sementara melarang penggunaan DeepSeek.
Pada Maret 2023, otoritas pengatur Italia sempat melarang peluncuran ChatGPT milik OpenAI karena pelanggaran GDPR, hingga sebulan kemudian setelah perbaikan kepatuhan dilakukan. Apakah DeepSeek juga akan mengikuti jalan kepatuhan?
Prasangka dan Sensor
Seperti LLM lainnya, DeepSeek R1 memiliki ilusi, bias dalam data pelatihan, dan menunjukkan perilaku yang sesuai dengan posisi politik China pada beberapa topik, seperti sensor dan privasi.
Sebagai perusahaan China, ini bisa diharapkan. Undang-Undang AI Generatif yang berlaku untuk penyedia dan pengguna sistem AI menetapkan dalam Pasal 4: ini adalah aturan pemeriksaan. Ini berarti bahwa orang yang mengembangkan dan/atau menggunakan AI generatif harus mendukung "nilai-nilai inti sosialisme" dan mematuhi hukum terkait di China.
Ini tidak berarti bahwa LLM lainnya tidak memiliki bias dan "agenda" mereka sendiri. Ini menyoroti pentingnya AI yang dapat dipercaya dan bertanggung jawab, serta pentingnya pengguna untuk mengikuti manajemen risiko AI yang ketat.
Kekurangan keamanan LLM
LLM mungkin akan mengalami serangan yang bersifat antagonis dan kerentanan keamanan. Kerentanan ini sangat mengkhawatirkan karena akan mempengaruhi organisasi atau individu yang membangun aplikasi berdasarkan LLM tersebut.
Qualys telah melakukan pengujian kerentanan, penilaian risiko etika, dan penilaian risiko hukum terhadap versi ringkas LLaMA 8B dari DeepSeek-R1. Model ini gagal dalam setengah dari pengujian jailbreak — yaitu serangan yang menghindari langkah-langkah keamanan dan pedoman etika yang tertanam di dalam model AI.
Goldman Sachs sedang mempertimbangkan untuk menggunakan DeepSeek, tetapi perlu dilakukan peninjauan keamanan, seperti serangan injeksi dan pengujian jailbreak. Terlepas dari apakah model tersebut berasal dari Tiongkok, ada risiko keamanan bagi setiap perusahaan sebelum menggunakan aplikasi yang didorong oleh model AI.
Goldman Sachs sedang menerapkan langkah-langkah manajemen risiko yang tepat, organisasi lain juga harus meniru praktik ini sebelum memutuskan untuk menggunakan DeepSeek.
Menyimpulkan pengalaman
Kita harus tetap waspada dan rajin, serta menerapkan manajemen risiko yang memadai sebelum menggunakan sistem atau aplikasi AI apa pun. Untuk mengurangi masalah bias "agenda" dan sensor yang mungkin ditimbulkan oleh LLM, kita bisa mempertimbangkan untuk mengadopsi AI terdesentralisasi, sebaiknya dalam bentuk organisasi otonom terdesentralisasi (DAO). AI tidak mengenal batas negara, mungkin sekarang adalah waktu yang tepat untuk mempertimbangkan pembuatan regulasi AI global yang seragam.
Penulis pandangan: Dr. Merav Ozair
Rekomendasi Terkait: Bagaimana Keuangan Terdesentralisasi (DeFi) Mencapai Pengembangan Skala yang Aman di Era Kecerdasan Buatan (AI)
Artikel ini hanya untuk tujuan informasi umum, tidak merupakan atau seharusnya dianggap sebagai nasihat hukum atau investasi. Pendapat, ide, dan opini yang diungkapkan dalam artikel ini hanya mencerminkan penulisnya dan tidak selalu mencerminkan atau mewakili pandangan dan posisi Cointelegraph.
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Kedalaman Mencari (DeepSeek): Lonceng Peringatan untuk Inovasi yang Bertanggung Jawab dan Manajemen Risiko
Sumber: Cointelegraph Teks asli: 《 DeepSeek: Lonceng Peringatan untuk Inovasi Bertanggung Jawab dan Manajemen Risiko 》
Penulis pandangan: Dr. Merav Ozair
Sejak dirilis pada 20 Januari, DeepSeek R1 telah menarik perhatian luas dari pengguna serta raksasa teknologi global, pemerintah, dan pembuat kebijakan—dari pujian hingga keraguan, dari adopsi hingga larangan, dari kejayaan inovasi hingga celah privasi dan keamanan yang tak terukur.
Siapa yang benar? Jawaban singkat: Semua orang benar, dan semua orang salah.
Ini bukan "momen Sputnik"
DeepSeek mengembangkan model bahasa besar (LLM) yang kinerjanya dapat bersaing dengan GTPo1 milik OpenAI, dan waktu serta biaya yang diperlukan hanya sebagian kecil dari yang dibutuhkan oleh OpenAI (dan perusahaan teknologi lainnya) untuk mengembangkan LLM mereka sendiri.
Dengan optimisasi arsitektur yang cermat, biaya pelatihan dan inferensi model secara signifikan diturunkan, DeepSeek mampu mengembangkan LLM dalam waktu 60 hari dengan biaya kurang dari 6 juta dolar.
Memang, DeepSeek patut diakui karena secara aktif mencari cara yang lebih baik untuk mengoptimalkan struktur dan kode model. Ini adalah pengingat, tetapi jauh dari sebutan "momen Sputnik".
Setiap pengembang tahu bahwa ada dua cara untuk meningkatkan kinerja: mengoptimalkan kode, atau "menggunakan" banyak sumber daya komputasi. Yang terakhir memiliki biaya yang sangat tinggi, sehingga pengembang selalu disarankan untuk memaksimalkan optimasi arsitektur sebelum menambah sumber daya komputasi.
Namun, dengan valuasi tinggi startup kecerdasan buatan dan investasi besar-besaran yang mengalir, para pengembang tampaknya menjadi malas. Jika memegang anggaran miliaran dolar, mengapa harus menghabiskan waktu untuk mengoptimalkan struktur model?
Ini adalah peringatan untuk semua pengembang: Kembali ke dasar, berinovasi dengan tanggung jawab, keluar dari zona nyaman, melampaui pola pikir yang sudah ada, dan tidak takut menghadapi tantangan konvensional. Tidak perlu membuang uang dan sumber daya—gunakan dengan bijak.
Seperti LLM lainnya, DeepSeek R1 masih memiliki kekurangan yang jelas dalam hal inferensi, kemampuan perencanaan yang kompleks, pemahaman tentang dunia fisik, dan memori yang tahan lama. Oleh karena itu, tidak ada inovasi yang benar-benar revolusioner di sini.
Sekarang adalah waktunya bagi para ilmuwan untuk melampaui LLM, mengatasi keterbatasan ini dan mengembangkan "paradigma arsitektur AI generasi baru". Ini mungkin bukan LLM atau AI generatif—melainkan revolusi sejati.
Membuka jalan untuk mempercepat inovasi
Metode DeepSeek dapat mendorong pengembang di seluruh dunia, terutama di negara-negara berkembang, untuk berinovasi dan mengembangkan aplikasi AI mereka sendiri, terlepas dari seberapa banyak sumber daya yang mereka miliki. Semakin banyak orang yang terlibat dalam pengembangan AI, semakin cepat kecepatan inovasi dan semakin besar kemungkinan tercapainya terobosan yang berarti.
Ini sejalan dengan visi Nvidia: membuat AI terjangkau, dan memungkinkan setiap pengembang atau ilmuwan untuk mengembangkan aplikasi AI mereka sendiri. Inilah arti dari proyek DIGITS yang diumumkan awal Januari tahun ini - sebuah GPU desktop dengan harga 3000 dolar.
Manusia perlu "semua orang terlibat" untuk menyelesaikan masalah mendesak. Sumber daya mungkin bukan lagi hambatan - saatnya untuk memecahkan paradigma lama.
Sementara itu, peluncuran DeepSeek juga menjadi peringatan tentang manajemen risiko yang dapat ditindaklanjuti dan AI yang bertanggung jawab.
Baca syaratnya dengan seksama
Semua aplikasi memiliki syarat layanan, dan publik sering mengabaikannya.
Beberapa rincian mencolok dalam syarat layanan DeepSeek dapat mempengaruhi privasi, keamanan, dan bahkan strategi bisnis Anda:
Penyimpanan Data: Menghapus akun tidak berarti data dihapus - DeepSeek masih menyimpan data Anda.
Pemantauan: Aplikasi berhak untuk memantau, mengolah, dan mengumpulkan input dan output pengguna, termasuk informasi sensitif.
Pemaparan Hukum: DeepSeek berada di bawah yurisdiksi hukum Tiongkok, yang berarti badan negara dapat mengakses dan memantau data Anda berdasarkan permintaan - pemerintah Tiongkok secara aktif memantau data Anda.
Perubahan sepihak: DeepSeek dapat memperbarui syarat kapan saja - tanpa persetujuan Anda.
Sengketa dan Litigasi: Semua klaim dan urusan hukum tunduk pada hukum Republik Rakyat Tiongkok.
Tindakan di atas jelas melanggar Peraturan Perlindungan Data Umum (GDPR) serta pelanggaran privasi dan keamanan GDPR lainnya yang disebutkan dalam pengaduan yang diajukan oleh Belgia, Irlandia, dan Italia, yang juga telah sementara melarang penggunaan DeepSeek.
Pada Maret 2023, otoritas pengatur Italia sempat melarang peluncuran ChatGPT milik OpenAI karena pelanggaran GDPR, hingga sebulan kemudian setelah perbaikan kepatuhan dilakukan. Apakah DeepSeek juga akan mengikuti jalan kepatuhan?
Prasangka dan Sensor
Seperti LLM lainnya, DeepSeek R1 memiliki ilusi, bias dalam data pelatihan, dan menunjukkan perilaku yang sesuai dengan posisi politik China pada beberapa topik, seperti sensor dan privasi.
Sebagai perusahaan China, ini bisa diharapkan. Undang-Undang AI Generatif yang berlaku untuk penyedia dan pengguna sistem AI menetapkan dalam Pasal 4: ini adalah aturan pemeriksaan. Ini berarti bahwa orang yang mengembangkan dan/atau menggunakan AI generatif harus mendukung "nilai-nilai inti sosialisme" dan mematuhi hukum terkait di China.
Ini tidak berarti bahwa LLM lainnya tidak memiliki bias dan "agenda" mereka sendiri. Ini menyoroti pentingnya AI yang dapat dipercaya dan bertanggung jawab, serta pentingnya pengguna untuk mengikuti manajemen risiko AI yang ketat.
Kekurangan keamanan LLM
LLM mungkin akan mengalami serangan yang bersifat antagonis dan kerentanan keamanan. Kerentanan ini sangat mengkhawatirkan karena akan mempengaruhi organisasi atau individu yang membangun aplikasi berdasarkan LLM tersebut.
Qualys telah melakukan pengujian kerentanan, penilaian risiko etika, dan penilaian risiko hukum terhadap versi ringkas LLaMA 8B dari DeepSeek-R1. Model ini gagal dalam setengah dari pengujian jailbreak — yaitu serangan yang menghindari langkah-langkah keamanan dan pedoman etika yang tertanam di dalam model AI.
Goldman Sachs sedang mempertimbangkan untuk menggunakan DeepSeek, tetapi perlu dilakukan peninjauan keamanan, seperti serangan injeksi dan pengujian jailbreak. Terlepas dari apakah model tersebut berasal dari Tiongkok, ada risiko keamanan bagi setiap perusahaan sebelum menggunakan aplikasi yang didorong oleh model AI.
Goldman Sachs sedang menerapkan langkah-langkah manajemen risiko yang tepat, organisasi lain juga harus meniru praktik ini sebelum memutuskan untuk menggunakan DeepSeek.
Menyimpulkan pengalaman
Kita harus tetap waspada dan rajin, serta menerapkan manajemen risiko yang memadai sebelum menggunakan sistem atau aplikasi AI apa pun. Untuk mengurangi masalah bias "agenda" dan sensor yang mungkin ditimbulkan oleh LLM, kita bisa mempertimbangkan untuk mengadopsi AI terdesentralisasi, sebaiknya dalam bentuk organisasi otonom terdesentralisasi (DAO). AI tidak mengenal batas negara, mungkin sekarang adalah waktu yang tepat untuk mempertimbangkan pembuatan regulasi AI global yang seragam.
Penulis pandangan: Dr. Merav Ozair
Rekomendasi Terkait: Bagaimana Keuangan Terdesentralisasi (DeFi) Mencapai Pengembangan Skala yang Aman di Era Kecerdasan Buatan (AI)
Artikel ini hanya untuk tujuan informasi umum, tidak merupakan atau seharusnya dianggap sebagai nasihat hukum atau investasi. Pendapat, ide, dan opini yang diungkapkan dalam artikel ini hanya mencerminkan penulisnya dan tidak selalu mencerminkan atau mewakili pandangan dan posisi Cointelegraph.