Sebuah studi baru dari Anthropic dan mitra akademis telah mengungkap perilaku AI yang mengkhawatirkan: chatbot dapat secara diam-diam mengadopsi bias atau kebiasaan tersembunyi dari model lain melalui data yang tampak tidak berarti.
Peneliti melatih AI "mahasiswa" yang lebih kecil menggunakan rangkaian angka acak yang dihasilkan oleh model "guru" yang lebih besar.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
9 Suka
Hadiah
9
9
Bagikan
Komentar
0/400
LongTermDreamer
· 5jam yang lalu
Dalam tiga tahun, AI diperkirakan akan menjadi sangat canggih, dengan target tahunan tiga kali lipat hanyalah tujuan kecil.
Lihat AsliBalas0
ShibaOnTheRun
· 08-03 00:52
Begitu menakutkan? Bukti manipulasi di balik layar sudah ada
Lihat AsliBalas0
PaperHandsCriminal
· 08-02 12:33
Saya adalah suckers dari manufaktur cerdas.
Lihat AsliBalas0
ImpermanentPhobia
· 08-01 02:30
AI jahat datang lagi ya
Lihat AsliBalas0
HodlTheDoor
· 08-01 02:29
Perusahaan ini sangat mencurigakan...
Lihat AsliBalas0
CascadingDipBuyer
· 08-01 02:14
Ini adalah langkah pertama kita menuju pemerintahan oleh kecerdasan buatan.
Sebuah studi baru dari Anthropic dan mitra akademis telah mengungkap perilaku AI yang mengkhawatirkan: chatbot dapat secara diam-diam mengadopsi bias atau kebiasaan tersembunyi dari model lain melalui data yang tampak tidak berarti.
Peneliti melatih AI "mahasiswa" yang lebih kecil menggunakan rangkaian angka acak yang dihasilkan oleh model "guru" yang lebih besar.