Beberapa kampanye politik mulai menggunakan email penggalangan dana dan citra promosi yang dihasilkan oleh AI, sebuah fenomena yang baru saja menyusup perlahan beberapa bulan yang lalu, tetapi sekarang telah menyatu menjadi aliran besar dan mulai menulis ulang aturan main dalam pemilihan demokratis di seluruh dunia.
AI dapat mempercepat erosi kepercayaan pada media, pemerintah, dan masyarakat, memperdalam bias dan memperlebar perpecahan partisan, mendorong pemilih lebih dalam ke dalam gelembung informasi yang terpolarisasi. Membangun pagar pembatas baru adalah prioritas.
Kandidat konservatif Anthony Furey menggunakan gambar yang dihasilkan kecerdasan buatan sebagai materi kampanye dalam pemilihan walikota Toronto, termasuk yang menunjukkan jalan kota yang dipenuhi orang-orang yang tampaknya sedang berkemah di sebelah gedung-gedung tunawisma.
Teknologi kecerdasan buatan (AI) secara bertahap terlibat dalam beberapa aspek kampanye politik. Menjelang pemilihan presiden AS 2024, teknologi AI semakin banyak digunakan dalam kampanye politik. Beberapa kampanye menggunakan gambar, video, dan teks palsu yang dibuat oleh AI untuk menyesatkan pemilih, memperdalam prasangka, dan melemahkan persaingan yang sehat. Saat ini, Amerika Serikat tidak memiliki undang-undang dan peraturan yang efektif untuk mengatasi tantangan ini. Kesenjangan aturan pemilu telah membawa perubahan besar pada pemilihan presiden, yang terkait dengan politik AS bahkan global.
Para ahli khawatir teknologi tersebut dapat mempercepat erosi kepercayaan pada media, pemerintah, dan masyarakat. Video palsu yang tidak menyenangkan, email yang berisi cerita palsu, atau gambar palsu kerusakan kota dapat memperdalam prasangka dan memperlebar perpecahan partisan dengan menunjukkan kepada pemilih apa yang ingin mereka lihat. Orang mungkin terjebak lebih dalam lagi dalam gelembung informasi yang terpolarisasi, hanya mempercayai sumber yang mereka pilih untuk dipercaya. Ini menyajikan gambaran yang mirip dengan pemilu AS 2016 yang membawa Trump ke tampuk kekuasaan.
Dari infiltrasi lambat hingga torrent besar
Pemilihan presiden AS 2024 akan menjadi pemilihan AS pertama sejak AI generatif memengaruhi manusia secara luas. Menurut laporan "New York Times" pada 25 Juni, beberapa kampanye politik mulai menggunakan email penggalangan dana dan gambar promosi yang dihasilkan oleh AI. Aturan main untuk pemilihan yang demokratis.
Misalnya, Komite Nasional Republik AS merilis video setelah Presiden Biden mengumumkan pencalonannya kembali, di mana gambar yang disintesis oleh kecerdasan buatan menunjukkan akhir dunia setelah Biden terpilih kembali; Gubernur Florida Ron DeSantis (Ron DeSantis) Menggunakan AI untuk menyintesis gambar, foto palsu mantan Presiden Trump dan mantan pejabat kesehatan Dr. Anthony Fauci diposting di platform sosial; Partai Demokrat mencoba pesan penggalangan dana yang dirancang oleh AI pada musim semi dan menemukan bahwa pesan itu seringkali lebih akurat daripada yang ditulis oleh manusia. Tulis salinan yang lebih mendorong partisipasi dan donasi pemilih; pada bulan April, seorang kandidat dalam pemilihan walikota Chicago mengeluh bahwa akun Twitter yang menyamar sebagai outlet berita menggunakan kecerdasan buatan dengan cara yang menyarankan dia memaafkan kebrutalan polisi Mengkloning suaranya.
Beberapa politisi percaya bahwa teknologi AI dapat membantu mengurangi biaya kampanye. Misalnya, ini dapat digunakan untuk memberikan tanggapan instan terhadap pertanyaan debat atau iklan yang menyinggung, atau untuk menganalisis beberapa data yang memerlukan analisis ahli yang mahal.
Kandidat konservatif Anthony Furey menggunakan gambar yang dihasilkan kecerdasan buatan sebagai materi kampanye dalam pemilihan walikota Toronto pada 26 Juni, termasuk satu yang menunjukkan jalan kota yang dipagari dengan apa yang tampak seperti seorang tunawisma yang berkemah di sebelah sebuah bangunan, tetapi melihat lebih dekat ke latar depan mengungkapkan seseorang yang lebih mirip rendering; foto lain menunjukkan dua orang yang tampaknya sedang berdiskusi penting, dan yang di sebelah kiri memiliki tiga lengan. Terlepas dari serangan dari para pesaingnya, gambar komposit memperkuat profil Fury dalam pemilihan walikota 101 lapangan.
Pria di sebelah kiri memiliki tiga tangan dalam materi kampanye buatan AI untuk calon walikota Toronto Anthony Fury.
"Skeptisisme yang sehat mendorong kebiasaan baik (seperti membaca lateral dan mencari sumber yang dapat dipercaya), dan teknologi ini dapat mendorong pergeseran dari skeptisisme yang sehat ke skeptisisme yang tidak sehat sehingga orang tidak mungkin mengetahui apa yang nyata."
Bagaimana AI Dapat Mempengaruhi Pemilu AS 2024
Institut Konsultan Politik Amerika baru-baru ini mengutuk penggunaan deepfake dalam kampanye politik sebagai pelanggaran etika. Larry Huynh, presiden kelompok tersebut, berkata: "Orang-orang tergoda untuk membuka amplop dan melihat apa yang dapat mereka lakukan dengan berbagai hal. Seperti alat apa pun, mereka dapat digunakan untuk tujuan atau perilaku buruk untuk menipu pemilih, menyesatkan pemilih, membuat pemilih mempercayai hal-hal yang tidak ada."
"Jika seseorang dapat membuat kegaduhan, menciptakan ketidakpastian, atau membuat narasi yang salah, itu bisa menjadi cara yang efektif untuk mempengaruhi pemilih dan memenangkan pemilihan," kata Darrell M. West, seorang peneliti senior di Brookings Institution M. West, menulis dalam sebuah laporan di bulan Mei tahun ini, "Karena pemilihan presiden 2024 mungkin bergantung pada puluhan ribu pemilih di beberapa negara bagian, apa pun yang dapat mengarahkan orang ke satu arah atau lainnya mungkin Pada akhirnya itu adalah faktor penentu."
Laporan, "Bagaimana Kecerdasan Buatan Akan Mengubah Pemilu 2024," mengajukan tiga pertanyaan. Pertama, politisi dapat menggunakan AI generatif untuk segera menanggapi perkembangan kampanye mereka. Di tahun mendatang, waktu respons dapat dikurangi menjadi beberapa menit, bukan jam atau hari. AI dapat memindai internet, memikirkan taktik, dan melakukan panggilan yang kuat, yang bisa berupa pidato, siaran pers, gambar, lelucon, atau video yang menggembar-gemborkan keunggulan satu kandidat dibandingkan kandidat lainnya.
Kedua, AI dapat menargetkan audiens dengan sangat tepat. Kandidat tidak ingin membuang-buang uang untuk pemilih yang sudah mendukung atau menentang mereka, melainkan ingin menargetkan sejumlah kecil pemilih pemula. Karena tingginya tingkat polarisasi politik di Amerika Serikat, hanya sebagian kecil pemilih yang ragu-ragu. Center for Public Influence telah menerbitkan sebuah laporan tentang bagaimana data dari pemilu AS 2016 dan Cambridge Analytica digunakan untuk menampilkan iklan bertarget berdasarkan "psikologi individu" pengguna media sosial. "Masalah dengan pendekatan ini bukanlah teknologi itu sendiri, tetapi sifat kampanye yang terselubung dan ketidakjujuran yang mencolok dari pesan politiknya. Pemilih yang berbeda menerima pesan yang berbeda, berdasarkan prediksi kepekaan terhadap argumen yang berbeda."
Selain itu, AI dapat mendemokratisasi disinformasi dengan menghadirkan alat kepada orang biasa yang tertarik untuk mempromosikan kandidat pilihan mereka. Seseorang tidak perlu lagi menjadi pemrogram atau profesional video untuk menghasilkan teks, gambar, video, atau program, siapa pun dapat menjadi pembuat konten politik dan berupaya mempengaruhi pemilih atau media. Teknologi baru juga memungkinkan orang untuk memonetisasi ketidakpuasan dan menghasilkan uang dari ketakutan, kecemasan, atau kemarahan orang lain.
Saat ini, teknologi kecerdasan buatan jauh lebih kuat dari sebelumnya, dan meskipun tidak sempurna, ia berkembang dengan cepat dan mudah dipelajari. Pada bulan Mei, CEO OpenAI Sam Altman mengatakan kepada subkomite Senat pada sidang bahwa dia sangat prihatin dengan pemilihan presiden 2024 dan bahwa teknologi "memanipulasi, membujuk, memberikan semacam kemampuan untuk berinteraksi dengan disinformasi" adalah “bidang perhatian yang penting.”
Dorong untuk membangun "pagar" baru
Namun, karena konten buatan AI yang semakin canggih sering muncul di jejaring sosial, sebagian besar platform jejaring sosial ini tidak mau atau tidak dapat mengawasinya. Ben Colman, kepala eksekutif Reality Defender, yang menyediakan layanan deteksi konten buatan AI, mengatakan celah peraturan memungkinkan konten buatan AI yang tidak ditandai menyebabkan "kerusakan permanen" sebelum dapat diatasi.
"Untuk jutaan pengguna yang telah melihat dan membagikan konten palsu, menjelaskan bahwa itu palsu setelah faktanya sudah terlambat dan tidak banyak berpengaruh," tambah Coleman.
Banyak konsultan politik, peneliti pemilu, dan pembuat undang-undang mengatakan pembuatan pagar pembatas baru, seperti undang-undang untuk mengatur periklanan sintetik, adalah prioritas utama. Pertahanan yang ada, seperti aturan dan layanan media sosial yang mengklaim dapat mendeteksi konten AI, telah gagal membendung arus secara efektif.
Rep. Yvette D. Clarke, seorang Demokrat dari New York, mengatakan dalam sebuah pernyataan bulan lalu bahwa siklus pemilihan 2024 "akan menjadi pemilihan pertama di mana konten yang dihasilkan AI berlaku." Dia dan Demokrat kongres seperti Senator Amy Klobuchar dari Minnesota telah memperkenalkan undang-undang yang akan mewajibkan iklan politik untuk mengungkapkan penggunaan konten yang dihasilkan oleh AI. RUU serupa baru-baru ini ditandatangani menjadi undang-undang di negara bagian Washington.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Pemilu AS pertama di era AI generatif: Kesenjangan peraturan dapat membawa perubahan besar pada politik global
Sumber: Makalah
Reporter Fang Xiao Magang Chen Xiaorui
Beberapa kampanye politik mulai menggunakan email penggalangan dana dan citra promosi yang dihasilkan oleh AI, sebuah fenomena yang baru saja menyusup perlahan beberapa bulan yang lalu, tetapi sekarang telah menyatu menjadi aliran besar dan mulai menulis ulang aturan main dalam pemilihan demokratis di seluruh dunia.
AI dapat mempercepat erosi kepercayaan pada media, pemerintah, dan masyarakat, memperdalam bias dan memperlebar perpecahan partisan, mendorong pemilih lebih dalam ke dalam gelembung informasi yang terpolarisasi. Membangun pagar pembatas baru adalah prioritas.
Teknologi kecerdasan buatan (AI) secara bertahap terlibat dalam beberapa aspek kampanye politik. Menjelang pemilihan presiden AS 2024, teknologi AI semakin banyak digunakan dalam kampanye politik. Beberapa kampanye menggunakan gambar, video, dan teks palsu yang dibuat oleh AI untuk menyesatkan pemilih, memperdalam prasangka, dan melemahkan persaingan yang sehat. Saat ini, Amerika Serikat tidak memiliki undang-undang dan peraturan yang efektif untuk mengatasi tantangan ini. Kesenjangan aturan pemilu telah membawa perubahan besar pada pemilihan presiden, yang terkait dengan politik AS bahkan global.
Para ahli khawatir teknologi tersebut dapat mempercepat erosi kepercayaan pada media, pemerintah, dan masyarakat. Video palsu yang tidak menyenangkan, email yang berisi cerita palsu, atau gambar palsu kerusakan kota dapat memperdalam prasangka dan memperlebar perpecahan partisan dengan menunjukkan kepada pemilih apa yang ingin mereka lihat. Orang mungkin terjebak lebih dalam lagi dalam gelembung informasi yang terpolarisasi, hanya mempercayai sumber yang mereka pilih untuk dipercaya. Ini menyajikan gambaran yang mirip dengan pemilu AS 2016 yang membawa Trump ke tampuk kekuasaan.
Dari infiltrasi lambat hingga torrent besar
Pemilihan presiden AS 2024 akan menjadi pemilihan AS pertama sejak AI generatif memengaruhi manusia secara luas. Menurut laporan "New York Times" pada 25 Juni, beberapa kampanye politik mulai menggunakan email penggalangan dana dan gambar promosi yang dihasilkan oleh AI. Aturan main untuk pemilihan yang demokratis.
Misalnya, Komite Nasional Republik AS merilis video setelah Presiden Biden mengumumkan pencalonannya kembali, di mana gambar yang disintesis oleh kecerdasan buatan menunjukkan akhir dunia setelah Biden terpilih kembali; Gubernur Florida Ron DeSantis (Ron DeSantis) Menggunakan AI untuk menyintesis gambar, foto palsu mantan Presiden Trump dan mantan pejabat kesehatan Dr. Anthony Fauci diposting di platform sosial; Partai Demokrat mencoba pesan penggalangan dana yang dirancang oleh AI pada musim semi dan menemukan bahwa pesan itu seringkali lebih akurat daripada yang ditulis oleh manusia. Tulis salinan yang lebih mendorong partisipasi dan donasi pemilih; pada bulan April, seorang kandidat dalam pemilihan walikota Chicago mengeluh bahwa akun Twitter yang menyamar sebagai outlet berita menggunakan kecerdasan buatan dengan cara yang menyarankan dia memaafkan kebrutalan polisi Mengkloning suaranya.
Beberapa politisi percaya bahwa teknologi AI dapat membantu mengurangi biaya kampanye. Misalnya, ini dapat digunakan untuk memberikan tanggapan instan terhadap pertanyaan debat atau iklan yang menyinggung, atau untuk menganalisis beberapa data yang memerlukan analisis ahli yang mahal.
Kandidat konservatif Anthony Furey menggunakan gambar yang dihasilkan kecerdasan buatan sebagai materi kampanye dalam pemilihan walikota Toronto pada 26 Juni, termasuk satu yang menunjukkan jalan kota yang dipagari dengan apa yang tampak seperti seorang tunawisma yang berkemah di sebelah sebuah bangunan, tetapi melihat lebih dekat ke latar depan mengungkapkan seseorang yang lebih mirip rendering; foto lain menunjukkan dua orang yang tampaknya sedang berdiskusi penting, dan yang di sebelah kiri memiliki tiga lengan. Terlepas dari serangan dari para pesaingnya, gambar komposit memperkuat profil Fury dalam pemilihan walikota 101 lapangan.
"Skeptisisme yang sehat mendorong kebiasaan baik (seperti membaca lateral dan mencari sumber yang dapat dipercaya), dan teknologi ini dapat mendorong pergeseran dari skeptisisme yang sehat ke skeptisisme yang tidak sehat sehingga orang tidak mungkin mengetahui apa yang nyata."
Bagaimana AI Dapat Mempengaruhi Pemilu AS 2024
Institut Konsultan Politik Amerika baru-baru ini mengutuk penggunaan deepfake dalam kampanye politik sebagai pelanggaran etika. Larry Huynh, presiden kelompok tersebut, berkata: "Orang-orang tergoda untuk membuka amplop dan melihat apa yang dapat mereka lakukan dengan berbagai hal. Seperti alat apa pun, mereka dapat digunakan untuk tujuan atau perilaku buruk untuk menipu pemilih, menyesatkan pemilih, membuat pemilih mempercayai hal-hal yang tidak ada."
"Jika seseorang dapat membuat kegaduhan, menciptakan ketidakpastian, atau membuat narasi yang salah, itu bisa menjadi cara yang efektif untuk mempengaruhi pemilih dan memenangkan pemilihan," kata Darrell M. West, seorang peneliti senior di Brookings Institution M. West, menulis dalam sebuah laporan di bulan Mei tahun ini, "Karena pemilihan presiden 2024 mungkin bergantung pada puluhan ribu pemilih di beberapa negara bagian, apa pun yang dapat mengarahkan orang ke satu arah atau lainnya mungkin Pada akhirnya itu adalah faktor penentu."
Laporan, "Bagaimana Kecerdasan Buatan Akan Mengubah Pemilu 2024," mengajukan tiga pertanyaan. Pertama, politisi dapat menggunakan AI generatif untuk segera menanggapi perkembangan kampanye mereka. Di tahun mendatang, waktu respons dapat dikurangi menjadi beberapa menit, bukan jam atau hari. AI dapat memindai internet, memikirkan taktik, dan melakukan panggilan yang kuat, yang bisa berupa pidato, siaran pers, gambar, lelucon, atau video yang menggembar-gemborkan keunggulan satu kandidat dibandingkan kandidat lainnya.
Kedua, AI dapat menargetkan audiens dengan sangat tepat. Kandidat tidak ingin membuang-buang uang untuk pemilih yang sudah mendukung atau menentang mereka, melainkan ingin menargetkan sejumlah kecil pemilih pemula. Karena tingginya tingkat polarisasi politik di Amerika Serikat, hanya sebagian kecil pemilih yang ragu-ragu. Center for Public Influence telah menerbitkan sebuah laporan tentang bagaimana data dari pemilu AS 2016 dan Cambridge Analytica digunakan untuk menampilkan iklan bertarget berdasarkan "psikologi individu" pengguna media sosial. "Masalah dengan pendekatan ini bukanlah teknologi itu sendiri, tetapi sifat kampanye yang terselubung dan ketidakjujuran yang mencolok dari pesan politiknya. Pemilih yang berbeda menerima pesan yang berbeda, berdasarkan prediksi kepekaan terhadap argumen yang berbeda."
Selain itu, AI dapat mendemokratisasi disinformasi dengan menghadirkan alat kepada orang biasa yang tertarik untuk mempromosikan kandidat pilihan mereka. Seseorang tidak perlu lagi menjadi pemrogram atau profesional video untuk menghasilkan teks, gambar, video, atau program, siapa pun dapat menjadi pembuat konten politik dan berupaya mempengaruhi pemilih atau media. Teknologi baru juga memungkinkan orang untuk memonetisasi ketidakpuasan dan menghasilkan uang dari ketakutan, kecemasan, atau kemarahan orang lain.
Saat ini, teknologi kecerdasan buatan jauh lebih kuat dari sebelumnya, dan meskipun tidak sempurna, ia berkembang dengan cepat dan mudah dipelajari. Pada bulan Mei, CEO OpenAI Sam Altman mengatakan kepada subkomite Senat pada sidang bahwa dia sangat prihatin dengan pemilihan presiden 2024 dan bahwa teknologi "memanipulasi, membujuk, memberikan semacam kemampuan untuk berinteraksi dengan disinformasi" adalah “bidang perhatian yang penting.”
Dorong untuk membangun "pagar" baru
Namun, karena konten buatan AI yang semakin canggih sering muncul di jejaring sosial, sebagian besar platform jejaring sosial ini tidak mau atau tidak dapat mengawasinya. Ben Colman, kepala eksekutif Reality Defender, yang menyediakan layanan deteksi konten buatan AI, mengatakan celah peraturan memungkinkan konten buatan AI yang tidak ditandai menyebabkan "kerusakan permanen" sebelum dapat diatasi.
"Untuk jutaan pengguna yang telah melihat dan membagikan konten palsu, menjelaskan bahwa itu palsu setelah faktanya sudah terlambat dan tidak banyak berpengaruh," tambah Coleman.
Banyak konsultan politik, peneliti pemilu, dan pembuat undang-undang mengatakan pembuatan pagar pembatas baru, seperti undang-undang untuk mengatur periklanan sintetik, adalah prioritas utama. Pertahanan yang ada, seperti aturan dan layanan media sosial yang mengklaim dapat mendeteksi konten AI, telah gagal membendung arus secara efektif.
Rep. Yvette D. Clarke, seorang Demokrat dari New York, mengatakan dalam sebuah pernyataan bulan lalu bahwa siklus pemilihan 2024 "akan menjadi pemilihan pertama di mana konten yang dihasilkan AI berlaku." Dia dan Demokrat kongres seperti Senator Amy Klobuchar dari Minnesota telah memperkenalkan undang-undang yang akan mewajibkan iklan politik untuk mengungkapkan penggunaan konten yang dihasilkan oleh AI. RUU serupa baru-baru ini ditandatangani menjadi undang-undang di negara bagian Washington.