AI boleh mempercepatkan disinformasi dan mengganggu pilihan raya EU, pakar-pakar beri amaran
BRUSSELS (AP) — Pengundi-pengundi di Kesatuan Eropah dijangka memilih wakil rakyat bermula dari hari Khamis untuk parlimen blok tersebut, dalam satu latihan demokrasi besar yang juga mungkin akan diganggu oleh disinformasi dalam talian.
Pakar-pakar telah memberi amaran bahawa kecerdasan buatan boleh mempercepatkan penyebaran berita palsu yang boleh mengganggu pilihan raya di EU dan banyak negara lain tahun ini. Tetapi kadar bahayanya terutamanya tinggi di Eropah, yang telah menghadapi usaha propaganda Rusia semasa peperangan Moscow dengan Ukraine terus berlanjut.
Di sini pandangan lebih dekat:
APAKAH YANG BERLAKU?
Kira-kira 360 juta orang di 27 negara — dari Portugal ke Finland, Ireland ke Cyprus — akan memilih 720 wakil rakyat Parlimen Eropah dalam pilihan raya yang berlangsung dari Khamis hingga Ahad. Dalam bulan-bulan menjelang pengundian, pakar-pakar telah menyaksikan peningkatan jumlah dan kualiti berita palsu dan disinformasi anti-EU yang tersebar di negara-negara ahli.
Satu kebimbangan besar adalah pengelabuan pengundi akan menjadi lebih mudah daripada sebelumnya, dimungkinkan oleh alatan AI baru yang menjadikan ianya mudah untuk mencipta kandungan yang menyesatkan atau palsu. Sebahagian daripada aktiviti yang jahat ini adalah domestik, sebahagian antarabangsa. Rusia paling banyak dituduh, dan kadang-kadang China, walaupun bukti kukuh yang secara langsung menarik kesimpulan serangan sedemikian sukar diakui.
“Kempen Rusia yang disokong negara untuk membanjiri ruang maklumat EU dengan kandungan penipuan adalah ancaman kepada cara kita biasanya berdebat tentang demokrasi kita, terutamanya dalam masa pilihan raya,” Josep Borrell, ketua dasar luar EU, memperingatkan pada Isnin.
Beliau berkata usaha “pengubahan maklumat” Rusia sedang mengambil kesempatan daripada penggunaan media sosial yang semakin meningkat “dan operasi AI murah.” Bots digunakan untuk menggalakkan kempen fitnah terhadap pemimpin politik Eropah yang kritikal terhadap Presiden Rusia Vladimir Putin, katanya.
SUDAH ADA DISINFO YANG BERLAKU?
Telah banyak contoh disinformasi berkaitan pilihan raya.
Dua hari sebelum pilihan raya kebangsaan di Sepanyol bulan Julai lalu, laman web palsu telah didaftarkan yang meniru satu laman web yang dikelolakan oleh pihak berkuasa di ibu negara Madrid. Ia menyebarkan satu artikel palsu yang memberi amaran mengenai kemungkinan serangan ke atas pusat mengundi oleh kumpulan separatis militant Basque yang dibubarkan ETA.
Di Poland, dua hari sebelum pilihan raya parlimen Oktober, polis turun ke pusat mengundi sebagai tindak balas terhadap ancaman bom palsu. Akaun media sosial yang dikaitkan dengan apa yang pihak berkuasa panggil “infosfera campur tangan Rusia” mendakwa satu peranti telah meletup.
Hanya beberapa hari sebelum pilihan raya Slovakia bulan November, rakaman audio dihasilkan melalui AI yang meniru seorang calon merangkumi perbualan mengenai rancangan untuk merampas pilihan raya, menyebabkan penegas fakta tergesa-gesa untuk menafikan kebohongan itu sebelum ia tersebar di media sosial.
Minggu lepas, agensi berita kebangsaan Poland membawa laporan palsu yang mengatakan bahawa Perdana Menteri Donald Tusk sedang menggerakkan 200,000 lelaki bermula 1 Julai, dalam satu serangan hack yang pihak berkuasa salahkan kepada Rusia. Agensi Berita Poland “membunuh,” atau menarik, laporan tersebut beberapa minit kemudian dan mengeluarkan kenyataan yang mengatakan bahawa ianya bukan sumber.
Ia adalah “sangat mengganggu, dan sedikit berbeza daripada usaha-usaha lain untuk mencipta disinfomasi dari sumber alternatif,” kata Alexandre Alaphilippe, pengarah eksekutif EU DisinfoLab, kumpulan bukan untung yang mengkaji disinformasi. “Ia meningkatkan pertanyaan terutamanya tentang keselamatan siber pengeluaran berita, yang harus dianggap sebagai infrastruktur kritikal.”
APA TUJUAN DISINFORMASI?
Pakar-pakar dan pihak berkuasa berkata disinformasi Rusia bertujuan untuk mengganggu demokrasi, dengan menghalang pengundi di seluruh EU daripada menghala ke bilik undi.
“Demokrasi kita tidak boleh diambil secukup itu sahaja, dan Kremlin akan terus menggunakan disinformasi, campur tangan jahat, rasuah dan sebarang tipu daya dari buku panduan berketumbuhan untuk memecah Eropah,” Timbalan Presiden Komisyen Eropah Vera Jourova memberi amaran kepada parlimen pada bulan April.
Tusk pula menunjukkan strategi “penstabilan Rusia menjelang pilihan raya Eropah.”
Pada tahap yang lebih luas, tujuan “kempen disinformasi seringkali bukan untuk mengganggu pilihan raya,” kata Sophie Murphy Byrne, pengurus hal ehwal kerajaan kanan di Logically, sebuah syarikat kecerdasan AI. “Ia cenderung menjadi aktiviti berterusan yang direka untuk menarik pemikiran konspirasi dan merosakkan kepercayaan masyarakat,” katanya dalam taklimat dalam talian minggu lalu.
Naratif juga dicipta untuk memupuk ketidakpuasan awam terhadap elit politik Eropah, cuba untuk memecah belahkan komuniti berhubung nilai-nilai keluarga, jantina atau seksualiti, menanam kebimbangan tentang perubahan iklim dan merosakkan sokongan barat terhadap Ukraine, kata pakar dan pengkaji EU.
APAKAH PERUBAHAN YANG TERJADI?
Limah tahun lalu, semasa pilihan raya Kesatuan Eropah terakhir diadakan, kebanyakan disinformasi dalam talian dihasilkan dengan bersungguh-sungguh oleh “ladang troll” yang menggunakan orang bekerja menghasilkan hantaran manipulatif dalam bahasa Inggeris yang terkadang kurang lancar atau memperlihatkan semula rakaman video lama. Kebohongan lebih mudah dikesan.
Sekarang, pakar-pakar telah memperingatkan tentang kebangkitan keupayaan AI generatif yang mereka kata mengancam untuk mempercepatkan penyebaran disinformasi pilihan raya di seluruh dunia. Pihak yang jahat boleh menggunakan teknologi yang sama yang menjadi asas platform yang mudah digunakan, seperti ChatGPT milik OpenAI, untuk mencipta imej deepfake yang kelihatan autentik, video dan audio. Sesesiapa dengan telefon pintar dan fikiran licik boleh berpotensi mencipta kandungan palsu, tetapi meyakinkan, yang bertujuan untuk menipu pengundi.
“Yang berubah sekarang adalah skala yang boleh anda capai sebagai pelakon propaganda,” kata Salvatore Romano, ketua penyelidikan di AI Forensics, sebuah kumpulan penyelidikan bukan untung. Sistem AI generatif kini boleh digunakan untuk menyiarkan imej dan video realistik dan menerbitkannya ke pengguna media sosial secara automatik, katanya.
AI Forensics baru-baru ini menemui rangkaian laman pro-Rusia yang mereka kata mengambil kesempatan daripada kegagalan Meta untuk melakukan moderasi iklan politik di Kesatuan Eropah.
Kandungan yang dipalsukan kini “tidak dapat dibezakan” dari perkara yang sebenar, dan mengambil masa yang lama kepada pakar-pakar pemerhati disinformasi untuk menafikan, kata Romano.
APAKAH TINDAKAN PIHAK BERKUASA TERHADAP HAL INI?
EU menggunakan undang-undang baharu, Akta Perkhidmatan Digital, untuk melawan semula. Undang-undang yang meluas ini menuntut platform untuk mengawal risiko penyebaran disinformasi dan boleh digunakan untuk menjatuhkan tindakan kepada mereka di bawah ancaman denda besar.
Blok itu menggunakan undang-undang itu untuk menuntut maklumat dari Microsoft mengenai risiko yang ditimbulkan oleh chatbot AI Bing Copilot, termasuk kebimbangan tentang “pengendalian terma otomatis perkhidmatan yang boleh menyesatkan pengundi.”
DSA juga telah digunakan untuk menyiasat Meta Platforms pemilik Facebook dan Instagram kerana tidak melakukan cukup untuk melindungi pengguna daripada kempen disinformasi.
EU telah meluluskan undang-undang kecerdasan buatan yang meluas, yang merangkumi keperluan untuk deepfake dilabelkan, tetapi ia tidak akan sampai pada masanya untuk pengundian dan akan berkuat kuasa dalam tempoh dua tahun akan datang.
BAGAIMANA SYARIKAT-SYARIKAT MEDIA SOSIAL MENANGGAPINYA?
Kebanyakan syarikat teknologi telah membual langkah-langkah yang mereka ambil untuk melindungi “kesucian pilihan raya Eropah.”
Meta Platforms — pemilik Facebook, Instagram dan WhatsApp — telah mengatakan akan menubuhkan sebuah pusat operasi pilihan raya untuk mengenal pasti ancaman dalam talian. Mereka juga mempunyai ribuan pemeriksa konten yang bekerja dalam 24 bahasa rasmi EU dan menguatkuasakan dasar-dasar yang lebih ketat berkenaan kandungan yang dihasilkan AI, termasuk pengepalaan dan “penurunan peringkat” kandungan yang dihasilkan AI yang melanggar standard mereka.
Nick Clegg, presiden urusan global Meta, mengatakan tidak ada tanda-tanda bahawa alat AI generatif digunakan secara sistematik untuk mengganggu pilihan raya.
TikTok mengatakan ia akan menubuhkan pusat semak fakta di dalam aplikasi platform perkongsian video tersebut. Pemilik YouTube Google mengatakan mereka bekerjasama dengan kumpulan pemeriksa fakta dan akan menggunakan AI untuk “memerangi penyalahgunaan secara besar-besaran.”
Elon Musk mengambil langkah bertentangan dengan platform media sosialnya X, sebelum ini dikenali sebagai Twitter. “Oh anda maksudkan pasukan ‘Kesucian Pilihan Raya’ yang sedang merosakkan kesucian pilihan raya? Ya, mereka telah pergi,” katanya dalam satu pos pada bulan September.
Sebuah versi terdahulu cerita ini salah mengeja nama diberikan Ketua dasar luar EU, Josep Borrell.
