Ketika Venezuela bersiap sedia untuk musim karnival bulan lalu, video berbahasa Inggeris telah diterbitkan di saluran YouTube “House of News”. Penyampainya Noah memuji ledakan pelancongan yang dikatakan apabila berjuta-juta rakyat berduyun-duyun ke pulau Caribbean di negara itu untuk berpesta.
Laporan itu, yang diedarkan secara meluas dalam media yang menyokong kerajaan sosialis Presiden Nicolás Maduro, mencadangkan dakwaan mengenai kemiskinan yang meluas di Venezuela yang kaya dengan minyak telah “dibesar-besarkan”.
Satu lagi laporan mendakwa bahawa kerajaan sementara anti-Maduro telah terlibat dalam dakwaan salah urus dana $152 juta sebelum pembubarannya baru-baru ini, dengan Emma, penyampai, menyimpulkan bahawa “Rakyat Venezuela sebenarnya tidak merasakan terdapat sebarang penentangan terhadap kerajaan”.
Tetapi kedua-dua cerita itu palsu, dan kedua-dua pembaca berita itu tidak wujud. Ia adalah avatar, berdasarkan pelakon sebenar, yang dihasilkan menggunakan teknologi daripada Synthesia, sebuah syarikat kecerdasan buatan yang berpangkalan di London. Aksen Amerika mereka telah disintesis, wajah bercakap mereka dihasilkan oleh algoritma pembelajaran mesin.
Minggu lalu, YouTube menggantung lima akaun, termasuk House of News, yang telah berkongsi maklumat salah sejajar dengan kerajaan. Tetapi kemunculan deepfakes dan media yang dijana AI mewakili sempadan baharu dalam kempen propaganda dan maklumat salah Venezuela, menimbulkan kebimbangan tentang potensi pengaruh ke atas populasi yang mempunyai akses yang kurang kepada berita yang boleh dipercayai kerana penapisan yang meluas dalam dan luar talian.
“Di Venezuela, terdapat padang pasir maklumat di mana maklumat salah boleh berkembang maju,” kata Adrián González, pengarah Cazadores de Fake News, pemantau maklumat salah yang berpangkalan di Caracas. “Dan kini teknologi ada untuk membuat video berita palsu yang meyakinkan.”
González berkata rangkaian cawangan di Venezuela yang mengedarkan propaganda adalah luas, daripada media rasmi, media bebas tetapi bersekutu dan penyalur berita palsu. Di media sosial, poster telah menggunakan alat automasi untuk meningkatkan titik perbincangan kerajaan, membantu siaran menjangkau khalayak terbesar.
Sepanjang tahun lalu, teknologi AI generatif — perisian yang boleh mencipta imej, video dan teks berdasarkan gesaan dan penerangan pengguna — telah semakin popular. Produk seperti Dall-E dan ChatGPT diterima pakai secara meluas oleh pengguna daripada pelajar sekolah hingga pengaturcara komputer elit.
Tetapi terdapat juga kebimbangan mengenai potensi perisian untuk menghasilkan maklumat yang salah. Contoh pertukaran yang didokumenkan dengan ejen AI generatif seperti chatbots menunjukkan cara mereka memuntahkan maklumat palsu, yang dikenali sebagai “halusinasi”, memaparkan teori konspirasi berat sebelah dan muncung.
Teknologi Synthesia, berdasarkan jenis teknik AI yang dikenali sebagai pembelajaran mendalam, menghasilkan video yang menampilkan avatar. Avatar ini bercakap daripada skrip yang dijana pengguna, dalam pelbagai bahasa, dan video boleh dibuat dalam masa 10 minit. Ia mengatakan ia menghasilkan kira-kira 10,000 video sebulan dan pelanggannya terdiri daripada syarikat pengiklanan WPP kepada NHS UK, yang menggunakannya untuk mencipta video maklumat kesihatan dalam bahasa yang berbeza. Permulaan itu telah mengumpulkan $66juta daripada pelabur Silicon Valley termasuk Kleiner Perkins dan GV, sebelum ini Google Ventures.
Synthesia berkata pelanggan Venezuela itu telah dilarang daripada menggunakan perkhidmatannya sebaik sahaja video itu ditemui di Twitter oleh salah seorang pekerja syarikat itu. “Kami mempunyai garis panduan yang ketat untuk jenis kandungan yang kami benarkan untuk dibuat pada platform kami. Kami menguatkuasakan syarat perkhidmatan kami dan melarang pengguna yang melanggarnya,” katanya.
Synthesia menambah bahawa ia telah melaksanakan sekatan baharu terhadap penggunaan teknologinya, termasuk pengharaman semua kandungan gaya laporan berita, tera air digital yang akan menandakan video sebagai dijana AI dan proses semakan yang lebih ketat untuk setiap video.
Synthesia telah menghadapi contoh penyalahgunaan yang lain. Pada bulan Januari, video salah maklumat politik yang dijana oleh syarikat itu didapati beredar di Mali, dan bulan lalu penganalisis maklumat yang berpangkalan di AS, Graphika menemui operasi pro-China mempromosikan video yang dihasilkan oleh Synthesia.
Menurut garis panduan etikanya, Synthesia berkata ia hanya akan mengeluarkan produknya kepada “pelanggan yang dipercayai” selepas “proses pemeriksaan dalaman yang eksplisit”. Apabila ditanya mengapa dasar ini gagal dalam kes Venezuela, syarikat itu berkata ia telah mengukuhkan peraturannya supaya pasukan penyederhana kandungan kecilnya dapat melihat sama ada permintaan pengguna sebelum ini telah ditolak, untuk membantu menandakan potensi penyalahgunaan dan pesalah semula.
Maklumat yang boleh dipercayai adalah sumber yang terhad di Venezuela, yang mempunyai rizab minyak terbukti terbesar di dunia tetapi dibebani dengan inflasi pada kadar tahunan 350 peratus tahun ini, menurut penyelidik tempatan Ecoanalítica. Makanan asas dan ubat-ubatan selalunya terhad atau sangat mahal. Sekatan ketat yang dikenakan oleh AS pada 2019 telah mengehadkan ruang kerajaan untuk bergerak walaupun kawalan mata wang telah dilonggarkan. Lebih daripada 7 juta rakyat Venezuela telah meninggalkan negara itu sejak 2015.
Ekonomi menunjukkan tanda-tanda peningkatan sederhana tetapi kerajaan Maduro telah menjadi lebih autoritarian selama sedekad berkuasa, mengekang perbezaan pendapat sambil memilih atau menutup media berita tradisional. Akhbar terkemuka El Nacional menghentikan edisi cetakannya pada 2018. Tahun lepas, penyedia perkhidmatan internet yang dikawal oleh kerajaan dan swasta menyekat akses kepada tapak berita bebas.
Tentera pengguna di Twitter dan platform lain membantu mempromosikan agenda Maduro. ProBox, sebuah organisasi masyarakat sivil yang menjejaki maklumat salah di media sosial di Venezuela, telah mendokumentasikan kes kerajaan memberi ganjaran kepada orang yang mempromosikan perkara bercakap rejim melalui sistem kredit sosial yang dikenali sebagai “kad tanah air”.
Topik biasa yang digalakkan termasuk pemulihan ekonomi, keadaan hidup yang bertambah baik dan kelemahan pembangkang yang retak. Akaun kerajaan berkongsi propaganda, yang tersebar secara bebas di media sosial. Video House of News menerima ratusan ribu tontonan di YouTube. Penyiar negeri juga menyiarkannya.
Kandungannya mungkin sangat meyakinkan, kata ketua ProBox Maria Virginia Marin.
“Apabila anda mempunyai seorang wartawan yang bercakap dalam bahasa Inggeris dalam apa yang kelihatan seperti media antarabangsa dan menjual anda realiti yang anda tidak nampak, ia menimbulkan persoalan bahawa ia mungkin wujud dan anda berada di luar daripadanya,” dia berkata.
Video itu sebahagiannya disasarkan kepada khalayak antarabangsa, tambah Marín. “Matlamatnya adalah untuk mengacaukan perdebatan antarabangsa mengenai Venezuela, dan menutup realiti apa yang berlaku di sini.”
