Penulis adalah pengasas Diayaktapak yang disokong FT tentang syarikat permulaan Eropah
Sejak orang Yunani purba mengimpikan mitos Prometheus, manusia telah berhujah tentang sifat dua teknologi. Api yang dicuri oleh Prometheus daripada tuhan boleh menghangatkan manusia, tetapi juga membakar kita. Begitu juga dengan penggunaan sistem kecerdasan buatan yang meluas hari ini. Juara AI telah lama berhujah bahawa teknologi tujuan umum ini akan menghasilkan lonjakan produktiviti dan kreativiti yang tidak pernah berlaku sebelum ini; pengkritiknya bimbang ia membawa risiko masa kini yang membimbangkan dan mungkin menimbulkan ancaman wujud kepada manusia pada masa hadapan.
Keluaran tahun lepas model AI generatif yang berkuasa, seperti ChatGPT dan Dall-E 2 yang dibangunkan oleh OpenAI, telah menghidupkan semula perdebatan yang membara itu. Lebih daripada 100 juta pengguna telah pun mengalami perkara pelik dan menakjubkan yang boleh dilakukan oleh model generatif jenis ini: mencapai tahap pengiktirafan dan replikasi teks dan imej hampir manusia, mencipta bersama kod komputer dan menghasilkan foto viral palsu Pope dalam warna putih jaket puffer.
Dalam catatan baru-baru ini, Bill Gates, pengasas bersama Microsoft yang bertukar menjadi dermawan, berkata dia menyaksikan dengan “kagum” pada September lalu ketika model OpenAI mendapat peperiksaan biologi lanjutan, meramalkan teknologi itu boleh membawa manfaat yang besar kepada bidang penjagaan kesihatan dan pendidikan. Laporan penyelidikan daripada Goldman Sachs, yang diterbitkan minggu ini, meramalkan bahawa penggunaan AI yang meluas boleh meningkatkan produktiviti buruh dengan ketara dan meningkatkan keluaran dalam negara kasar tahunan global sebanyak 7 peratus.
Tetapi perkembangan pesat dan penggunaan sistem AI generatif yang semakin meluas juga telah membimbangkan ramai. Beberapa penyelidik Google sendiri, seperti Timnit Gebru dan Margaret Mitchell, adalah antara yang pertama membenderakan bahaya model AI generatif syarikat itu dalam kecenderungan masyarakat sedia ada, tetapi mereka kemudiannya dipecat. Minggu ini, dalam surat terbuka yang disiarkan oleh Future of Life Institute, lebih daripada 1,100 penandatangan, termasuk beberapa penyelidik AI terkemuka, menguatkan penggera. Mereka menggesa moratorium enam bulan ke atas pembangunan model termaju sehingga rejim tadbir urus yang lebih baik dapat dilaksanakan. Tanpa kawalan, mesin ini mungkin membanjiri internet dengan perkara yang tidak benar, mengautomasikan pekerjaan yang bermakna dan malah mengancam tamadun. “Keputusan sedemikian tidak seharusnya diserahkan kepada pemimpin teknologi yang tidak dipilih,” kata penulis surat itu.
Sekurang-kurangnya tiga utas perlu dibuka di tengah-tengah kontroversi itu. Yang pertama, dan paling mudah untuk diketepikan, ialah panik moral yang mengiringi hampir setiap teknologi baharu, sama ada kereta api wap, elektrik, kereta bermotor atau komputer. Malah ciptaan Benjamin Franklin mengenai penangkal petir yang kelihatan tidak berbahaya pada mulanya ditentang oleh para penatua Gereja kerana bimbang ia mengganggu “artileri syurga”. Sebagai peraturan, adalah lebih baik untuk membahaskan cara menggunakan teknologi bernilai komersial dengan sewajarnya daripada mengutuk kedatangan mereka.
Yang kedua ialah bagaimana kepentingan komersial cenderung bertepatan dengan pendirian moral. OpenAI bermula pada 2015 sebagai makmal penyelidikan bukan untung, berjanji untuk bekerjasama dengan rakan kongsi luar untuk memastikan pembangunan AI yang selamat. Tetapi pada tahun 2019 OpenAI bertukar kepada model keuntungan terhad, membolehkannya meningkatkan pembiayaan modal teroka dan mengeluarkan pilihan saham untuk menarik penyelidik AI terkemuka. Sejak itu, ia telah menarik pelaburan besar daripada Microsoft dan menjadi lebih kepada entiti komersial yang tertutup. Walau bagaimanapun, sekurang-kurangnya beberapa kritikan datang daripada pesaing yang berminat untuk memperlahankan pembangunan OpenAI.
Tetapi urutan ketiga dan paling penting ialah ramai pakar AI yang serius, yang mengetahui dengan baik dengan penemuan terkini, benar-benar mengambil berat tentang kelajuan dan arah perjalanan. Kebimbangan mereka diperbesarkan oleh trend di kalangan beberapa syarikat teknologi besar, seperti Microsoft, Meta, Google dan Amazon, untuk mengecilkan pasukan etika mereka.
Seperti yang ditulis Gates dalam jawatannya, kuasa pasaran sahaja tidak akan menangani ketidaksamaan masyarakat. Organisasi masyarakat sivil bergerak pantas dan beberapa kerajaan menyasarkan untuk menetapkan peraturan yang lebih jelas. Minggu ini, UK menerbitkan draf undang-undang pro-inovasi mengenai AI, manakala EU sedang merangka arahan yang lebih tegas untuk mengawal penggunaan teknologi dalam domain berisiko tinggi. Tetapi buat masa ini usaha ini kelihatan lebih daripada mengibarkan bendera merah kecil di kereta api yang memecut.
Melainkan syarikat yang menerajui revolusi AI boleh membuktikan dengan pasti model mereka direka untuk sejajar dengan kepentingan terbaik manusia, mereka boleh menjangkakan tindak balas orang ramai yang jauh lebih sengit. Institusi bebas pakar yang mempunyai kuasa untuk mengaudit algoritma syarikat AI, dan menyekat penggunaannya, harus menjadi agenda seterusnya.
