Elon Musk dan lebih daripada 1,000 penyelidik dan eksekutif teknologi telah meminta “jeda” selama enam bulan pada pembangunan sistem kecerdasan buatan lanjutan seperti GPT OpenAI untuk menghentikan apa yang mereka panggil perlumbaan senjata “berbahaya”.
Surat terbuka, yang diterbitkan pada hari Rabu oleh Future of Life Institute, sebuah kumpulan kempen bukan untung, telah ditandatangani oleh lebih 1,100 individu dari seluruh akademia dan industri teknologi dalam beberapa jam selepas penerbitannya.
“Bulan-bulan kebelakangan ini telah menyaksikan makmal AI dikunci dalam perlumbaan luar kawalan untuk membangun dan menggunakan minda digital yang lebih berkuasa yang tiada siapa – malah pencipta mereka – boleh memahami, meramal atau mengawal dengan pasti,” surat itu menyatakan.
Penandatangan bersama termasuk profesor AI terkemuka Stuart Russell dan Yoshua Bengio, pengasas bersama Apple, Pinterest dan Skype, serta pengasas AI dan Character.ai permulaan AI. The Future of Life Institute, yang menerbitkan surat itu, mengira Musk antara pembiaya terbesarnya dan diketuai oleh Max Tegmark, seorang profesor Institut Teknologi Massachusetts dan penyelidik AI.
“Kami menyeru semua makmal AI untuk segera menjeda sekurang-kurangnya enam bulan latihan sistem AI yang lebih berkuasa daripada GPT-4. Jeda ini hendaklah terbuka dan boleh disahkan, serta merangkumi semua pelakon utama. Jika jeda seperti itu tidak dapat digubal dengan cepat, kerajaan harus mengambil langkah dan memulakan moratorium,” tambah kumpulan itu.
Surat itu menyusuli tergesa-gesa pelancaran AI terobosan sejak lima bulan lalu, termasuk OpenAI’s ChatGPT yang disokong Microsoft pada bulan November dan keluaran GPT-4 bulan ini, model canggih yang menyokong chatbot.
Syarikat seperti Google, Microsoft dan Adobe juga menambah jenis ciri AI baharu pada enjin carian dan alatan produktiviti mereka, dalam satu langkah yang telah meletakkan AI ke tangan berjuta-juta pengguna setiap hari.
Kepantasan pembangunan dan penggunaan awam yang semakin pantas itu telah membimbangkan beberapa penyelidik AI dan pakar etika teknologi tentang potensi kesan terhadap pekerjaan, wacana awam dan — akhirnya — keupayaan manusia untuk bersaing.
Surat itu menggesa penciptaan protokol keselamatan bersama yang diaudit oleh pakar bebas untuk “memastikan sistem yang mematuhinya selamat tanpa keraguan munasabah”.
“Sistem AI dengan kecerdasan daya saing manusia boleh menimbulkan risiko yang mendalam kepada masyarakat dan manusia,” katanya.
Senarai teratas penandatangan surat yang semakin meningkat ialah penyelidik AI Bengio, profesor di Universiti Montreal, dan profesor Berkeley, Russell.
Musk, yang merupakan pengasas bersama OpenAI tetapi meninggalkan pada 2018 dan sejak itu menjadi kritikal terhadap organisasi itu, turut menandatangani surat itu. Yang lain termasuk pengasas bersama Apple Steve Wozniak, pengarang Yuval Noah Harari dan bekas calon presiden AS Andrew Yang.
Ia juga termasuk beberapa jurutera dan penyelidik di Microsoft, Google, Amazon, Meta dan DeepMind milik Alphabet. Tiada sesiapa yang mengenal pasti diri mereka sebagai pekerja OpenAI adalah antara 1,000 orang pertama yang menandatangani surat itu.
Campur tangan itu datang ketika kerajaan di seluruh dunia berlumba-lumba untuk merumuskan tindak balas dasar terhadap bidang AI yang berkembang pesat, walaupun beberapa syarikat Big Tech sedang mengurangkan pasukan etika AI mereka.
UK pada hari Rabu akan menerbitkan kertas putih yang akan meminta pengawal selia sedia ada untuk membangunkan pendekatan yang konsisten terhadap penggunaan AI dalam industri masing-masing, seperti memastikan sistem AI adalah adil dan telus. Bagaimanapun, kerajaan tidak akan memberikan kuasa baharu atau pembiayaan baharu kepada pengawal selia pada peringkat ini.
EU juga sedang menyediakan tindakannya sendiri yang akan mengawal cara AI digunakan di Eropah, dengan denda dijangka bagi syarikat yang melanggar peraturan EU.
