Seorang penyelidik kecerdasan buatan (AI) yang meninggalkan OpenAI untuk menyertai Anthropic memutuskan untuk meninggalkan industri berkenaan selepas menuduh kedua-dua syarikat dari Amerika Syarikat itu “mempermainkan nyawa kita” dalam perlumbaan membangunkan model AI yang mampu memperbaiki keupayaannya sendiri.
Jacob Coxon, 27, menghabiskan tempoh tiga tahun lalu melatih model AI, bermula di OpenAI sebelum menyertai pesaingnya, Anthropic, pada tahun ini yang dilihatnya lebih berhati-hati dalam pendekatan terhadap pembangunan AI.
Pra-latihan (pretraining) merupakan peringkat apabila model AI menyerap sejumlah besar data.
“Tiada satu pun daripada kedua-dua syarikat itu bertindak secara bertanggungjawab. Mereka berlumba terus menuju kecerdasan super yang mampu memperbaiki dirinya sendiri dan mempertaruhkan nyawa kita,” kata Coxon pada Selasa.
“Orang yang membangunkan AI benar-benar percaya bahawa teknologi ini boleh membunuh kita semua menjelang penghujung dekad ini,” katanya menerusi satu hantaran di X.
“Ini bukan gimik pemasaran,” tambahnya.
Kecerdasan super (superintelligence) merujuk kepada tahap teori apabila keupayaan AI melebihi kecerdasan manusia.
Eksekutif keselamatan Anthropic, Evan Hubinger, turut menyokong kenyataan Coxon menerusi X.
“Kami benar-benar percaya AI boleh membunuh semua manusia!” katanya, sambil menganggarkan risiko tersebut melebihi 10 peratus dalam tempoh 10 tahun akan datang.
Hubinger berkata Anthropic “sedang berusaha sebaik mungkin”, namun syarikat itu masih belum mempunyai pelan untuk memastikan sistem AI yang melepasi keupayaan manusia akan mematuhi arahan penciptanya.
Bagaimanapun, beliau berkata risiko berkenaan masih rendah bagi model AI yang ada ketika ini.
Peletakan jawatan Coxon berlaku ketika Anthropic sedang membuat persiapan untuk penyenaraian sahamnya, selepas musim panas yang menyaksikan beberapa serangan penggodaman tanpa kebenaran dilakukan oleh alat AI ketika proses ujian.
Kedua-dua syarikat berkenaan tidak segera memberikan respons terhadap permintaan komen oleh AFP.
Bimbang AI Mampu Memperbaiki Diri Sendiri
Pemimpin industri AI berkata apa yang dikenali sebagai recursive self-improvement atau penambahbaikan kendiri secara berulang semakin hampir menjadi kenyataan.
Ia merujuk kepada tahap apabila sistem AI berupaya mereka bentuk dan melatih generasi AI seterusnya dengan penglibatan manusia yang sangat minimum.
Coxon mengakui usaha Anthropic berkaitan keselamatan adalah serius, namun beliau berpandangan tiada syarikat mampu membangunkan AI yang melebihi kecerdasan manusia secara bertanggungjawab tanpa campur tangan kerajaan atau penyelarasan untuk memperlahankan pembangunan teknologi tersebut.
“Di Anthropic, mereka benar-benar memahami pertaruhannya, tetapi mereka terperangkap dalam perlumbaan untuk menjadi yang pertama sampai ke tahap itu. Mereka percaya tiada pihak lain akan bertindak secara bertanggungjawab, jadi mereka perlu melakukannya sendiri walaupun menyedari risikonya,” katanya.
Pada Februari lalu, Anthropic menarik balik ikrar dalam piagam keselamatannya untuk menghentikan pembangunan model sekiranya syarikat itu gagal mengawal risikonya.
Syarikat tersebut menjelaskan bahawa jika ia menghentikan usaha pembangunan secara unilateral, pesaing yang kurang berhati-hati akan menguasai industri, sekali gus menjadikan keadaan keselamatan AI lebih buruk secara keseluruhan.
Seruan Perlahankan Pembangunan AI
Pada penghujung Julai, lebih 1,000 pekerja industri teknologi termasuk Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menggesa Washington menyokong usaha menyelaras langkah memperlahankan pembangunan sistem AI paling maju.
OpenAI pula menghentikan latihan model terbaharunya selama dua minggu pada Ogos sebelum menyambung semula proses berkenaan dengan kawalan yang lebih ketat.
Pada Ahad, Ketua Saintis OpenAI, Jakub Pachocki, menggesa supaya “berhati-hati pada tahap ekstrem” dalam pembangunan AI.
“Penyelarasan antarabangsa mengenai pembangunan AI pada masa depan perlu menjadi keutamaan utama kerajaan di seluruh dunia,” katanya dalam satu catatan blog.
Ketika ini, model AI tidak dikawal selia menerusi undang-undang persekutuan di Amerika Syarikat.
Pada September, Senator Bernie Sanders dan Ahli Dewan Perwakilan Demokrat, Greg Casar, memperkenalkan rang undang-undang yang mahu menggantung pembangunan AI sehingga sebuah badan pengawal selia persekutuan diwujudkan.
Sumber: AFP
