Sejak beberapa bulan lalu, pelbagai insiden telah dilaporkan membabitkan 'salah laku' sistem kecerdasan buatan (AI). Ia sekaligus menimbulkan kebimbangan mengenai risiko teknologi itu di masa hadapan.
AI Boleh Cetus Insiden 'Besar'
Terbaru, Pengerusi Google DeepMind, Demis Hassabis pada Rabu memberi amaran bahawa AI berpotensi menyebabkan insiden keselamatan 'besar' dalam tempoh dua tahun akan datang sekiranya langkah keselamatan yang mencukupi tidak diambil seiring dengan perkembangan keupayaan teknologi tersebut.
Ketika berucap pada sebuah persidangan AI di Dublin, Hassabis menyifatkan beberapa insiden yang berlaku baru-baru ini sebagai amaran awal daripada sistem AI yang menurutnya masih belum begitu berkuasa.
“Jadi, insiden yang berlaku setakat ini tidaklah begitu besar.
“Namun, ia berpotensi menjadi lebih serius menjelang tahun depan dan dalam tempoh beberapa tahun akan datang sekiranya kita tidak melakukan lebih banyak usaha, sama ada sebagai sebuah industri, syarikat mahupun kerajaan, untuk memastikan keselamatan sistem-sistem ini,” katanya.
Kebimbangan terhadap keselamatan AI semakin meningkat selepas model yang dibangunkan oleh OpenAI dan Anthropic terlibat dalam beberapa insiden keselamatan ketika menjalani ujian, sekali gus meningkatkan tekanan supaya teknologi tersebut dikawal selia dengan lebih ketat.
Hassabis berkata, model AI baharu sepatutnya diuji terlebih dahulu dalam persekitaran terkawal tanpa sambungan internet, yang dikenali sebagai sandbox, susulan kejadian model AI daripada syarikat lain berjaya keluar daripada persekitaran tertutup yang digunakan untuk menilai keupayaannya.
Sementara itu, Ketua Teknologi Kesatuan Eropah (EU), Henna Virkkunen berkata, syarikat AI perlu meluangkan lebih banyak masa untuk menguji sistem masing-masing bagi memastikan teknologi tersebut kekal berada di bawah kawalan manusia.
“Persaingan di peringkat global begitu sengit sehingga kelihatan semua syarikat tidak memperuntukkan masa dan sumber yang mencukupi untuk benar-benar menguji model mereka,” kata Virkkunen kepada pemberita ketika tiba di sidang kemuncak Dublin.
“Mereka mesti berupaya mengawal sistem-sistem ini,” katanya.
Beliau turut memaklumkan bahawa Kesatuan Eropah telah menghantar permintaan maklumat kepada semua syarikat AI utama bagi mendapatkan penjelasan mengenai langkah keselamatan dan perlindungan yang dilaksanakan oleh syarikat masing-masing.
Suruhanjaya Eropah memperoleh kuasa kawal selia baharu pada Ogos lalu menerusi Akta AI (AI Act), yang dianggap sebagai antara peraturan paling menyeluruh di dunia bagi membendung penggunaan teknologi AI yang berpotensi mendatangkan bahaya.
