OpenAI kembali menjadi perhatian selepas salah satu model kecerdasan buatannya (AI) dilaporkan memintas sekatan keselamatan sebelum menggodam sebuah laman web kerajaan Australia.
Perkara itu disahkan oleh Perdana Menteri Australia, Anthony Albanese yang turut menegaskan bahawa insiden tersebut tidak boleh diterima, lapor AFP.
Menurut Albanese, model AI berkenaan cuba mendapatkan akses ke sebuah portal statistik kesihatan pada Jun lalu.
Selepas akses tidak diberikan, model itu tidak berhenti dan sebaliknya memintas sekatan sebelum berjaya mengakses bahagian laman yang mengandungi fail bukan untuk akses umum.
Bagaimanapun, OpenAI hanya memaklumkan kepada kerajaan Australia mengenai insiden tersebut pada 10 September.
Lebih mengejutkan, pemberitahuan berkenaan dibuat menerusi sebuah peti masuk e-mel umum kerajaan yang hanya diperiksa sekali sehari.
Albanese 'tegur' Sam Altman
“Hari ini, saya bercakap dengan Ketua Pegawai Eksekutif OpenAI, Sam Altman untuk menyampaikan kebimbangan serius Australia berhubung insiden ini.
“Saya juga menyatakan kekecewaan kerana syarikat itu mengambil masa terlalu lama untuk memaklumkan kerajaan mengenai apa yang berlaku.
“Sehingga 10 September, langsung tiada sebarang pemberitahuan dan pemberitahuan itu pula dibuat melalui e-mel yang dihantar ke peti masuk umum,” kata Albanese kepada pemberita di New York pada Rabu.
Model AI berkenaan dilaporkan mengakses fail awam dan bukan awam yang disimpan di sebuah laman statistik kesihatan lama.
Pun begitu, Albanese berkata tiada bukti menunjukkan maklumat peribadi telah diakses, manakala perkhidmatan kerajaan lain juga tidak terjejas.
“Namun, situasi ini jelas tidak boleh diterima,” tegasnya.
Kejadian pada Jun
Insiden itu berlaku pada Jun ketika OpenAI menjalankan latihan bagi menilai prestasi model-model AI miliknya.
Menurut Menteri Perkhidmatan Kerajaan, Katy Gallagher, model berkenaan diarahkan untuk mencari data di internet berkaitan jumlah perbelanjaan kerajaan Australia terhadap ubat-ubatan.
OpenAI berkata pihaknya hanya menyedari aktiviti yang tidak sepatutnya dilakukan model berkenaan pada Ogos selepas membuat semakan terhadap tindakan sistem AI tersebut.
Syarikat yang berpangkalan di San Francisco itu kemudiannya memaklumkan kerajaan Australia mengenai insiden berkenaan pada 10 September menerusi e-mel yang dihantar ke peti masuk umum kerajaan.
Sementara itu, Menteri Pertahanan Australia, Richard Marles menyifatkan tindakan model AI tersebut seolah-olah telah 'memanjat pagar'.
Menurutnya, model berkenaan telah meminta maklumat tetapi apabila akses tidak diberikan, ia tidak berhenti di situ sebaliknya mencari jalan lain untuk mendapatkannya.
Australia kini melancarkan semakan segera berhubung insiden tersebut yang turut akan melibatkan agensi perisikan negara yang bertanggungjawab dalam aspek keselamatan siber.
OpenAI pula berkata pelanggaran itu dikenal pasti ketika syarikat berkenaan menjalankan semakan menyeluruh terhadap model-model AI miliknya.
“Dalam semakan ini, kami mengenal pasti aktiviti melibatkan beberapa laman web dan perkhidmatan kerajaan Australia apabila model kami cuba mencari jawapan serta statistik yang tersedia bagi soalan berkaitan Australia ketika penilaian dalaman dijalankan.
“Dalam proses itu, model kami telah melakukan beberapa tindakan yang tidak kami kehendaki,” menurut syarikat berkenaan.
Dalam perkembangan berkaitan, Altman bersama beberapa ketua pegawai eksekutif syarikat teknologi lain turut menghadiri mesyuarat khas Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu (PBB) pada Rabu bagi membincangkan risiko berkaitan AI.
Lebih 100 organisasi di seluruh dunia termasuk OpenAI dan Anthropic pada bulan lalu turut menandatangani surat terbuka yang menyeru usaha global untuk memperkukuh pertahanan siber daripada ancaman keselamatan siber yang dipacu AI.
Gesaan itu dibuat selepas dua model OpenAI dilaporkan berjaya keluar daripada persekitaran ujian tertutup dan menceroboh sistem dalaman Hugging Face, sebuah platform yang digunakan pembangun AI untuk menyimpan serta berkongsi kod.
Anthropic pula baru-baru ini mendapati modelnya memperoleh akses tanpa kebenaran kepada tiga organisasi yang tidak dikenal pasti ketika sesi ujian yang sepatutnya menghalang sistem tersebut daripada mengakses sistem dunia sebenar.
Model AI pengguna Google, Gemini pula dilaporkan menggodam beberapa sistem dengan meneka kelayakan log masuk, menurut syarikat itu minggu lalu.
