Utama
Pilihan Editor
Kisah peribadi rakyat Malaysia, dalam suara mereka sendiri.
OpenAI Dedah Model AI Bertindak Di Luar Jangkaan, Ceroboh Sistem Hugging Face
Kredit: AFP
OpenAI Dedah Model AI Bertindak Di Luar Jangkaan, Ceroboh Sistem Hugging Face
OpenAI, pada Selasa memaklumkan bahawa model kecerdasan buatan (AI) canggih miliknya bertindak di luar jangkaan ketika menjalani ujian keselamatan dengan menggodam sebuah platform popular dalam kalangan pengatur cara secara autonomi, lapor AFP.
Syarikat yang berpangkalan di San Francisco itu menyifatkan kejadian tersebut sebagai insiden siber yang belum pernah berlaku sebelum ini, dan memaklumkan bahawa siasatan bersama akan dijalankan dengan platform perkongsian kod, Hugging Face.
Model AI yang menjadi asas kepada aplikasi seperti chatbot dan penjana imej dikenali sebagai ejen AI (AI agents) apabila ia mampu bertindak secara autonomi untuk melaksanakan tugasan di dunia sebenar.
Seiring teknologi AI yang berkembang semakin canggih, aspek keselamatan siber kini menjadi tumpuan kerana wujud kebimbangan bahawa AI berkeupayaan mengenal pasti kelemahan dalam perisian lebih pantas berbanding manusia.
OpenAI berkata, insiden itu melibatkan gabungan beberapa model AI termasuk GPT-5.6 Sol yang baru dilancarkan serta sebuah lagi model prapelancaran yang mempunyai keupayaan lebih tinggi.
Menurut syarikat itu, model-model berkenaan sedang diuji dalam persekitaran digital terkawal bagi menilai kemampuan penggodaman mereka, dengan akses internet dihadkan atas faktor keselamatan.
"Ketika beroperasi dalam persekitaran ujian berasaskan sandbox, model kami menggunakan sejumlah besar kuasa pemprosesan untuk mencari cara mendapatkan akses kepada internet terbuka bagi menyelesaikan tugasan penilaian," menurut OpenAI dalam satu catatan blog mengenai insiden tersebut.
Selepas berjaya memperoleh akses internet, model AI itu memilih untuk menyasarkan Hugging Face, iaitu sebuah platform yang menghimpunkan model AI, set data dan pelbagai sumber berkaitan kecerdasan buatan.
Baca juga:
Dalam usaha mencari maklumat rahsia yang boleh membantu memanipulasi ujian, sistem AI OpenAI didakwa menggabungkan beberapa teknik serangan, termasuk menggunakan kelayakan log masuk yang dicuri.
Profesor Pengkomputeran dari UNSW Canberra, Hussein Abbass, berkata kepada AFP bahawa insiden itu amat luar biasa dari pelbagai sudut.
"Ia bukan sekadar menyerang Hugging Face. Ia turut menyerang sistem dalaman platform itu untuk mengeksploitasi kelemahannya sendiri.
"Dan itu sesuatu yang menakutkan," katanya.
GPT-5.6 serta beberapa model AI tercanggih lain, termasuk siri Mythos keluaran pesaing utama OpenAI, Anthropic, sebelum ini turut mencetuskan kebimbangan terhadap potensi mereka menembusi sistem pertahanan keselamatan siber.
Kedua-dua syarikat AI dari Amerika Syarikat itu sebelum ini terpaksa menangguhkan pelancaran umum teknologi terbaharu mereka berikutan kebimbangan pihak berkuasa Washington bahawa ia mungkin boleh digunakan untuk menggodam infrastruktur kritikal.
Sumber:
The news hub | AFP.com
