Apple memberi amaran penggunaan ejen kecerdasan buatan (AI) berpotensi membuka ruang kepada akses sistem tanpa kebenaran serta transaksi tidak sah.
Syarikat teknologi itu berkata, tindakan berkenaan boleh mendedahkan mereka kepada risiko saman undang-undang selain menjejaskan reputasi syarikat.
Menerusi laporan tahunan yang dikemukakan kepada Suruhanjaya Sekuriti dan Bursa Amerika Syarikat (SEC), Apple menjelaskan kebimbangan tersebut pada Selasa.
Menurut laporan itu, ejen AI berupaya menjalankan atau mengubah kod perisian, menghantar mesej serta menyelesaikan transaksi secara automatik tanpa campur tangan manusia.
Ketika melaksanakan tugasan berkenaan, teknologi itu juga berkemungkinan berinteraksi dengan sistem dalaman atau luaran syarikat tanpa memperoleh kebenaran sewajarnya.
Apple turut memberi amaran bahawa ejen AI berkenaan boleh bertindak di luar jangkaan, termasuk melakukan perkara yang tidak diarahkan atau dibenarkan.
“Ejen berkenaan mungkin bertindak dengan cara yang tidak dijangka atau sukar diramal, termasuk melakukan tindakan tanpa arahan atau kebenaran,” katanya.
Ejen AI Berisiko Lakukan Transaksi Tanpa Kebenaran
“Penggunaan kecerdasan buatan dalam pembangunan dan pengendalian sistem operasi, aplikasi serta perkhidmatan juga boleh meningkatkan risiko kesilapan, pepijat atau kelemahan keselamatan.”
Syarikat itu turut mengakui keupayaannya memantau serta mengawal ejen AI yang dibangunkan pihak ketiga mungkin mempunyai batasan tertentu.
Pendedahan tersebut menyusul selepas Apple mengumumkan langkah memperketat kawalan akses cakera penuh pada komputer Mac, Oktober lalu.
Kebenaran itu membolehkan sesuatu perisian memperoleh akses lebih luas terhadap fail yang disimpan dalam komputer pengguna.
Dalam perkembangan berkaitan, Ketua Pegawai Eksekutif Apple, John Ternus sebelum ini menyentuh potensi AI memperluas fungsi pembantu digital, Siri.
Ketika bercakap kepada penganalisis pada Isnin, beliau berkata syarikat melihat peluang untuk membolehkan Siri melaksanakan lebih banyak tugasan bagi pihak pengguna.
Bagaimanapun, Ternus menegaskan pengguna perlu memahami jenis maklumat dan sistem yang dibenarkan untuk diakses oleh ejen AI.
“Kami mahu memastikan teknologi ini digunakan dengan cara yang melindungi keselamatan dan privasi pengguna,” katanya ketika panggilan keputusan kewangan syarikat pada Isnin.
Beliau turut mengingatkan bahawa iPhone menyimpan pelbagai maklumat peribadi pengguna, termasuk senarai kenalan, mesej, rekod kesihatan serta data kewangan.
Menurutnya, Siri berpotensi membantu pengguna mendapatkan semula maklumat peribadi yang tersimpan dalam peranti tanpa mendedahkan kandungannya kepada Apple sendiri.
Selain risiko keselamatan, Apple turut memberi perhatian terhadap perubahan undang-undang berkaitan AI yang boleh meningkatkan kos pematuhan syarikat.
Syarikat itu juga menyenaraikan kebimbangan orang ramai terhadap keselamatan sistem autonomi serta kemungkinan teknologi tersebut mendatangkan kemudaratan sebagai risiko perniagaan tambahan.
