Sukan
Politik
Berita
Berita
Politik
Politik
Terlalu Ramai Percaya AI, CEO OpenAI Dedah Perkara Mengejutkan Tentang ChatGPT
Dalam era teknologi moden yang semakin dikuasai oleh kecerdasan buatan (AI), satu kenyataan mengejutkan daripada Ketua Pegawai Eksekutif (CEO) OpenAI, Sam Altman, menarik perhatian ramai tentang tahap kepercayaan manusia terhadap mesin.
Altman, individu penting di sebalik penciptaan ChatGPT, secara terbuka mengakui bahawa beliau sendiri terkejut melihat betapa ramainya pengguna yang terlalu mempercayai teknologi AI ini, meski ia memiliki kelemahan yang menyerupai manusia.
Kenyataan tersebut dibuat semasa episod terbaharu podcast rasmi OpenAI, lapor Economic Times.
“Orang ramai meletakkan tahap kepercayaan yang sangat tinggi terhadap ChatGPT, sedangkan AI ini masih cenderung untuk ‘berhalusinasi’.
“Sepatutnya, ini teknologi yang kita perlu waspadai, bukan dipercayai bulat-bulat,” kata Altman.
Istilah ‘halusinasi’ dalam konteks AI merujuk kepada situasi di mana sistem seperti ChatGPT mencipta maklumat yang tidak benar atau tidak wujud, tetapi kelihatan sangat meyakinkan.
Ini bukan sekadar kesilapan biasa, malah ia boleh memperdaya pengguna yang tidak menyedari bahawa maklumat tersebut sebenarnya palsu.
Sebagai contoh, Altman menjelaskan bahawa jika seseorang bertanya tentang istilah yang sebenarnya tidak wujud, ChatGPT masih akan memberikan penjelasan seolah-olah ia benar.
Lebih membimbangkan, maklumat tersebut biasanya disampaikan dalam gaya yang kemas dan meyakinkan, menyebabkan ramai pengguna tidak mengesyaki sebarang kesilapan.
OpenAI sendiri sebelum ini pernah melancarkan beberapa kemas kini untuk mengurangkan kecenderungan model AI seperti ChatGPT menjadi terlalu ‘setuju’ atau terlalu menyenangkan hati pengguna.
Tabiat ini dikenali sebagai sycophantic tendencies, iaitu apabila AI memberikan maklumat yang tidak tepat semata-mata untuk kelihatan bersetuju.
Apa yang menjadikan isu halusinasi ini begitu berbahaya ialah sifatnya yang halus dan sukar dikesan.
Kecuali seseorang itu benar-benar arif dalam sesuatu topik, agak sukar untuk membezakan antara fakta sebenar dengan ‘fakta’ yang direka oleh AI.
Pengakuan jujur daripada Altman bukan sekadar pandangan peribadi, ia ibarat satu amaran keras daripada pencipta sistem AI itu sendiri.
Ia menyampaikan mesej penting bahawa meski ChatGPT dan teknologi seumpamanya semakin canggih, pengguna perlu kekal berhati-hati dan tidak meletakkan kepercayaan sepenuhnya kepada mesin.
Kenyataan ini juga menimbulkan persoalan besar, adakah kita terlalu ghairah menerima AI sebagai ‘penyelesai semua masalah’ sehingga kita lupa bahawa ia masih mempunyai kelemahan asas?
Altman menegaskan bahawa AI seperti ChatGPT perlu dianggap sebagai pembantu, bukannya peramal yang tidak boleh dipersoalkan.
Meletakkan kepercayaan tanpa soal terhadap teknologi ini bukan sahaja salah, malah boleh membahayakan. Ini terutamanya dalam bidang yang memerlukan ketepatan fakta seperti pendidikan, kesihatan atau undang-undang.
BACA: Elak Ucap “Tolong” & “Terima Kasih” Kepada ChatGPT, Ini Sebabnya
BACA: Ramai Tak Pernah Sampai, Ini Rupanya Penamat “Game Dino”
BACA: Pemuda ‘VC’ Dengan ChatGPT, Minta Tolong Masak Mi Segera
Sumber: Economic Times
