Thursday, November 19, 2026
HomeBERITABahaya 'halusinasi' digital dan kemalasan intelektual

Bahaya ‘halusinasi’ digital dan kemalasan intelektual

Dalam keghairahan kita mendakap teknologi moden, ada satu sudut gelap yang jarang diperkatakan. Ramai yang menyangka bahawa kecerdasan buatan seperti ChatGPT adalah sebuah lubuk ilmu yang serba tahu. Hakikatnya, tanggapan itu silap.

Satu perkara asas yang wajib difahami oleh semua, AI generatif tidak pernah direka untuk menjamin ketepatan fakta secara mutlak.

Menurut jurnal Factuality Challenges in the Era of Large Language Models and Opportunities for Fact-Checking yang diterbitkan dalam Nature Machine Intelligence (2024), Large Language Models (LLM) seperti ChatGPT boleh menghasilkan kandungan yang palsu, salah atau mengelirukan walaupun kandungan berkenaan kedengaran natural dan meyakinkan. Kajian itu turut menekankan kepentingan proses fact-checking dalam menghadapi perkembangan AI generatif.

Secara teknikal, model AI generatif menghasilkan teks berdasarkan corak bahasa yang dipelajari. Keupayaan menghasilkan ayat yang lancar dan meyakinkan tidak sama dengan keupayaan menjamin bahawa setiap fakta yang diberikan adalah benar.

Apabila sistem berdepan dengan maklumat yang tidak mencukupi atau persoalan yang sukar, AI boleh menghasilkan fakta yang tidak tepat, maklumat yang tidak dapat disahkan atau rujukan yang tidak wujud.

Inilah yang dikenali sebagai ‘AI hallucination’.

Menurut kajian bertajuk HaluEval: A Large-Scale Hallucination Evaluation Benchmark for Large Language Models, yang diterbitkan dalam Proceedings of EMNLP 2023, Large Language Models terdedah kepada penghasilan kandungan yang bercanggah dengan sumber atau tidak dapat disahkan secara fakta.

Lebih membimbangkan, fenomena ini bukan semestinya hadir dalam bentuk jawapan yang kelihatan bodoh atau bercelaru. Sebaliknya, maklumat yang salah boleh disampaikan dalam bahasa yang kemas, yakin, tersusun dan kelihatan sangat sofistikated.

Perkara ini turut disokong oleh kajian Detecting Hallucinations in Large Language Models Using Semantic Entropy yang diterbitkan dalam Nature pada 2024. Kajian tersebut menunjukkan bahawa LLM boleh menghasilkan jawapan yang salah atau tidak berasas walaupun sistem berkenaan mempunyai keupayaan menjawab pelbagai persoalan dengan baik.

Bagi saya, mengambil jalan pintas dengan menelan bulat-bulat hujah janaan AI tanpa sebarang semakan silang adalah satu tindakan yang amat membahayakan.

Apabila maklumat yang salah ini diangkat ke peringkat tertinggi institusi, penggubalan dasar, pengurusan atau proses membuat keputusan penting, ia berpotensi mencemarkan integriti maklumat serta menjejaskan kredibiliti keputusan yang bakal dibuat.

Namun, ada satu lagi persoalan yang lebih besar.

Kemalasan intelektual.

Menggunakan ChatGPT secara pukal tidak secara automatik menjadikan seseorang itu kelihatan bijak. Jika seseorang sekadar menyalin, menampal dan menerbitkan kandungan yang dijana AI tanpa membaca, memahami, menyemak atau mencabar kesahihannya, teknologi itu akhirnya bukan lagi alat untuk meningkatkan keupayaan manusia.

Sebaliknya, ia menjadi tongkat kepada kemalasan berfikir.

Teknologi sepatutnya menjadi alat pelengkap untuk membantu memudahkan kerja, bukannya pengganti kepada ketajaman akal, integriti, ilmu dan usaha berfikir secara kritikal.

Gunakan AI. Manfaatkan AI. Tetapi jangan serahkan akal kepada AI.

Kerana akhirnya, kecerdasan sebenar bukan terletak pada kemampuan menghasilkan jawapan dengan pantas.

Kecerdasan sebenar terletak pada kemampuan untuk bertanya: “Betulkah apa yang saya baca ini?”

Nik Suryani Megat Deraman ialah Presiden Persatuan Kewartawanan Multimedia Malaysia dan Ketua Pengarang The Malaya Post. Beliau kini sedang mengikuti pengajian Ijazah Doktor Falsafah (PhD) dalam Pengurusan Media di Universiti Utara Malaysia (UUM), dengan fokus kajian dalam bidang “Media Analytics”.

 

RELATED ARTICLES

Leave a Reply

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Most Popular

Recent Comments