Kenapa Model Bahasa Mengarang dengan Tenang dan Yakin

Model bahasa tidak menyimpan jawaban di dalam kepalanya. Yang tersimpan hanya pola, lalu kemampuan menebak potongan teks berikutnya yang paling mungkin muncul. Semua jawaban keluar dari tebakan itu, dan tebakan punya satu gaya: rapi, mantap, dan percaya diri. Itu sebab jawaban yang dikarang tetap terdengar yakin. Mekanismenya tidak berubah sejak 2024, meski model 2026 jauh lebih pintar daripada yang pertama.

Model Bahasa Bukan Gudang Jawaban

Bayangkan kamu diberi satu kalimat dan diminta menebak kalimat berikutnya. Kalimat itu belum selesai, jadi ada ribuan jawaban yang sama-sama masuk akal. Yang dilakukan model bukan memilih yang benar. Ia memilih yang paling sering muncul di data. Buat manusia, menebak berarti berjudi. Buat model, menebak adalah satu-satunya pekerjaannya.

Orang biasanya membayangkan model bahasa seperti perpustakaan digital. Isinya buku, jadi jawabannya sudah tersusun rapi di rak. Padahal tidak. Isinya catatan statistik tentang kalimat mana yang biasa mendahului kalimat lain.

Kalau nama yang ditanyakan tak pernah muncul di koran mana pun, model tetap akan mengarang. Bukan karena ia sengaja berbohong. Karena di koran itu tidak ada pola yang bisa diulang. Yang tersisa cuma satu jalan, yaitu menebak.

Fungsi Latihnya Mengukur Kemiripan, Bukan Kebenaran

Pelatihan model bahasa punya satu tujuan yang sempit: menebak potongan berikutnya sedekat mungkin dengan teks aslinya. Fungsi loss membandingkan keluaran model dengan data, lalu menghukumnya kalau tidak mirip. Data boleh salah, dan data boleh sensor. Yang dinilai tetap kemiripan teksnya, bukan kebenaran isi dunia.

Ibaratkan koki yang dinilai dari foto piring. Garamnya bisa luber atau kurang, dan juri tidak akan pernah tahu, karena yang dinilai cuma warnanya. Koki yang sama boleh membuat tiga piring dengan kadar garam berbeda dan tetap mendapat nilai sama persis.

Sepanjang proses itu, tidak ada satu pun langkah yang menyentuh dunia nyata. Tidak ada yang menanyakan siapa sebenarnya pemilik nama itu.

Distribusi Selalu Harus Menghasilkan Sesuatu

Ini bagian yang paling sering terlewat. Model tidak punya pilihan untuk diam. Saat konteksnya tidak memberi sinyal cukup, distribusi probabilitas di kepalanya tetap harus mengembalikan potongan teks berikutnya. Yang dipilih bukan yang benar, melainkan yang paling mungkin secara statistik.

Bayangkan kios yang hanya punya 150.000 kata di tombolnya, dan setiap pengunjung wajib menekan satu. Kalau jawaban orang butuh istilah yang tidak ada di tombol mana pun, kios tidak punya cara untuk bilang tidak tahu. Ia tetap menyodorkan kata yang paling sering muncul setelah kata terakhir yang diketik.

Dua setelan yang paling sering diubah pengguna adalah temperature, top-k, dan top-p. Yang pertama memipihkan atau meratakan distribusi. Top-k mempertahankan kandidat dengan peluang terbesar. Top-p mengumpulkan kandidat sampai peluangnya mencapai ambang tertentu.

Holtzman dan timnya mengusulkan top-p pada 2019, setelah menunjukkan bahwa memilih kandidat teratas terus-menerus menghasilkan teks datar dan berulang. Pendekatan itu dikenal sebagai sampling nucleus.

Makin rendah temperatur, makin sempit undiannya. Teks jadi lebih rapi dan terdengar lebih yakin. Tapi rapi di sini tidak berarti benar. Justru di titik paling yakin, model paling jarang berkata tidak tahu.

Kesalahan Pertama Mengembang Jadi Kesalahan Kedua

Ada jenis halusinasi yang tidak muncul dari ketidaktahuan. Munculnya ketika model sudah salah sekali, lalu menulis pembelaan untuk kesalahan itu.

Zhang dan timnya menelaah ini pada 2024 memakai tiga set data, masing-masing 500 pertanyaan. Mereka menemukan sesuatu yang aneh. Model bisa mengenali klaim yang tidak benar miliknya sendiri. Saat ditanya terpisah, GPT-3.5 mengenali 67 persennya, GPT-4 mengenali 87 persen, dan LLaMA2-70B-chat mengenali 94 persen.

Artinya pengetahuan untuk menolak sudah ada di dalam model. Yang tidak ada adalah mekanisme untuk memakainya. Kesalahan pertama tidak dibongkar, tapi dibungkus lapisan alasan baru. Ibaratkan orang yang salah jawab lalu mulai berpidato. Setiap paragraf berikutnya terlihat semakin meyakinkan, padahal fondasinya salah sejak awal.

Temuan itu tidak hilang dengan beberapa setelan. Temperature lebih tinggi, pencarian melebar, dan urutan berpikir tanpa contoh sama sekali tidak mengubahnya.

Model Lebih Besar Bukan Jaminan Lebih Sedikit Mengarang

Dua hasil riset sering dianggap saling bertentangan, padahal satu-duanya mengukur hal berbeda. Yang pertama datang dari Kalai dan Vempala pada 2024, lewat makalah tentang fakta yang tak bisa dibaca dari data. Batas bawahnya keras. Kalau 20 persen data hari lahir muncul tepat satu kali, model dasar diperkirakan berhalusinasi pada sedikitnya 20 persen hari lahir. Jadi ada bagian dari dunia yang memang tidak punya pola untuk dipelajari.

Hasil kedua, terbit 2024 di arXiv, menemukan arah sebaliknya. Untuk data yang tetap sama, model yang lebih besar dan lebih lama dilatih berhalusinasi lebih sedikit.

Hanya saja, harga menuju titik akhir terasa brutal. Menurunkan galat sampai 5 persen dari data latih butuh model sepuluh kali lebih besar. Komputasinya juga jauh melampaui optimum yang dihitung Hoffmann dan timnya pada 2022. Detektor makin sulit dipakai seiring membesar model itu.

Jadi model lebih besar memang membantu, tapi dengan kurva yang tidak murah di ujung. Persentase pertama murah, persentase terakhir mahal. Ketika besar tidak lagi membuat halusinasinya mudah dideteksi, kamu kehilangan alat terakhir untuk mengintipnya.

RLHF dan Pencarian Mengurangi, Tidak Menghapus

Dua perbaikan yang paling sering disebut orang adalah penyelarasan dengan umpan balik manusia, dan pencarian dokumen saat menjawab. Keduanya bekerja, dan keduanya bukan obat.

Penyelarasan dengan umpan balik bekerja seperti pemberian nilai merah di kelas. Guru menandai jawaban yang berantakan, dan model belajar menghindari pola itu. Hasilnya nyata. Model menjadi lebih jarang mengeluarkan kebohongan yang kasar.

Yang hilang cuma kecenderungan, bukan kemampuan dasarnya. Menutup satu pintu tidak mengosongkan gudang. Tim di Singapura menyatakannya tanpa basa-basi di makalah 2024 mereka.

Pencarian dokumen bekerja seperti membuka buku sebelum menjawab. Kelihatannya seperti solusi, dan memang menurunkan halusinasi banyak. Tapi kalimat yang mengaitkan dua kutipan tetap ditulis dari statistik. Jembatannya masih karangan, hanya sekarang dipasang di atas fakta yang benar.

Kesalahpahamannya selalu sama. Mengira satu perbaikan bisa menutup lubang di tempat lain. Kalau tidak ada sumber yang bisa diperiksa, pencarian hanya mengembalikan jawaban tanpa bukti.

Bukti Formal Bahwa Ini Tidak Bisa Ditambal Sepenuhnya

Pada 2024, Xu, Jain, dan Kankanhalli dari Universitas Nasional Singapura menulis makalah dengan judul seperti tuduhan. Halusinasi adalah keniscayaan bawaan model bahasa besar. Klaimnya perlu dibaca dengan hati-hati, karena ini pembuktian matematis, bukan hasil pengukuran ribuan pertanyaan.

Caranya elegan dan sedikit menakutkan. Mereka memakai argumen diagonalisasi dari teori belajar, yang pertama kali dirumuskan Cantor. Kalau model bisa mempelajari setiap fungsi yang bisa dihitung, tetap ada satu fungsi yang pasti terlewat. Selalu ada.

Konsekuensinya keras. Hasilnya tidak bergantung pada arsitektur, algoritma belajar, cara prompting, atau data latihan. Ganti salah satu tidak mengubah kesimpulan. Batas statistik Kalai dan Vempala adalah saudara dekatnya. Satu memakai bahasa fungsi yang bisa dihitung, yang lain bahasa probabilitas.

Tapi ada batas yang perlu jujur disebut. Pembuktian ini menunjukkan bahwa halusinasi pasti muncul pada sekumpulan pertanyaan. Dia tidak menunjukkan bahwa setiap jawaban pasti salah. Bedanya besar, dan sebagian besar argumen yang beredar melewatkan bagian ini.

Hasilnya tetap masuk akal. Tidak ada basis data yang bisa menyimpan semua fakta dunia.

Analisis: Angka di Balik Klaim yang Sering Berbeda

Klaim tentang halusinasi sering terdengar seperti dua orang berdebat. Satu pihak bilang model 2026 sudah jauh lebih baik. Party lain bilang tidak ada yang berubah pada dasarnya. Dua-duanya bisa benar, karena mereka mengukur hal berbeda dan memakai definisi berbeda. Berikut angka yang bisa ditelusuri ke sumber aslinya.

Bacaan dari tabel ini pendek saja. Angka 87 persen artinya masalahnya bukan model tidak tahu. Model tahu, tapi tidak pernah memakai pengetahuan itu untuk membatalkan jawaban sendiri.

Angka 20 persen di baris kedua menunjuk batas yang paling sering dilupakan. Sebagian fakta memang cuma muncul sekali di dunia, dan tidak ada pola yang bisa disimpulkan darinya. Untuk bagian seperti itu, model sempurna pun akan mengarang.

Tiga baris terakhir menunjuk harga yang dibayar. Menolak menjawab menekan galat, tapi juga menekan kegunaan. Berpikir lebih lama menekan galat, tapi menambah token. Menu yang tersedia memang sesempit itu.

• Angka halusinasi selalu bergantung pada definisi tugas, bukan pada model saja.
• Model yang lebih besar bergerak ke arah lebih baik, tapi sangat lambat di ujung.
• Semuanya konsisten dengan satu hal: mengarang adalah pekerjaan bawaan model, bukan kerusakan yang bisa dihapus.

Kondisi Per 2026 dan Kebiasaan yang Bisa Berubah

Per 2026, arahnya sudah jelas. Model yang berpikir panjang dan memakai alat memang menurunkan laju halusinasi. Kartu sistem GPT-5 menyebut galat pada klaim faktualnya 26 persen lebih kecil dibanding GPT-4o.

Penurunan itu dibeli dengan tiga hal. Token lebih banyak, jawaban lebih panjang, dan peluang lebih besar untuk menolak menjawab. Pada evaluasi keselamatan bersama OpenAI dan Anthropic, model Claude menolak menjawab sampai 70 persen kasus halusinasi. Galatnya sendiri sangat rendah, tapi itu karena banyak pertanyaan tidak dijawab.

OpenAI o3 memberi jawaban benar utuh lebih dari dua kali lipat dibanding pendahulunya. Harga yang dibayar: laju halusinasi yang lebih tinggi.

Angka di grafik itu adalah laju halusinasi pada benchmark PersonQA, dari kartu sistem o3 dan o4-mini April 2025. Model yang berpikir lebih lama justru lebih sering meleset di sini.

Ada juga cara mendeteksi, bukan mencegah. Farquhar dan timnya memublikasikan entropi semantik di Nature pada Juni 2024. Idenya sederhana: satu soal dijawab berulang kali, lalu jawabannya dikelompokkan menurut makna. Kalau maknanya berbeda-beda, jawabannya tidak yakin.

Catatan paling penting datang dari penulisnya sendiri. Metode ini tidak menangkap model yang salah secara konsisten. Kegagalan yang paling berbahaya datang dari sistem yang keliru dengan yakin dan sistematis.

Jadi angka ini bergerak, tapi jawabannya tidak. Model 2026 lebih jarang berbohong daripada model 2022. Tapi ia tetap mengarang pada pertanyaan yang tidak punya jawaban. Pertanyaannya belum berubah sejak 2024. Kalau sistem yang paling yakin justru yang paling sering keliru, bagaimana membuat sistem itu tahu sedang menebak?