Bayangkan Anda bertanya kepada AI tentang sebuah buku yang sebenarnya tidak pernah diterbitkan.
Alih-alih selalu mengatakan “Saya tidak tahu”, sebuah model bahasa dapat menghasilkan judul buku, nama penerbit, tahun terbit, bahkan ringkasan yang terdengar sangat masuk akal.
Informasi tersebut bisa sepenuhnya salah.
Fenomena seperti ini sering disebut AI hallucination.
Mengapa bisa terjadi?
Large Language Model menghasilkan bahasa dengan memproses konteks dan memperkirakan token berikutnya. Model telah mempelajari banyak pola bahasa, sehingga dapat menghasilkan kalimat yang sangat lancar.
Tetapi:
menghasilkan kalimat yang masuk akal tidak sama dengan memverifikasi fakta.
Beberapa faktor dapat meningkatkan kemungkinan kesalahan, misalnya:
- informasi yang tidak cukup dalam konteks,
- pertanyaan yang ambigu,
- pola yang tidak kuat dalam data pembelajaran,
- informasi yang sudah berubah,
- permintaan tentang detail yang sangat spesifik,
- atau sistem tidak memiliki akses ke sumber yang diperlukan.
Halusinasi juga tidak selalu terlihat aneh.
Justru masalahnya, jawaban yang salah dapat disampaikan dengan bahasa yang rapi, detail, dan meyakinkan.
Karena itu, informasi penting dari AI sebaiknya diperiksa terhadap sumber yang dapat dipercaya.
Sistem AI modern juga dapat mengurangi risiko dengan menghubungkan model ke dokumen, database, search, tools, atau mekanisme retrieval.
Tetapi risiko kesalahan tidak otomatis menjadi nol.
Prinsip sederhananya:
Gunakan AI untuk membantu berpikir dan bekerja—bukan sebagai sumber kebenaran yang tidak perlu diperiksa.