Konfabülasyon

Konfabülasyon, klinik nörolojiden ödünç alınan bir terimdir: hafıza boşluklarını yalan söyleme niyeti olmadan kendinden emin uydurmalarla doldurma davranışıdır. AI safety ve interpretability literatürü, son yıllarda LLM'lerin uydurma davranışı için 'Hallucination' yerine bu terimi tercih etmeye başladı çünkü model bir şey 'görmüyor', sadece eksik bilgiyi olası gibi tamamlıyor. Konfabülasyon, modelin yetiştiği veride bilmediği konularda 'boşluğu doldurma' eğilimini açıklar; çözüm de RAG, Grounding ve istemde 'bilmiyorsan söyle' yönergesini netleştirmekten geçer. Terminoloji küçük gibi görünse de, sorunun doğasını doğru çerçevelemek doğru çözüm üretmenin de ön koşuludur.