Halüsinasyon

Halüsinasyon, bir LLM'in akıcı ve kendinden emin biçimde aslında doğru olmayan bilgiler üretmesi olgusudur — uydurma kaynak, var olmayan API metodu, yanlış tarih, hayalî alıntı. Sebep basit: dil modelleri 'doğru olanı' değil, 'olası olan bir sonraki Token'i' tahmin etmek için eğitilir; eğitim verisinde yokluk, gerçeklik kontrolü için bir mekanizma yaratmaz. GPT-3 sonrası dönemde halüsinasyon, LLM'lerin üretimde kullanılmasının önündeki en büyük güven sorunlarından biri hâline geldi ve RAG, gerçek-temelli ince ayar, Citation gibi karşı-tedbirleri tetikledi. Bazı araştırmacılar daha doğru bir terim olarak Confabulation ifadesini önerir; insanın belleğinden uydurma yaptığı durumla daha iyi örtüşüyor.