Aşırı Reddetme (Over-refusal)

Aşırı reddetme, modelin tehlikesiz veya açıkça meşru bir isteği bile reddetmesi durumudur — örneğin tarihsel bir konuyu açıklamayı veya kurgu yazımı yardımını geri çevirmek gibi. Bu sorun, sağlayıcıların güvenlik tarafına aşırı yatay yapması veya RLHF ödül modelinin aşırı temkinli olmasından kaynaklanır. Anthropic ve OpenAI son yıllarda yardımseverlik ile Refusal arasındaki dengeyi düzeltmek için aktif olarak çalışıyor. Pratikte aşırı reddetme, modelin algılanan kullanışlılığını ve kullanıcı sadakatini doğrudan vuran bir ürün metriğidir.