Bağlam penceresi, bir LLM'in tek seferde 'görebileceği' maksimum Token miktarıdır; sistem promptu, sohbet geçmişi, kullanıcı mesajı ve modelin üreteceği yanıt — hepsi aynı bütçeyi paylaşır. Erken GPT modellerinde 2K-4K token olan bu sınır, bugün Claude'un 200K'sı ve Gemini'nin 1M tokenlı sürümleriyle endüstri rekabetinin temel eksenlerinden birine dönüşmüştür. Pencere büyüdükçe daha uzun belgelerle çalışmak mümkün hâle gelir, fakat Self-Attention'ın kareli maliyeti yüzünden hem Latency hem maliyet hızla yükselir. Long Context çağında 'ne kadarını gerçekten kullanabiliyoruz' sorusu, çiğ pencere sayısından çok daha önemli bir mühendislik problemidir.
MEVZU N°124ISTANBULYEAR I — VOL. III
Sözlük · Başlangıç · 2018
Bağlam Penceresi
Bir LLM'in tek seferde işleyebileceği maksimum token sayısı.
- EN — İngilizce karşılığı
- Context Window
- TR — Türkçe karşılığı
- Bağlam Penceresi