Embedding, bir kelimeyi, Token'i ya da koca bir belgeyi yüksek boyutlu bir Vector olarak temsil eden öğrenilmiş bir gösterimdir. Word2Vec ve GloVe (2013) ile popülerleşen bu fikir, yakın anlamlı şeylerin uzayda da yakın durmasını sağlar; 'kral' - 'erkek' + 'kadın' ≈ 'kraliçe' gibi geometrik ilişkiler bu sayede ortaya çıkar. Modern LLM'lerde her token, Transformer'a girmeden önce bir embedding vektörüne eşlenir ve modelin tüm dünya bilgisi aslında bu vektörlerin uzayında kodludur. Bugün embedding'ler yalnızca dil modellerinde değil, Cosine Similarity tabanlı arama, RAG sistemleri ve öneri motorlarının da temelini oluşturur.
MEVZU N°124ISTANBULYEAR I — VOL. III
Sözlük · Başlangıç · 2013
Embedding (Gömme)
Bir token ya da metni anlamını taşıyan yoğun sayısal vektörle temsil etme yöntemi.
- EN — İngilizce karşılığı
- Embedding
- TR — Türkçe karşılığı
- Gömme (Embedding)