Streaming, bir LLM'in tüm cevabı bitirmeden, ürettiği Token'leri canlı olarak akışla göndermesidir; ChatGPT'nin tipik 'yazıyor' deneyimi tam olarak budur. Kullanıcı TTFT kadar küçük bir gecikmeyle ilk kelimeleri görmeye başlar ve 'yavaş model' hissi büyük ölçüde ortadan kalkar; aynı toplam süre, akışlı sunulduğunda çok daha hızlı algılanır. Teknik olarak SSE ya da WebSocket üzerinden taşınır; OpenAI, Anthropic ve diğer büyük API'ların hepsi standart olarak destekler. Modern LLM ürün UX'inin temel bileşenlerinden biri sayılır; akışsız bir sohbet arayüzü 2026'da artık fiilen kabul edilemez.
MEVZU N°124ISTANBULYEAR I — VOL. III
Sözlük · Başlangıç · 2022
Akış Çıktısı (Streaming)
Modelin tamamlanmış cevabı beklemek yerine token-token canlı akış olarak göndermesi.
- EN — İngilizce karşılığı
- Streaming Output
- TR — Türkçe karşılığı
- Akış Çıktısı