NVIDIA H200, 2024'te duyurulan, H100'ün aynı Hopper mimarisi üzerine kurulmuş ama bellek tarafı önemli ölçüde genişletilmiş bir güncellemesidir. 141GB HBM3e belleği ve %43 daha yüksek bellek bant genişliği sayesinde hem büyük modellerin tek GPU'ya sığmasını kolaylaştırır hem de çıkarım performansında — özellikle Long Context senaryolarında — dramatik kazanımlar sağlar. Aynı çip bütçesi içinde 'daha az GPU ile aynı işi yapma' iddiasıyla pazarlanır; NVIDIA tarafından özellikle LLM çıkarımı için tasarlanmış bir geçiş ürünü gibi konumlanmıştır. Blackwell nesli (B100/B200) gelene kadar frontier servisin omurgasındaki yenilik adımıdır.
MEVZU N°124ISTANBULYEAR I — VOL. III
Sözlük · Başlangıç · 2024
NVIDIA H200
H100'ün bellek genişlemiş güncellemesi; uzun bağlam ve büyük modeller için tasarlandı.
- EN — İngilizce karşılığı
- NVIDIA H200
- TR — Türkçe karşılığı
- NVIDIA H200