NVIDIA H200

NVIDIA H200, 2024'te duyurulan, H100'ün aynı Hopper mimarisi üzerine kurulmuş ama bellek tarafı önemli ölçüde genişletilmiş bir güncellemesidir. 141GB HBM3e belleği ve %43 daha yüksek bellek bant genişliği sayesinde hem büyük modellerin tek GPU'ya sığmasını kolaylaştırır hem de çıkarım performansında — özellikle Long Context senaryolarında — dramatik kazanımlar sağlar. Aynı çip bütçesi içinde 'daha az GPU ile aynı işi yapma' iddiasıyla pazarlanır; NVIDIA tarafından özellikle LLM çıkarımı için tasarlanmış bir geçiş ürünü gibi konumlanmıştır. Blackwell nesli (B100/B200) gelene kadar frontier servisin omurgasındaki yenilik adımıdır.