GPU — Grafik İşlem Birimi

GPU (Graphics Processing Unit), başlangıçta görsel oluşturma için tasarlanmış olsa da derin öğrenmenin tartışmasız standart hesaplama birimidir. Sinir ağlarındaki matris çarpımları gibi paralel hesaplamaları binlerce çekirdekte aynı anda yürütür; aynı işi bir CPU'da yapmak çok daha yavaş ve pahalıdır. NVIDIA'nın CUDA ekosistemi 2007 sonrası dönemde fiilen standart hâline gelmiş, bugün A100, H100 ve H200 gibi modeller LLM ekosisteminin temel altyapı taşlarıdır. AMD (MI300) ve özel hızlandırıcılar (TPU, NPU, Cerebras, Groq) alternatif sunsa da, ekosistem yoğunluğu hâlâ NVIDIA tarafındadır.