NVIDIA A100

NVIDIA A100, 2020'de duyurulan Ampere mimarisinin amiral gemisi veri merkezi GPU'sudur; AI'da uzun yıllar fiili standart hâline geldi. 40 ya da 80GB HBM2 belleğiyle hem büyük modellerin eğitimini hem servisini sırtlayan A100, GPT-3, Llama 3 başlangıç sürümü ve birçok kritik modelin altyapısı oldu. Yeni nesil H100 çıktıktan sonra bile fiyat-performans avantajı yüzünden hâlâ üretimde sıkça tercih edilir; eski olmasına rağmen 'olgun ve bol bulunabilir' konumu sürüyor. Bugün küçük-orta ölçekli LLM eğitimi ve çıkarımı için pek çok startup'ın belkemiği olmaya devam ediyor.