Nvidia GH200 Grace Hopper Superchip takviyeli sistemler, NVIDIA’nın Grace, Hopper, Ada Lovelace ve BlueField üzere en yeni CPU, GPU ve DPU mimarilerinin farklı kombinasyonlarıyla desteklenen 400’den fazla sistem konfigürasyonuna katılıyor. GH200 GPU’lar öncelikli olarak üretken yapay zekaya yönelik artan talebi karşılamaya yardımcı olmak için tasarlandı. Computex’te konuşan Nvidia CEO’su Jensen Huang, NVLink-C2C orta temas teknolojisini kullanarak Arm tabanlı Grace CPU ve Hopper GPU mimarilerini bir ortaya getiren GH200 Grace Hopper Superchip ile ilgili yeni sistemleri, iş ortaklarını ve ek detayları açıkladı.
GH200 Grace Hopper Superchip özellikleri
Nvidia GH200 Grace Hopper Superchip klasik ve evvelki kuşak sistemlerde bulunan standart PCIe Gen5 şeritlerinden 7 kat daha yüksek bant genişliği olan 900GB/s’ye kadar toplam bant genişliği sunuyor. Yüksek bant genişliği şiddetli üretken yapay zeka ve HPC uygulamalarını ele almak için oldukça geniş bir oyun alanı sunuyor. 
CPU+GPU dizaynının devam edildiği GH200 Superchip’te yongalar NVLink Chip-2-Chip (C2C) orta ilişkisiyle birbirine bağlanıyor. Grace Hopper Superchip’in kalbi olan bu temas, hızlandırılmış sistemlerde yaygın olarak kullanılan PCIe Gen5 şeritlerinden 7 kat daha yüksek olan saniyede 900 gigabayta (GB/s) kadar toplam bant genişliği sunuyor. 
Bu orta temas, uygulamaların GPU belleğiyle birlikte CPU belleğini de yüksek bant genişliğinde kullanmalarına imkan tanıyor. Grace Hopper Superchip başına 480 GB’a kadar LPDDR5X CPU belleği ile GPU, HMB3’e nazaran 7 kat daha süratli belleğe direkt erişime sahip. NVIDIA NVLink Switch System ile birlikte, 256 adede kadar NVLink ilişkili GPU üzerinde çalışan tüm GPU iş parçacıkları, yüksek bant genişliğinde 150 terabayta (TB) kadar belleğe erişebiliyor. Bu tasarım yeni DGX harika bilgisayarında kullanılacak. Enerji verimliliği
NVIDIA Grace CPU, klâsik x86-64 platformlarının watt başına iki katı performans sunuyor. Nvidia’ya nazaran bu CPU dünyanın en süratli Arm bilgi merkezi işlemcisi pozisyonunda. Grace CPU, 72 Neoverse V2 Armv9 çekirdeğini ECC’li 480 GB’a kadar sunucu sınıfı LPDDR5X bellekle birleştiriyor. Bu tasarım bant genişliği, güç verimliliği, kapasite ve maliyet ortasında uygun istikrarın kurulmasını sağlıyor. Sekiz kanallı DDR5 dizaynıyla karşılaştırıldığında Grace CPU LPDDR5X bellek alt sistemi, saniyede gigabayt başına sekizde bir güçle yüzde 53’e kadar daha fazla bant genişliği sağlıyor. Performans ve Hız
GH200 Grace Hopper Superchip’in GPU tarafında ise Hopper H100 yer alıyor. H100, Nvidia’nın dokuzuncu jenerasyon bilgi merkezi GPU’su pozisyonunda ve evvelki kuşak Nvidia A100 Tensor Core GPU’ya kıyasla büyük ölçekli yapay zeka ve HPC iş yüklerinde devasa performans sıçramaları getiriyor. 
Yeni Hopper GPU mimarisini temel alan NVIDIA H100 GPU, birçok yeniliğe sahip: Yeni dördüncü kuşak Tensor Cores, çok daha geniş bir yapay zeka ve HPC misyonları yelpazesinde her zamankinden daha süratli matris hesaplamaları gerçekleştiriyor. Yeni Transformer Engine, H100’ün evvelki GPU kuşağına kıyasla 9 kata kadar daha süratli yapay zeka eğitimi ve 30 kata kadar daha süratli yapay zeka çıkarımı sunmasını sağlıyor. Secure Multi-Instance GPU (MIG), daha küçük iş yüklerinde hizmet kalitesini (QoS) en üst seviyeye çıkarmak için GPU’yu izole edilmiş, gerçek boyutta örneklere ayırıyor. GH200 Grace Hopper Superchip’li sistemlerin bu yılın sonlarına hakikat piyasaya çıkması bekleniyor. Avrupa ve ABD’deki global hiper ölçekleyiciler ve harika bilgi süreç merkezleri, GH200 dayanaklı sistemlere erişebilecek birkaç müşteri ortasında yer alıyor.
