這些服務(wù)器專為需要低延遲和高應(yīng)用性能的AI應(yīng)用所設(shè)計。2UNVIDIAHGXA1004-GPU系統(tǒng)適于大規(guī)模部署具有高速CPU-GPU和GPU-GPU互連的現(xiàn)代AI訓(xùn)練叢集。而Supermicro2U2-Node系統(tǒng)則可通過共享電源供應(yīng)和冷卻風(fēng)扇來減少能耗和成本,降低碳排放,同時可匹配工作負(fù)載選用多款GPU加速器。這兩款系統(tǒng)皆內(nèi)含由目前最新的IntelSoftwareGuardExtensions(IntelSGX)實現(xiàn)的高級安全功能。
Supermicro總裁暨首席執(zhí)行官CharlesLiang表示:“Supermicro工程師再度為我們豐富多元的高性能GPU服務(wù)器系列打造出了全新產(chǎn)品,相比于市場上的其他設(shè)計更能節(jié)省成本、空間以及能耗。憑借創(chuàng)新的設(shè)計,我們?yōu)榭蛻舻腁I和HPC(高性能運算)工作負(fù)載,提供可搭載4個NVIDIAHGXA100(代號:Redstone)GPU加速器的2U高密度GPU系統(tǒng)。此外,我們的2U2節(jié)點系統(tǒng)經(jīng)過獨特設(shè)計,可共享電源供應(yīng)和散熱元件,進(jìn)而降低營運成本以及對環(huán)境的影響。”
此款2UNVIDIAHGXA100服務(wù)器采用第3代IntelXeon可擴展處理器平臺,支持IntelDeepLearningBoostTechnology,且針對分析、訓(xùn)練和推理工作負(fù)載進(jìn)行了優(yōu)化設(shè)計。此系統(tǒng)可搭載4顆A100GPU并以NVIDIANVLink技術(shù)完全互連,提供高達(dá)2.5petaflops的AI性能。其高達(dá)320GB的GPU內(nèi)存,可加速企業(yè)數(shù)據(jù)科學(xué)以及AI方面的突破。對于如BERT大型推理等復(fù)雜型對話式AI模型,此系統(tǒng)比上一代GPU的演算快了4倍,而在BERT大型AI訓(xùn)練方面則有3倍的性能提升。
此外,這些系統(tǒng)采用高級散熱和冷卻設(shè)計,成為優(yōu)先考慮節(jié)點密度和電源效率的高效能叢集的理想選擇。這些系統(tǒng)還可以采用液冷系統(tǒng),從而節(jié)省更多的運營成本。該平臺亦支持IntelOptane持續(xù)型內(nèi)存(PMem),在GPU上進(jìn)行處理之前,可以將更大的模型儲存在靠近CPU的內(nèi)存中。對于需要多系統(tǒng)互動的應(yīng)用,此系統(tǒng)還可以配備4張NVIDIAConnectX-6200Gb/s網(wǎng)速的InfiniBand卡,以1:1GPU-DPU的比例支持GPUDirectRDMA。
全新的2U2節(jié)點是一種節(jié)能的資源節(jié)省架構(gòu),設(shè)計能讓每個節(jié)點支持至多3張雙倍寬度的GPU。每個節(jié)點還配備一個具有多達(dá)40個核心、內(nèi)建AI及HPC加速器的第3代IntelXeon可擴展處理器。廣泛的AI、渲染和VDI應(yīng)用都能從這種CPU和GPU的平衡設(shè)計中受益。該系統(tǒng)配備Supermicro的高級I/O模塊(AIOM)擴充插槽,具有快速靈活的網(wǎng)絡(luò)連接功能,可在運行工作負(fù)載和處理深度學(xué)習(xí)模式時負(fù)荷龐大的數(shù)據(jù)流量,滿足高度需求的AI/ML應(yīng)用程序、深度學(xué)習(xí)訓(xùn)練和推理。本系統(tǒng)也是多運行個體的高級云游戲和許多其它計算密集型VDI應(yīng)用程序的理想選擇。此外,虛擬內(nèi)容交付網(wǎng)絡(luò)(vCDN)能滿足對流媒體服務(wù)日益增長的需求。系統(tǒng)內(nèi)建的備用的電源供應(yīng)器,能供任何一個節(jié)點都能在發(fā)生故障時使用相鄰節(jié)點的電源供應(yīng)器。
