如果制造Ampere A100 GPU Tensor Core GPU來(lái)徹底改變數(shù)據(jù)中心的AI處理工作量以解決行業(yè)規(guī)模的問(wèn)題,那么NVIDIA的新BlueField數(shù)據(jù)處理單元(DPU)就是為加速數(shù)據(jù)中心基礎(chǔ)架構(gòu)及其服務(wù)而量身定制的。
隨著數(shù)據(jù)中心越來(lái)越多地由軟件定義,以使其具有靈活的功能,運(yùn)行此類(lèi)數(shù)據(jù)中心的基礎(chǔ)架構(gòu)的負(fù)擔(dān)也隨之增加。NVIDIA指出,在這樣的數(shù)據(jù)中心架構(gòu)中,CPU可能僅消耗20%到30%的處理能力來(lái)管理網(wǎng)絡(luò),存儲(chǔ),安全性,并且隨著系統(tǒng)上增加了更多微服務(wù),這種負(fù)載可能會(huì)進(jìn)一步增加。
所述布盧菲爾特-2家族的PCIe的附加的DPU變槳作為現(xiàn)代加速數(shù)據(jù)中心,在那里CPU,GPU和的DPU被組合以形成一個(gè)完全可編程的,AI-驅(qū)動(dòng)單數(shù)處理單元的下一個(gè)基本要素。通過(guò)優(yōu)化的節(jié)點(diǎn)來(lái)卸載關(guān)鍵的基礎(chǔ)架構(gòu)處理任務(wù),例如網(wǎng)絡(luò),存儲(chǔ)和安全性,CPU得以釋放,以處理企業(yè)應(yīng)用程序更有價(jià)值的任務(wù),例如在DPU加速服務(wù)器上托管更多VM和容器。
NVIDIA進(jìn)一步聲稱,單個(gè)BluField-2 DPU可以提供可能消耗多達(dá)125個(gè)傳統(tǒng)CPU內(nèi)核的數(shù)據(jù)中心服務(wù),并且通過(guò)利用其最近對(duì)Mellanox的收購(gòu)來(lái)實(shí)現(xiàn)這一目標(biāo),該收購(gòu)利用以太網(wǎng)和以太網(wǎng)提供了至關(guān)重要的高速服務(wù)器間互連。 InfiniBand網(wǎng)絡(luò)以及打算收購(gòu)的ARM合作伙伴。
NVIDIA BlueField-2 DPU具有NVIDIA Mellanox ConnectX-6 Dx SmartNIC,具有八個(gè)64位ARM A72內(nèi)核和兩個(gè)VLIW加速引擎。它是完全可編程的,可提供200Gbps的數(shù)據(jù)傳輸速率,并加速關(guān)鍵數(shù)據(jù)中心的安全性,網(wǎng)絡(luò)和存儲(chǔ)任務(wù),包括隔離,根信任,密鑰管理,GPU Direct,彈性塊存儲(chǔ),數(shù)據(jù)壓縮等。
另一塊PCIe附加卡是NVIDIA BlueField-2X DPU,它具有大量的AI和CUDA功能,這些功能得益于第三代Tensor內(nèi)核和增加的NVIDIA Ampere,可應(yīng)用于數(shù)據(jù)中心安全,網(wǎng)絡(luò)和存儲(chǔ)任務(wù)GPU。通過(guò)DPU與PCIe Gen.4互連之間的接口,它能夠使用AI進(jìn)行實(shí)時(shí)安全分析,包括識(shí)別可能指示機(jī)密數(shù)據(jù)被盜的異常流量,加密流量分析,惡意活動(dòng)以及動(dòng)態(tài)安全流程,包括自動(dòng)回復(fù)。
NVIDIA新的DOCA SDK支持DPU的發(fā)布,可幫助開(kāi)發(fā)人員在DPU加速的數(shù)據(jù)中心基礎(chǔ)架構(gòu)服務(wù)上構(gòu)建應(yīng)用程序,就像NVIDIA CUDA使開(kāi)發(fā)人員可以構(gòu)建GPU加速的應(yīng)用程序一樣。DOCA為開(kāi)發(fā)人員提供了一個(gè)全面的開(kāi)放平臺(tái),用于構(gòu)建在BlueField DPU系列上運(yùn)行的軟件定義的,硬件加速的網(wǎng)絡(luò),存儲(chǔ),安全和管理應(yīng)用程序。DOCA還完全集成到了NVIDIA NGC(一個(gè)軟件目錄)中,該目錄為第三方應(yīng)用程序提供商提供了便捷的容器化軟件環(huán)境,以利用先進(jìn)的DPU數(shù)據(jù)中心加速服務(wù)以及向客戶開(kāi)發(fā),認(rèn)證和分發(fā)應(yīng)用程序。
BlueField-2 DPU現(xiàn)在開(kāi)始提供樣品,并有望在2021年應(yīng)用于領(lǐng)先服務(wù)器制造商的新系統(tǒng)中。BlueField-2X DPU正在開(kāi)發(fā)中,預(yù)計(jì)也將在2021年上市。同時(shí),NVIDIA已經(jīng)對(duì)BlueField-3設(shè)計(jì)進(jìn)行了畫(huà)龍點(diǎn)睛,BluField-4也正在籌備中,計(jì)劃于2023年上市。路線圖揭示的是進(jìn)一步增強(qiáng)合作伙伴,開(kāi)發(fā)人員和客戶的信心,使DPU能夠滿足現(xiàn)代數(shù)據(jù)中心的需求。