利用Nvidia Tesla V100 GPU進行AI和HPC工作負載

2019-10-06 14:37:23    來源:    作者:

微軟正在為其云數(shù)據(jù)中心配備來自Nvidia的新型高性能GPU,使客戶對其人工智能和高性能計算計劃抱有更大的野心。

GPU希望滿足使用機器學(xué)習(xí)和其他技術(shù)為其智能應(yīng)用程序和服務(wù)提供動力的企業(yè)的AI工作負載,在云計算公司中風(fēng)靡一時。Amazon Web Services,Google和IBM都提供基于GPU的云實例。

微軟也提供了一系列GPU云計算選擇,每種選擇都有自己的價格,性能和成本特征。微軟Azure計算主管Corey Sanders表示,很快,客戶將可以選擇一種更高的高性能選項。

在接下來的幾周內(nèi),該公司將啟動NCv3的Beta版,NCv3是基于GPU制造商Nvidia的Tesla V100硬件的Azure虛擬機(VM)系列。

NCv3系列虛擬機將使用Nvidia的Tesla V100 GPU,這是Nvidia的最新GPU。像我們以前的GPU尺寸一樣,Azure是唯一具有專用InfiniBand互連的云,以實現(xiàn)難以置信的快速多VM計算。”一個11月13日公布。“我們的GPU尺寸還提供PCIe配置,并直接支持Azure高級存儲。”

Nvidia的數(shù)據(jù)中心級Tesla V100 GPU在5月的GPU技術(shù)大會上首次亮相,該公司基于該公司的Volta GPU架構(gòu)。第七代GPU芯片架構(gòu)包含210億個晶體管,經(jīng)過深度學(xué)習(xí)工作負載培訓(xùn)后,可以提供100個傳統(tǒng)CPU的等效性能。

對NCv3系列實例的預(yù)覽訪問將首先在弗吉尼亞州的美國東部Azure地區(qū)提供。微軟在這里接受注冊。

當(dāng)然,微軟并不是唯一基于Nvidia Tesla V100的云實例的提供商。10月25日,亞馬遜推出了新的EC2實例,該實例具有多達8個GPU,128GB GPU內(nèi)存,64個虛擬CPU和488GB主內(nèi)存。

Nvidia Volta GPU在公共云和服務(wù)器市場上都在不斷發(fā)展。

阿里巴巴,亞馬遜網(wǎng)絡(luò)服務(wù),百度,甲骨文,騰訊以及微軟當(dāng)然都宣布了基于Volta的云產(chǎn)品。在服務(wù)器制造商中,戴爾EMC,惠普企業(yè)(HPE),華為,IBM和聯(lián)想都采用了該技術(shù)。

同時,桑德斯說,另外兩個基于GPU的Azure虛擬機系列將很快退出其預(yù)覽狀態(tài)并接受生產(chǎn)工作負載。12月1日,Azure NCv2和ND系列虛擬機將在美國,歐洲和亞洲全面上市。

NCv2虛擬機最多使用四個Nvidia Tesla P100 GPU和低延遲網(wǎng)絡(luò)技術(shù)InfiniBand來加速高性能計算(HPC)工作負載。ND系列最多使用四個Nvidia Tesla P40 GPU和24GB GPU內(nèi)存來訓(xùn)練AI模型并執(zhí)行深度學(xué)習(xí)。

桑德斯確信,微軟預(yù)先配置的數(shù)據(jù)科學(xué)虛擬機(基于云的大數(shù)據(jù)分析產(chǎn)品)的用戶將不會落伍。該公司正在更新服務(wù)的圖像,以便用戶可以利用新GPU提供的改進性能。

鄭重聲明:本文版權(quán)歸原作者所有,轉(zhuǎn)載文章僅為傳播更多信息之目的,如作者信息標(biāo)記有誤,請第一時間聯(lián)系我們修改或刪除,多謝。