AWS采用Nvidia的Tesla T4芯片進(jìn)行AI推理

2019-06-18 13:16:20    來源:    作者:

亞馬遜的AWS今天宣布推出采用Tesla T4 GPU的新EC2實(shí)例,并表示將在未來幾周內(nèi)通過G4實(shí)例向客戶提供。T4也將通過適用于Kubernetes的Amazon Elastic Container服務(wù)提供。

“它將采用Nvidia T4處理器,專為機(jī)器學(xué)習(xí)而設(shè)計(jì),并幫助我們的客戶縮短在邊緣進(jìn)行推理所需的時(shí)間 - 響應(yīng)時(shí)間真正重要 - 同時(shí)降低成本,”AWS計(jì)算副總裁馬特加曼今天在圣何塞州立大學(xué)的主題演講中表示。

新實(shí)例將能夠在云中同時(shí)利用多達(dá)8個(gè)T4 GPU。

去年9月,Nvidia為數(shù)據(jù)中心推出了T4。Tesla T4采用圖靈架構(gòu),包含2,560個(gè)CUDA內(nèi)核和320個(gè)Tensor內(nèi)核,處理查詢的能力比CPU快近40倍。

自從Nvidia首次亮相GPU以來,它已經(jīng)被整合到由Cisco,Dell EMC和Hewlett Packard Enterprise等公司運(yùn)營的數(shù)據(jù)中心中。

上圖:Nvidia T4

Nvidia還宣布推出用于自動(dòng)駕駛的Constellation平臺(tái),用于自動(dòng)駕駛汽車的安全力場(chǎng),用于嵌入式設(shè)備的Jetson Nano計(jì)算機(jī)以及在新的傘形名稱CUDA-X AI下重組40多個(gè)Nvidia深度學(xué)習(xí)加速庫的普遍可用性。

CUDA-X AI庫可與流行的框架(如MXNET,PyTorch和TensorFlow)配合使用。

今天也是如此:Nvidia的研究人員介紹了GauGAN,這是一個(gè)人工智能系統(tǒng),訓(xùn)練有100萬張F(tuán)lickr照片,可以創(chuàng)建逼真的風(fēng)景圖像。

鄭重聲明:本文版權(quán)歸原作者所有,轉(zhuǎn)載文章僅為傳播更多信息之目的,如作者信息標(biāo)記有誤,請(qǐng)第一時(shí)間聯(lián)系我們修改或刪除,多謝。