Nvidia Corp.聲稱在人工智能方面又有一個(gè)重大突破,這次在語言理解方面創(chuàng)造了新記錄,可以在各種軟件應(yīng)用程序中實(shí)現(xiàn)實(shí)時(shí)對(duì)話式AI。
Nvidia表示,實(shí)時(shí)對(duì)話式AI是想要建立聊天機(jī)器人和虛擬助手的公司的必備工具,這些聊天機(jī)器人和虛擬助手可以與真實(shí)的人進(jìn)行對(duì)話,同時(shí)展現(xiàn)出“人類層面”的理解力。
英偉達(dá)應(yīng)用深度學(xué)習(xí)研究副總裁布萊恩·卡坦扎羅(Bryan Catanzaro)在新聞發(fā)布會(huì)上說:“對(duì)話式AI在全世界擁有大量應(yīng)用程序。” “但這帶來了很多挑戰(zhàn)。業(yè)界一直在朝著更大的語言模型發(fā)展,但是它們很難訓(xùn)練和部署。”
最新的里程碑包括將最先進(jìn)的AI語言模型之一《變形金剛的雙向編碼器表示》的培訓(xùn)時(shí)間從幾天縮短到53分鐘。Nvidia的系統(tǒng)還能夠?qū)⑼瓿葾I推理所需的時(shí)間縮短到僅兩毫秒,這足以應(yīng)付人們期望的那種快節(jié)奏的對(duì)話。
該公司表示,通過使用優(yōu)化的軟件及其DGX SuperPOD系統(tǒng),在不到一小時(shí)的時(shí)間內(nèi)訓(xùn)練BERT-Base的世界紀(jì)錄,這個(gè)過程可能需要數(shù)周的時(shí)間。
Catanzaro說,Nvidia的TensorRT平臺(tái)以僅2毫秒的延遲就創(chuàng)下了BERT推理的世界紀(jì)錄,完全在人類水平精度要求的10毫秒閾值之內(nèi)。
通過最新的突破,Nvidia的目標(biāo)無非是推動(dòng)“下一波對(duì)話式AI”的發(fā)展,而Catanzaro說,該公司已經(jīng)在這一方面取得了穩(wěn)固的進(jìn)展。
例如,英偉達(dá)一直與Microsoft Corp.密切合作,以在Bing中驅(qū)動(dòng)更準(zhǔn)確的搜索結(jié)果。
“ Bing與Nvidia緊密合作,使用Azure AI基礎(chǔ)架構(gòu)的一部分Nvidia GPU進(jìn)一步優(yōu)化了流行自然語言模型BERT的推理,這導(dǎo)致了去年Bing部署的Bing的搜索質(zhì)量排名上的最大改進(jìn),” Microsoft Bing Group計(jì)劃經(jīng)理Rangan Majumder在一份聲明中說。“與基于CPU的平臺(tái)相比,使用Azure Nvidia GPU進(jìn)行推理時(shí),延遲減少了兩倍,吞吐量提高了五倍,使Bing能夠?yàn)槿蛩锌蛻籼峁└嚓P(guān),更具成本效益的實(shí)時(shí)搜索體驗(yàn)。 ”
Constellation Research Inc.分析師Holger Mueller表示,英偉達(dá)在對(duì)話式AI方面的進(jìn)步非常重要,因?yàn)樵摷夹g(shù)正在改變?nèi)藗兣c軟件和設(shè)備進(jìn)行通信的方式,并將對(duì)企業(yè)工作的未來產(chǎn)生重大影響。
穆勒說:“人工智能平臺(tái)的競賽正在進(jìn)行中,諸如模型訓(xùn)練和執(zhí)行速度之類的因素決定了獲勝者。”
他還說,與微軟的合作對(duì)兩家公司都是一個(gè)關(guān)鍵的勝利。就Nvidia而言,這是因?yàn)镚oogle LLC和Amazon Web Services Inc.都在構(gòu)建自己的AI芯片,因此不太可能使用其硬件。他說,但是讓公有云公司采用其硬件對(duì)于Nvidia的長期成功很重要。
“對(duì)于微軟來說,它需要合作伙伴,因?yàn)樗形丛趦?nèi)部實(shí)現(xiàn)將算法應(yīng)用于硅片的努力,至少目前還沒有,”穆勒說。“微軟在Azure上倡導(dǎo)的現(xiàn)場可編程門陣列并未涵蓋對(duì)話型AI迅速發(fā)展的領(lǐng)域。”