很多朋友不知道【Arm亮出AI軟硬件全家桶，賦能終端側(cè)AI快速落地】，今天小綠就為大家解答一下。

　　并且，在Arm看來，CPU是唯一可以確保運(yùn)行未來網(wǎng)絡(luò)的計(jì)算引擎，因此對(duì)于可以解鎖 Arm CPU 最高性能的Kleidi，無疑是開發(fā)人員解鎖AI應(yīng)用的最佳利器。

版權(quán)所有，未經(jīng)許可不得轉(zhuǎn)載

　　Kleidi就是這把“鑰匙”，它不僅包含面向AI工作負(fù)載的KleidiAI，還有著面向計(jì)算機(jī)視覺應(yīng)用的KleidiCV。但究其根本，Arm做Kleidi最核心的目的，就是要確保開發(fā)者能夠快速獲得開發(fā)生成式AI應(yīng)用所需的性能、工具和軟件庫。簡(jiǎn)單理解，KleidiAI是一套面向AI框架開發(fā)者的計(jì)算內(nèi)核，像PyTorch、Tensorflow、MediaPipe這樣的熱門AI框架都已經(jīng)集成到KleidiAI中了，這對(duì)于加速主流AI大模型是十分重要的。

　　一方面，AI技術(shù)的不斷發(fā)展，對(duì)手機(jī)、PC等智能設(shè)備芯片的功耗、速度等都提出更高要求，并且具有極強(qiáng)的科技前瞻性，同時(shí)也能給產(chǎn)品帶來更多全新的創(chuàng)新點(diǎn)。

　　在智能科技的浪潮中，近兩年快速崛起的生成式AI，已成為推動(dòng)手機(jī)、PC等智能設(shè)備行業(yè)發(fā)展的關(guān)鍵力量。但生成式AI對(duì)硬件快速賦能的背后，也對(duì)算力、存儲(chǔ)等方面提出了新的需求，因此這對(duì)芯片廠商、終端廠商、應(yīng)用開發(fā)者等都提出了新的挑戰(zhàn)。

　　另一方面，行業(yè)從“硬件定義產(chǎn)品”躍遷到“AI定義產(chǎn)品”，AI愈發(fā)彰顯出中樞價(jià)值，發(fā)揮的作用越來越重要。

　　據(jù)悉，Arm終端CSS得益于Armv9.2的能效優(yōu)勢(shì)與 3nm制程的CPU和GPU物理實(shí)現(xiàn)，以及持續(xù)的軟件優(yōu)化，讓它在性能方面有了很大的飛躍。作為Arm最快的安卓平臺(tái)，在一些更接近現(xiàn)實(shí)用例的測(cè)試場(chǎng)景中，Arm終端CSS的頭部流行應(yīng)用平均啟動(dòng)時(shí)間比去年的全面計(jì)算解決方案(TCS23)加快了33%，網(wǎng)頁瀏覽速度加快了60%。而在包含了光追和可變速率著色的七項(xiàng)圖形基準(zhǔn)測(cè)試當(dāng)中，其峰值圖形性能平均增長(zhǎng)也達(dá)到了30%。

　　值得注意是，端側(cè)AI的部署的關(guān)鍵不僅在芯片，更重要的是芯片底層架構(gòu)、IP設(shè)計(jì)等。

　　因而，作為移動(dòng)計(jì)算“根基”提供者Arm，也在積極拓展自身業(yè)務(wù)邊界，為行業(yè)提供更高效、強(qiáng)大的算力支撐。近幾年，Arm已經(jīng)從IP提供商轉(zhuǎn)型為一家計(jì)算平臺(tái)公司，在致力于IP授權(quán)業(yè)務(wù)的同時(shí)，也專注于為智能產(chǎn)業(yè)提供完整且全面的計(jì)算解決方案。

　　為了迎合當(dāng)下生成式AI的發(fā)展勢(shì)頭，Arm在今年的新品發(fā)布上，也將AI作為了關(guān)鍵的發(fā)力點(diǎn)。近日，面向終端領(lǐng)域，Arm推出了終端計(jì)算子系統(tǒng) (CSS)，囊括最新的Armv9.2 CPU、Arm Immortalis GPU、基于三納米工藝生產(chǎn)就緒的CPU和GPU物理實(shí)現(xiàn)，以及最新的CoreLink系統(tǒng)互連和系統(tǒng)內(nèi)存管理單元 (SMMU)。此外，Arm也同步推出了Arm Kleidi軟件庫，助力軟件開發(fā)者無縫取得Arm CPU上的最佳性能，其中包含面向AI工作負(fù)載的KleidiAI和面向計(jì)算機(jī)視覺應(yīng)用的KleidiCV。

　　在生成式AI加速革新移動(dòng)生態(tài)的大背景下，Arm不僅給予了硬件更強(qiáng)的性能表現(xiàn)，還為開發(fā)者提供了完善、高效的解決方案，表現(xiàn)出Arm對(duì)整個(gè)端側(cè)AI生態(tài)的重視和擁抱，Arm對(duì)于引領(lǐng)移動(dòng)生態(tài)抓住生成式AI機(jī)遇、構(gòu)建新應(yīng)用生態(tài)并為用戶創(chuàng)造新價(jià)值的決心顯而易見。

　　而在GPU方面的提升，也是Arm此次重點(diǎn)發(fā)力的方向。全新的 Immortalis-G925 GPU 是 Arm 至今最強(qiáng)大的 GPU，其專為旗艦移動(dòng)設(shè)備設(shè)計(jì)，在各種圖形應(yīng)用中的性能提升達(dá) 37%，在 AI 和 ML 網(wǎng)絡(luò)上的性能提升達(dá) 34%。而包括 Arm Mali-G725 和 Mali-G625 GPU 在內(nèi)的全新GPU 系列具有高度可擴(kuò)展性，適用于從高端手機(jī)到智能手表和 XR 可穿戴設(shè)備的廣泛市場(chǎng)。

　　值得一提的是，硬件上的高算力、高能效一直以來都是Arm的“絕活”，因而終端CSS能有這樣的表現(xiàn)其實(shí)并不讓人意外。但作為移動(dòng)設(shè)備端AI變革的關(guān)鍵變量，Arm顯然意識(shí)到了它需要為這個(gè)生態(tài)的建設(shè)提供更多的便利，尤其是對(duì)于開發(fā)者群體，需要讓他們能夠更加高效、便捷地開發(fā)、部署，才能加速構(gòu)建涵蓋全場(chǎng)景的端側(cè)AI生態(tài)。因而，Arm為所有開發(fā)者提供了一把可以加速打開這個(gè)市場(chǎng)的“鑰匙”。

　　寫在最后：如今Arm終端CSS出色的架構(gòu)升級(jí)、性能和能效的大幅提升為功能更豐富、性能更強(qiáng)、更智能的終端設(shè)備鋪路，擴(kuò)展了移動(dòng)設(shè)備的可能性和能力。同時(shí)Arm在軟件層面的開發(fā)工具和平臺(tái)則讓開發(fā)者可以快速地將這些Arm的技術(shù)優(yōu)勢(shì)落地到應(yīng)用和產(chǎn)品中，可以說Arm通過全面的布局，賦能終端側(cè)AI快速落地。

　　這也是為什么，芯片、終端廠商最近一直在新品上強(qiáng)調(diào)AI特性的原因。

　　之所以這么說，是因?yàn)辇堫^企業(yè)有其特殊性，它的一舉一動(dòng)代表不僅是行業(yè)此刻的動(dòng)向，更是行業(yè)的將來時(shí)、發(fā)展的“風(fēng)向標(biāo)”。

　　可以說，在生成式AI引領(lǐng)的智能設(shè)備發(fā)展的新浪潮下，Arm為了加速讓生成式AI融入到智能產(chǎn)品之中，通過發(fā)布一系列先進(jìn)的硬件、軟件和工具，從而幫助芯片、終端廠商們探索更適合端側(cè)AI的技術(shù)路線，把生成式AI智能設(shè)備，所帶來的體驗(yàn)構(gòu)想變成現(xiàn)實(shí)，讓AI普惠用戶。

　　當(dāng)下，“端側(cè)AI”路線無疑是智能設(shè)備領(lǐng)域的確定性趨勢(shì)。但想要讓端側(cè)AI被大眾廣泛接受，真正普及化，充足性能的硬件架構(gòu)、算力和強(qiáng)勁的軟件算法才是關(guān)鍵。

　　在CPU方面，Arm Cortex-X925 CPU的主頻可以達(dá)到3.8GHz，配合微架構(gòu)的改進(jìn)，其單線程性能提高了36%，是Cortex-X推出以來取得最高IPC同比增幅的CPU；而在最為重要的AI方面，3nm的Cortex-X925的token首次響應(yīng)時(shí)間提高了41%。AI 性能的提升得益于微架構(gòu)的顯著演進(jìn)，利用了迄今為止最寬的解碼和矢量設(shè)計(jì)所帶來的巨幅提升，實(shí)現(xiàn)了50% TOPS的增長(zhǎng)。

　　這也意味著芯片領(lǐng)域“底層設(shè)計(jì)”的更新，才是將行業(yè)AI漣漪變?yōu)槔顺钡年P(guān)鍵。換言之，只有像Arm這樣的行業(yè)巨頭，它的舉動(dòng)，才將深刻影響行業(yè)的走向。

　　Arm其實(shí)很早之前就注意到AI對(duì)于智能設(shè)備行業(yè)的影響，在2021年就推出了專為性能和 AI 而設(shè)計(jì)的 Armv9 架構(gòu)，并且對(duì)其計(jì)算能力、安全性、穩(wěn)健性等方面不斷優(yōu)化，也正是其提早布局，讓它在生成式AI爆發(fā)的關(guān)鍵節(jié)點(diǎn)，推出了可面向?AI 智能手機(jī)和 PC等廣泛終端領(lǐng)域的Arm終端?CSS。

Arm全面賦能端側(cè)AI生態(tài)發(fā)展

端側(cè)AI背后，到底要比拼什么？

以上問題已經(jīng)回答了。如果你想了解更多，請(qǐng)關(guān)新經(jīng)網(wǎng)網(wǎng)站 (http://jinggongfamen.com.cn/)