12月，第十九屆CCF全國嵌入式系統(tǒng)大會（CCF ESTC 2021）在山東青島召開。本屆會議由中國計算機學(xué)會（CCF）主辦，CCF嵌入式系統(tǒng)專委與西安電子科技大學(xué)青島技術(shù)研究院聯(lián)合承辦。旨在加強從事嵌入式系統(tǒng)研究領(lǐng)域國內(nèi)外學(xué)者之間的聯(lián)系與交流，了解相關(guān)國際發(fā)展動態(tài)和研究熱點，促進我國多學(xué)科交叉融合與嵌入式系統(tǒng)產(chǎn)業(yè)的發(fā)展。華為昇騰CANN亮相本次大會，與行業(yè)分享創(chuàng)新技術(shù)，為人工智能技術(shù)融入產(chǎn)業(yè)帶來新的啟發(fā)。

會議邀請了院士和國內(nèi)外嵌入式系統(tǒng)領(lǐng)域的頂級專家學(xué)者作大會特邀報告，還通過專題論壇和分會場口頭報告、科技成果展示、學(xué)術(shù)論文交流等形式多樣的活動充分進行技術(shù)交流，推動“政產(chǎn)學(xué)研用”合作，引領(lǐng)技術(shù)進步，支撐產(chǎn)業(yè)發(fā)展。

會上，華為昇騰CANN生態(tài)高級總監(jiān)王海彬發(fā)表了《昇騰CANN釋放硬件澎湃算力》的主題演講，分享在當(dāng)前波濤洶涌的AI浪潮中，華為如何借助異構(gòu)計算架構(gòu)CANN（Compute Architecture for Neural Networks）進行技術(shù)創(chuàng)新和生態(tài)開展，持續(xù)使能科研和產(chǎn)業(yè)關(guān)鍵突破，推動技術(shù)行業(yè)落地。

于AI浪潮中迎接挑戰(zhàn)

王海彬提到，AI作為新的通用目的技術(shù)將深刻推動社會發(fā)展進程。目前的人工智能正從單點技術(shù)走向真正的通用技術(shù)，同時AI計算也面臨計算新范式、異構(gòu)計算興起、對大集群的需求日益提升，推理部署場景復(fù)雜、效率低下等問題，如何讓AI用得上、用得起、用得好成為人工智能發(fā)展的關(guān)鍵。華為推出的異構(gòu)計算架構(gòu)CANN將助力解決人工智能技術(shù)面臨的算力問題、多樣性場景下開發(fā)效率低、編程易用性差的諸多現(xiàn)狀。

CANN 5.0 厚積薄發(fā)，以硬實力破解困境

CANN作為昇騰處理器的AI異構(gòu)計算架構(gòu)，對上支持業(yè)界多種主流的AI框架，對下友好適配多異構(gòu)處理器，發(fā)揮呈上啟下的關(guān)鍵作用，是提升昇騰AI處理器計算效率的關(guān)鍵平臺，同時針對多樣化應(yīng)用場景，提供高效易用的編程方式，成為了破解當(dāng)前人工智能技術(shù)困境的關(guān)鍵。

華為昇騰CANN生態(tài)高級總監(jiān)王海彬《昇騰CANN釋放硬件澎湃算力》主題演講

CANN1.0誕生于2018年，并在快速迭代過程中，從軟件層面持續(xù)進行技術(shù)沉淀并迎來了一個又一個突破。2020年底，基于CANN的鵬城云腦II推出，并獲得 AIPerf榜單第一；2021年4月，依托CANN關(guān)鍵技術(shù)的中文NLP超大模型盤古發(fā)布，其參數(shù)超過2000億，具備業(yè)界領(lǐng)先的語言理解和模型生成能力，帶來了前所未有的商業(yè)價值。CANN5.0作為全新一代AI異構(gòu)計算架構(gòu)版本，通過軟硬件結(jié)合優(yōu)化再度獲得大幅性能提升，將昇騰AI處理器的澎湃算力發(fā)揮到極致。

原本在3.0版本需要6.25分鐘訓(xùn)練的BERT模型，在CANN 5.0的加持下縮短了一倍多，只需2.69分鐘就能完成訓(xùn)練；同時，原本需要28秒訓(xùn)練的ResNet模型，通過5.0版本縮短到了16秒。此外，常用小規(guī)模訓(xùn)練場景（分類、檢測、語義分割、NLP等）實現(xiàn)性能翻倍；在分類、翻譯、檢測典型推理場景下，性能也可達到30%到140%的提升。

CANN5.0性能大幅提升的關(guān)鍵在于技術(shù)的持續(xù)突破和創(chuàng)新。通過深耕細作不斷挖掘昇騰AI處理器的潛能，CANN在軟件層面實現(xiàn)了更高效的任務(wù)調(diào)度和更智能的數(shù)據(jù)切分，借助任務(wù)自動流水、算子深度融合、自適應(yīng)梯度切分、AutoTune智能計算調(diào)優(yōu)等關(guān)鍵技術(shù)詮釋了昇騰AI極致性能的風(fēng)采。并依托自動分解和并行技術(shù)，將超大模型的處理同普通模型一樣簡單。

CANN5.0還提供了全套推理引擎軟件包ATC Suite1.0，面向客戶網(wǎng)絡(luò)提供圖級別、算子級別的自動調(diào)優(yōu)能力；同時通過強大的多媒體處理能力，能輕松應(yīng)對多路復(fù)雜的音視頻處理場景；支持在線及離線推理方式，助力開發(fā)者更加靈活地實現(xiàn)高性能推理應(yīng)用。

生態(tài)全面開展，CANN與開發(fā)者攜手并進

作為華為昇騰CANN生態(tài)高級總監(jiān)，王海彬分享了在過去的一年中，CANN面向開發(fā)者的生態(tài)開展情況。

迄今為止，CANN的社區(qū)活躍度較去年提升3倍；累計與超過200家高校研究團隊開展合作，眾智項目貢獻400+個模型及800+個算子；目前CANN已經(jīng)支持昇騰開發(fā)者人數(shù)達到58W， 其中核心開發(fā)者近9000人，已經(jīng)成為了社區(qū)貢獻的主力。并在接下來的2022年中，希望有更多的開發(fā)者與CANN攜手點燃燎原之火，共建昇騰AI繁榮生態(tài)。

在洶涌的AI時代浪潮中，AI技術(shù)領(lǐng)域面臨重重困難和挑戰(zhàn)，CANN作為人工智能基礎(chǔ)軟件平臺，將持續(xù)在基礎(chǔ)能力和關(guān)鍵技術(shù)上突破創(chuàng)新，并肩負起時代賦予的使命任務(wù)，和萬千個人開發(fā)者、專家學(xué)者、行業(yè)伙伴一起，共迎挑戰(zhàn)，共創(chuàng)機遇，共享未來！

原文標(biāo)題：昇騰CANN，?硬?核?！

文章出處：【微信公眾號：華為計算】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。