9月25日,一年一度的云棲大會在杭州云棲小鎮(zhèn)開幕。
本屆云棲大會以“數(shù)·智”為主題,共設110余場峰會和論壇,聚集了世界上幾十個國家的上千名科學家、CTO、企業(yè)家,以及對技術(shù)充滿熱情的超過6萬名從業(yè)者和愛好者。
作為阿里巴巴平頭哥芯片合作伙伴,云天勵飛副總裁李愛軍受邀出席平頭哥芯片生態(tài)專場并發(fā)表主題分享,與阿里巴巴集團副總裁戚肖寧、臺積電(南京)有限公司總經(jīng)理羅鎮(zhèn)球、新思科技中國董事長兼全球副總裁葛群等行業(yè)專家一起探討5G時代芯片制造和架構(gòu)設計的新思考與新實踐。
李愛軍在《高性能 AI 邊緣計算芯片架構(gòu)與應用》的主題演講中提出, 5AIoT(5G+AI+IoT)時代將會帶來海量數(shù)據(jù)的處理需求,且實時處理的占比大幅提升。實時處理的需求、復雜場景下的邊緣計算能力,尤其是基于深度學習的神經(jīng)網(wǎng)絡計算能力,對芯片計算架構(gòu)提出了新的要求。
針對 5AIoT應用場景的這種需求,云天勵飛推出了一款面向視頻圖像分析應用、適合各種邊緣場景下深度學習神經(jīng)網(wǎng)絡推理加速的高性能異構(gòu)并行計算SoC芯片——DeepEye1000。
異構(gòu)多核并行計算架構(gòu)
李愛軍表示,DeepEye1000采用異構(gòu)多核并行計算架構(gòu)設計,集成阿里平頭哥玄鐵處理器(CPU)、自主產(chǎn)權(quán)神經(jīng)網(wǎng)絡處理器(NNP)、智能算子引擎、視覺數(shù)字信號處理器(DSP)、視頻編解碼器以及圖像編碼器等多個內(nèi)核和硬件加速單元。
自主神經(jīng)網(wǎng)絡計算引擎
李愛軍進一步指出,云天勵飛自主產(chǎn)權(quán)神經(jīng)網(wǎng)絡處理器(NNP)采用自研ASIP深度定制指令集,支持靈活可編程計算流;支持高能效混合精度計算,同時保證算法模型精度;通過計算存儲深度融合和動態(tài)存儲調(diào)度技術(shù),外部存儲訪問帶寬可大幅降低約77%。
與通用GPU相比,DeepEye1000單位性能提升20倍,單位能效提升100倍,系統(tǒng)時延降低200倍,具有低功耗、高能效、智升級、可編程等特點。
智能任務調(diào)度
李愛軍介紹,通過自主設計的神經(jīng)網(wǎng)絡處理器以及智能調(diào)度機制,DeepEye1000可以高效執(zhí)行各種算法的推理計算,實現(xiàn)高性能、低功耗的CNN網(wǎng)絡模型推理計算加速。
相比中斷處理機制,采用智能調(diào)度機制使檢測算法、跟蹤算法、識別算法的執(zhí)行時間分別減少約25%、35%、40%。
開放工具鏈
為了方便DeepEye1000的使用,云天勵飛為DeepEye1000提供了基于TVM打造的芯片工具鏈和軟件開發(fā)包(SDK),支持Caffe、MxNET、TensorFlow、ONNX等深度學習框架,支持一鍵部署。
“1+1+N”的AI城市綜合服務體系
分享最后,李愛軍稱,云天勵飛的目標是構(gòu)建“1+1+N”的AI城市綜合服務體系。將通過5G+AI+IoT的智能感知網(wǎng)絡觸角得到的數(shù)據(jù),經(jīng)過基于AI OS的城市大腦進行分析、判斷和決策,最終應用到城市大腦、新零售、工業(yè)檢測、機器人、智慧倉儲、智能家居等城市綜合服務的多種應用場景中。
與阿里平頭哥深度合作
此外,在下午舉辦的媒體見面會上,李愛軍強調(diào),DeepEye1000 芯片集成了阿里平頭哥的玄鐵 810 處理器。利用云天勵飛的神經(jīng)網(wǎng)絡處理器設計能力,結(jié)合平頭哥提供的 CPU 處理器能力,賦能高效、異構(gòu)多核視覺AI計算,Linux視覺框架助力AI應用極簡開發(fā),雙方協(xié)作,成功打造了云天勵飛面向視覺應用的神經(jīng)網(wǎng)絡推理加速芯片。
云天勵飛副總裁李愛軍(右二)出席媒體見面會
同時,李愛軍表示非常認可平頭哥“無劍“平臺的服務,本地化服務貼心、工具鏈升級快,對平頭哥一直積極打造行業(yè)生態(tài)非常贊賞。
云棲大會的十年,見證了中國數(shù)字經(jīng)濟的大發(fā)展,更成為數(shù)字經(jīng)濟未來的風向標。未來5G時代,云天勵飛將繼續(xù)與阿里巴巴平頭哥進一步加強AI芯片領(lǐng)域的創(chuàng)新合作,為打造“中國芯”共同發(fā)力。
特別提醒:本網(wǎng)內(nèi)容轉(zhuǎn)載自其他媒體,目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實,對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本站不作任何保證或承諾,并請自行核實相關(guān)內(nèi)容。本站不承擔此類作品侵權(quán)行為的直接責任及連帶責任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系我們,本站將會在24小時內(nèi)處理完畢。