安謀科技WAIC爆更：打出AIoT組合拳，NPU放大招，劇透下一代VPU，牽頭發(fā)起開源AIOS聯(lián)盟

智東西
作者 云鵬
編輯 心緣

智東西7月18日上海WAIC現(xiàn)場(chǎng)報(bào)道，剛剛，國(guó)內(nèi)芯片IP設(shè)計(jì)與服務(wù)領(lǐng)域的頭部廠商安謀科技正式發(fā)布了“星辰300”AIoT原型平臺(tái)和“周易”X3-Pro系列NPU兩款重磅產(chǎn)品，同時(shí)首次揭秘了下一代“玲瓏”VPU“武當(dāng)”的核心技術(shù)特性。

發(fā)布會(huì)現(xiàn)場(chǎng)，安謀科技牽頭發(fā)起“開源AIOS聯(lián)盟”，芯發(fā)科技、紫光展銳、輝羲智能、瑞芯微、面壁智能、RT-Thread、AutoCore、清華大學(xué)智能產(chǎn)業(yè)研究院、香港科技大學(xué)物理AI研究中心都加入了這一聯(lián)盟。

去年，安謀科技首次提出All in AI戰(zhàn)略，此次現(xiàn)場(chǎng)展示的云邊端的一系列解決方案中都能看到安謀科技的技術(shù)支持，從邊緣、云端到物理AI。

一、瞄準(zhǔn)萬物AI方向，亮出異構(gòu)AIoT算力平臺(tái)，打出CPU+NPU+Helium組合拳

當(dāng)前，模型小型化與智能化水平的不斷提升，小模型正在加速接近商用標(biāo)準(zhǔn)，推動(dòng)端側(cè)AI走向規(guī)模化落地，這也讓過去以“連接”為核心的IoT加速向以“認(rèn)知”為標(biāo)志的AIoT演進(jìn)。

在安謀科技看來，感知類數(shù)據(jù)重心在邊端側(cè)、實(shí)時(shí)性和自主性、隱私和數(shù)據(jù)主權(quán)、低功耗輕量級(jí)芯片技術(shù)，這是四種加速AIoT變革的動(dòng)力。

安謀科技“星辰”CPU產(chǎn)品線產(chǎn)品負(fù)責(zé)人朱曉鳴提到，嵌入式設(shè)備部署AI始終面臨功耗、時(shí)延、存儲(chǔ)等多重資源約束，對(duì)芯片底層設(shè)計(jì)提出了更高要求。CPU指令擴(kuò)展、通用小算力NPU、SRAM存內(nèi)計(jì)算是三條技術(shù)路徑。

目前，面向嵌入式計(jì)算領(lǐng)域，Arm已構(gòu)建起覆蓋Cortex-M CPU處理器、Helium矢量擴(kuò)展技術(shù)及Ethos NPU專用AI加速器的完整IP解決方案。

Arm Helium是Cortex-M CPU內(nèi)置的矢量擴(kuò)展技術(shù)，其相當(dāng)于一個(gè)“軟件可編程的加速器”，讓CPU更高效地處理向量計(jì)算。

在音頻編解碼場(chǎng)景下，采用了Helium技術(shù)的Armv8.1-M家族性能提升較為明顯，M85的提升幅度達(dá)到65%。在機(jī)器學(xué)習(xí)場(chǎng)景下，Helium帶來的性能提升最高達(dá)到8倍左右。

Ethos NPU系列包括Ethos-U55、U65及U85，面向不同算力需求的嵌入式場(chǎng)景，這些NPU可以為嵌入式設(shè)備提供更大計(jì)算力。

“星辰”系列已經(jīng)發(fā)布了三款產(chǎn)品，第四款產(chǎn)品預(yù)計(jì)明年亮相。此次朱曉鳴重磅發(fā)布了“星辰300”AIoT原型平臺(tái)——“星辰”CPU+Helium矢量擴(kuò)展+Ethos NPU的AIoT原型平臺(tái)。

第一代平臺(tái)選擇STAR-MC2（Cortex-M52）和Ethos-U55，代號(hào)“星辰300”，支持主流小模型。

在現(xiàn)場(chǎng)展區(qū)，我們看到安謀科技在FPGA平臺(tái)上搭建的“星辰300”系統(tǒng)，已經(jīng)跑通人臉探測(cè)、語音識(shí)別、關(guān)鍵字檢測(cè)和圖像超分等用例。

可以說，“星辰”CPU+Helium+Ethos NPU這一組合路徑，讓嵌入式設(shè)備在兼顧功耗與算力的同時(shí)有更好的AI性能。

二、首次解密“周易”X3-Pro NPU三大核心架構(gòu)突破，從低功耗IoT到高性能服務(wù)器全覆蓋

安謀科技NPU產(chǎn)品線負(fù)責(zé)人兼首席架構(gòu)師舒浩博士隨后登臺(tái)，分享了要讓AI智能體走向真實(shí)世界，NPU要如何“進(jìn)化”？

舒浩提到，當(dāng)前Agentic AI已經(jīng)到來，AI模型尤其是中小模型能力持續(xù)提升、推理范式正加速向AI智能體工作流演進(jìn)。與此同時(shí)，模型在應(yīng)用場(chǎng)景中的推理負(fù)載高度分化，邊端側(cè)AI的推理需求更是千差萬別。

在他看來，這些變化對(duì)AI計(jì)算底座提出了全新要求，使其不再單純追求峰值算力，而是將系統(tǒng)效率、場(chǎng)景適配性與落地部署能力作為核心考量。

目前AI模型能力快速提升：推理邏輯能力已經(jīng)超越人類、工程能力接近生產(chǎn)力級(jí)別、Agent能力快速提升。舒浩提到，模型能力已經(jīng)達(dá)到實(shí)用化要求，中小模型能力快速提升，AI計(jì)算需求不再集中于云端，邊端側(cè)AI推理迎來新的機(jī)遇和挑戰(zhàn)。

在舒浩看來，未來是AI智能體時(shí)代，感知、記憶、推理、行動(dòng)的持續(xù)循環(huán)模式成為未來主流，NPU需要從“一次性推理加速器”進(jìn)化為AI智能體的計(jì)算底座。

當(dāng)前大模型應(yīng)用場(chǎng)景推理負(fù)載是高度分化的，不同場(chǎng)景對(duì)性能指標(biāo)和系統(tǒng)資源的要求都不相同。

舒浩特別提到，邊端側(cè)AI不是云端AI的縮小版，而是由功耗、實(shí)時(shí)性、軟件、數(shù)據(jù)和可靠性共同定義的新計(jì)算市場(chǎng)，從個(gè)人終端設(shè)備、視覺與空間智能、工業(yè)與能源邊緣到邊緣節(jié)點(diǎn)與本地AI盒子。

去年安謀科技發(fā)布了“周易”X3 NPU，其專門為大模型而設(shè)計(jì)，此次舒浩正式公布了安謀科技最新的“周易”X3-Pro NPU，其定位是面向Agentic AI的全場(chǎng)景計(jì)算底座，未來會(huì)有不同的子系列產(chǎn)品，從Lite、Premium到Subsys。

使用統(tǒng)一的、分層的、場(chǎng)景化的計(jì)算架構(gòu)是周易”X3-Pro NPU的核心特點(diǎn)，其設(shè)計(jì)哲學(xué)是“一次適配，多芯復(fù)用；面向場(chǎng)景，靈活配置”，在多行業(yè)多產(chǎn)品中可復(fù)用模型適配、調(diào)優(yōu)、部署的工作和經(jīng)驗(yàn)，并滿足不同應(yīng)用場(chǎng)景的差異化要求，進(jìn)而提升研發(fā)效率。

在規(guī)格方面，“周易”X3-Pro在通用可編程、專用高效率、靈活可配置、面向未來可擴(kuò)展四個(gè)維度進(jìn)一步提升了能力，可以覆蓋從低功耗IoT設(shè)備到高性能邊緣服務(wù)器。

三、當(dāng)80%以上的AI數(shù)據(jù)來自視頻，VPU要如何突破編解碼效率瓶頸？

安謀科技VPU研發(fā)總監(jiān)黃鑫重點(diǎn)解讀了安謀科技在VPU方面的新品和技術(shù)突破。

黃鑫提到，當(dāng)前AI是視頻最大的消費(fèi)者，有超過80%的AI數(shù)據(jù)來自視頻，隨著視頻分辨率和數(shù)據(jù)量不斷攀升，專用于視頻編解碼處理的VPU已成為各類視頻應(yīng)用的核心引擎。

安謀科技“玲瓏”VPU在這一領(lǐng)域有長(zhǎng)期應(yīng)用。

此次黃鑫在演講中首次揭秘了新一代“玲瓏”VPU產(chǎn)品“武當(dāng)”的技術(shù)特性，并分享了其背后的AI端到端視頻編碼技術(shù)。

“玲瓏”VPU“武當(dāng)”繼承了前一代CAE技術(shù)，PPA較上一代提升超40%，編碼器規(guī)格支持更全面，編碼質(zhì)量進(jìn)一步提升。

AI端到端視頻編碼技術(shù)是安謀科技在這一領(lǐng)域的核心技術(shù)創(chuàng)新，這一技術(shù)的關(guān)鍵是AI VPU端到端訓(xùn)練框架，其能夠打通視頻壓縮與下游AI任務(wù)；引入了AI任務(wù)感知壓縮，讓壓縮過程“感知”下游任務(wù)需求；在顯著提升壓縮率的同時(shí)，最大程度保證AI任務(wù)精度。

根據(jù)實(shí)測(cè)數(shù)據(jù)，在目標(biāo)追蹤任務(wù)中玲瓏VPU可以實(shí)現(xiàn)18.3%的碼率節(jié)省，在動(dòng)作識(shí)別任務(wù)中實(shí)現(xiàn)12.0%的碼率節(jié)省。

四、牽頭發(fā)起“開源AIOS聯(lián)盟”，加速AIOS落地

安謀科技市場(chǎng)及生態(tài)副總裁梁泉解讀了安謀科技在AIOS領(lǐng)域的思考和布局。

當(dāng)前，以AI智能體和具身智能為代表的新一代AI技術(shù)持續(xù)突破，各類新型AI設(shè)備、機(jī)器人等計(jì)算載體不斷涌現(xiàn)，操作系統(tǒng)正從傳統(tǒng)工具型向智能體形態(tài)加速演進(jìn)。

梁泉提到，交互范式升級(jí)、系統(tǒng)架構(gòu)更迭、端側(cè)AI突破、端云協(xié)同深化是AIOS變革的核心驅(qū)動(dòng)因素。專為新型AI產(chǎn)品與具身智能原生打造的AIOS智能系統(tǒng)，將成為釋放端側(cè)AI潛力、加速AI普惠應(yīng)用的關(guān)鍵支撐。

在這一趨勢(shì)下，安謀科技在技術(shù)架構(gòu)層面進(jìn)行了一系列布局，包括各類芯片硬件、各類模型引擎、AI工作流等方面。

在梁泉看來，未來新一代AI產(chǎn)品會(huì)逐漸融入我們的生活。

今天發(fā)布會(huì)上，安謀科技宣布正式牽頭發(fā)起“開源AIOS聯(lián)盟”，推動(dòng)開源AIOS研發(fā)與多場(chǎng)景落地應(yīng)用，共建開源AIOS產(chǎn)業(yè)生態(tài)。

這一聯(lián)盟的核心工作是加速AIOS在更多場(chǎng)景應(yīng)用，包括技術(shù)創(chuàng)新、開源開放、產(chǎn)品落地、宣傳推廣。

據(jù)了解，目前“開源AIOS聯(lián)盟”已有20多家生態(tài)合作伙伴，其中牽頭單位包括芯發(fā)科技、紫光展銳、輝羲智能、瑞芯微等國(guó)內(nèi)芯片廠商，以及面壁智能、RT-Thread、AutoCore等本土模型及軟硬件方案提供商。

此外，清華大學(xué)智能產(chǎn)業(yè)研究院、香港科技大學(xué)物理AI研究中心等頂尖高校及科研機(jī)構(gòu)也作為學(xué)術(shù)會(huì)員同步加入聯(lián)盟。

結(jié)語：All in AI戰(zhàn)略提速，AI既是目標(biāo)也是途徑

從面向AIoT領(lǐng)域的計(jì)算平臺(tái)、實(shí)現(xiàn)全場(chǎng)景覆蓋的新NPU、用AI賦能視頻編解碼的APU到牽頭發(fā)起開源AIOS聯(lián)盟，我們看到安謀科技“All in AI”的戰(zhàn)略加速落地。

基于自身在芯片IP層面的優(yōu)勢(shì)積累，以及對(duì)AI行業(yè)發(fā)展關(guān)鍵趨勢(shì)的精準(zhǔn)把握，安謀科技積極將AI融入自身的產(chǎn)品和技術(shù)體系中，在賦能行業(yè)這一環(huán)節(jié)提供了自身的差異化優(yōu)勢(shì)價(jià)值。

隨著未來AI在端邊落地進(jìn)一步加速、Agent、物理AI快速發(fā)展，更多新需求、新機(jī)遇將會(huì)持續(xù)涌現(xiàn)，安謀科技已經(jīng)成為本土AI芯片產(chǎn)業(yè)中的核心賦能者。