在人工智能和機器學習的推動下,邊緣計算的需求正在逐漸增加。相關(guān)機構(gòu)預測,全球被創(chuàng)建、采集和復制的數(shù)據(jù)將急劇擴張,至2025年達到175ZB(澤字節(jié))。為減輕數(shù)據(jù)在云端處理的負荷,越來越多的數(shù)據(jù)也將被置入邊緣側(cè)進行運算。作為電子設(shè)備的主控制芯片,MCU對于邊緣計算設(shè)備的數(shù)據(jù)處理和決策能力提升有著重要作用,將在邊緣AI的浪潮中迎來新的發(fā)展機遇,同時也面臨著更多的挑戰(zhàn)。
邊緣AI浪潮來襲 拓展MCU市場空間
物聯(lián)網(wǎng)(IoT)設(shè)備、工控、智能家居和智能穿戴等領(lǐng)域的需求,正在帶動MCU市場的增長。從長期來看,在保證低功耗、強實時性的前提下,讓MCU具備更強的邊緣側(cè)計算和智能決策能力成為了下游市場的期許。
在這個過程中,邊緣AI成為智能設(shè)備發(fā)展的重點。邊緣AI是在物理世界的設(shè)備中部署AI應(yīng)用程序。之所以稱其為“邊緣AI”,是因為這種AI計算在靠近數(shù)據(jù)的位置完成。對比云端運算,邊緣AI具備強實時性,數(shù)據(jù)處理不會因為長途通信而產(chǎn)生延遲,而是能更快響應(yīng)終端用戶的需求,同時也可保證數(shù)據(jù)的隱私和安全。對比傳統(tǒng)邊緣計算只能響應(yīng)預先完成的程序輸入這一特性,邊緣AI又具備更強的靈活性,從而允許更多樣的信號輸入(包括文本、語音及多種聲光信號等)和針對特定類型任務(wù)的智能解決方案。
邊緣AI的以上特性,與MCU有著較強的契合度。一方面,MCU具備低功耗、低成本、實時性、開發(fā)周期短等特性,適合對成本和功耗敏感的邊緣智能設(shè)備。另一方面,人工智能算法的融入也能補強MCU,使其兼顧更高性能的數(shù)據(jù)處理任務(wù)。因此,“MCU+邊緣AI”正在圖像監(jiān)控、語音識別、健康狀況監(jiān)測等越來越多的領(lǐng)域得到應(yīng)用。此外,在IoT的基礎(chǔ)之上,MCU和邊緣AI的結(jié)合也將推動AIoT(人工智能物聯(lián)網(wǎng))的發(fā)展,使各種設(shè)備能夠更加智能地互聯(lián)互通。數(shù)據(jù)機構(gòu)Mordor Intelligence預測,邊緣人工智能硬件市場在2024至2029年間將以19.85%的年復合增長率增長,2029年將達到75.2億美元。
“未來的MCU將面向?qū)I(yè)化、智能化方向發(fā)展?!北本┺人箓ビ嬎慵夹g(shù)股份有限公司首席市場官劉帥告訴《中國電子報》記者,“其中智能化體現(xiàn)在兩方面,一是強化對AI算法和機器學習模型的支持,使得MCU擁有一定智能決策能力;二是性能提升,高端產(chǎn)品將采用多核設(shè)計以提升處理能力,滿足高性能的需求?!?/p>
集成AI加速器 強化MCU性能
邊緣AI為MCU帶來了諸多市場機遇,而想要滿足智能設(shè)備在邊緣側(cè)進行人工智能的運算需求,強化MCU的AI性能是重中之重。
“面向邊緣AI和端側(cè)AI需求,MCU需要做出以下調(diào)整以增強AI計算能力?!闭滓讋?chuàng)新MCU事業(yè)部產(chǎn)品市場總監(jiān)陳思偉表示,“一是集成AI加速器,如神經(jīng)網(wǎng)絡(luò)加速器或者專用的向量處理器,以加速AI推斷和訓練任務(wù);二是優(yōu)化能效比,在保持性能的同時降低功耗,延長設(shè)備續(xù)航時間;三是增強安全性,包括數(shù)據(jù)加密、安全引導和安全存儲,以保護用戶數(shù)據(jù)不受攻擊;四是支持多模態(tài)感知;五是優(yōu)化系統(tǒng)集成,提供更多的硬件接口和軟件支持,使得開發(fā)人員能夠更輕松地將AI功能集成到邊緣設(shè)備中?!?/p>
在AI加速器方面,數(shù)字信號處理器(DSP)和神經(jīng)網(wǎng)絡(luò)處理器(NPU)都成為在MCU中集成的重要加速組件,讓MCU能夠在邊緣運行AI算法。具體而言,DSP更適合信號處理任務(wù),包括音頻、視頻、通信等,而NPU則更聚焦于高效處理大量的矩陣運算和并行計算任務(wù)。
為此,各大廠商積極布局。意法半導體于2023年推出STM32N6,采用Arm Cortex-M55內(nèi)核,集成ISP和NPU以提供機器視覺處理能力和AI算法部署。恩智浦推出MCX N系列MCU,具有雙核Arm Cortex-M33,并集成了eIQ Neutron NPU,據(jù)了解,該NPU可將機器學習推理性能提升約40倍。
作為大多數(shù)MCU內(nèi)核的供應(yīng)方,Arm也在邊緣側(cè)NPU上發(fā)力。4月,Arm推出Ethos-U85 NPU,作為一款AI微加速器,其支持Transformer架構(gòu)和CNN(卷積神經(jīng)網(wǎng)絡(luò)),配合Armv9 Cortex-A CPU可提供4TOPS的端側(cè)算力,助力AI推理。
Arm Ethos-U85 NPU(圖片來源:Arm)
“許多不同的處理器都可以實現(xiàn)人工智能。AI可以在Arm核中運行,也可以在NPU、DSP當中,不同處理器將會運行不同算法,那么功耗也會不同。”恩智浦執(zhí)行副總裁兼安全連接邊緣業(yè)務(wù)總經(jīng)理Rafael Sotomayor表示,“是否在Arm核或者DSP中實現(xiàn)AI功能,這取決于工程團隊的技術(shù)專長。我們使用NPU來做,是因為(從我們的技術(shù)出發(fā))速度更快,而且能耗更小。當然,如果客戶對特定機器學習算法有要求,也可以繼續(xù)使用DSP?!?/p>
實現(xiàn)性能功耗成本平衡 構(gòu)建平臺化方案
盡管可以通過集成NPU等AI加速器使MCU支持AI算法,但是高性能往往會帶來更高的功耗。因此在提升性能的同時,也要保證MCU在功耗和成本等諸多要素之間達到平衡。這不僅考驗MCU廠商的芯片設(shè)計能力,也對公司整體成本和功耗優(yōu)化提出了更高要求。
使用自研NPU成為廠商平衡成本與效能的選擇之一。據(jù)悉,意法半導體所發(fā)布的STM32N6采用了自研的Neural-Art加速器,恩智浦MCX N系列所集成的eIQ Neutron NPU同樣為自研。這既有利于降低授權(quán)成本,也能保證在自身技術(shù)路徑下對NPU迭代節(jié)奏的合理把控。
eIQ Neutron神經(jīng)處理單元框圖(圖片來源:恩智浦)
同時,內(nèi)核架構(gòu)的選項也在增加。當前在MCU市場中,除少部分8位MCU使用CISC架構(gòu),Arm架構(gòu)的Cortex-M系列核由于功耗表現(xiàn)較好占據(jù)主流,而隨著RISC-V架構(gòu)逐漸發(fā)展,這一新興架構(gòu)也逐漸獲得廠商的青睞。據(jù)悉,ADI推出的MAX78000/2在集成專用神經(jīng)網(wǎng)絡(luò)加速器的基礎(chǔ)上,提供了Arm核與RISC-V核兩種方案,可在本地以低功耗執(zhí)行AI處理,最大程度地降低CNN運算的能耗和延遲。
劉帥向記者表示,采用RISC-V架構(gòu)能夠為MCU廠商帶來更多優(yōu)勢,一方面,RISC-V內(nèi)核靈活可裁剪,可根據(jù)具體應(yīng)用需求進行定制;另一方面,由于RISC-V架構(gòu)更加簡潔,功耗也更低。此外,相比ARM架構(gòu),作為開源架構(gòu)的RISC-V也能降低授權(quán)費用和開發(fā)成本。
而站在客戶的視角,除了需要MCU產(chǎn)品在高性能、低功耗、低成本等多方面達成平衡,也希望MCU廠商能夠提供平臺化的整套解決方案。
“過去客戶的選擇是自下而上的——先選擇芯片,再思考需要何種軟件、應(yīng)用等?,F(xiàn)在則是從應(yīng)用層開始,自上而下到芯片,以獲取技術(shù)支撐?!盧afael Sotomayor指出,“這些技術(shù)非常復雜,不僅涉及人工智能,還涉及信息安全、功能安全、視覺、音頻等。因此,幫助客戶簡化技術(shù)的復雜性,成為廠商為客戶提供產(chǎn)品和服務(wù)的核心價值?!苯衲?月,恩智浦宣布與英偉達合作,將英偉達TAO工作組件集成在恩智浦eIQ機器學習開發(fā)環(huán)境中,以便開發(fā)者加速開發(fā),并部署經(jīng)過訓練的AI模型。
ADI基于MAX78000/2,提供了開發(fā)工具MAX78000EVKIT#,以幫助開發(fā)者實現(xiàn)平穩(wěn)的評估和開發(fā)體驗。意法半導體同樣推出云端開發(fā)者平臺STM32Cube.AI,支持使用者在云端對已有資源進行配置,進一步降低邊緣人工智能技術(shù)開發(fā)的復雜度。
綜合來看,面對邊緣AI浪潮所帶來的挑戰(zhàn),MCU廠商正在積極探索,并展示出多樣化的發(fā)展路徑。盡管架構(gòu)及AI加速器等方案的“最優(yōu)解”目前還未有定數(shù),但是對于MCU而言,在保證低功耗和低成本等基本特性的前提下,不斷提升計算能力和安全性能來適應(yīng)越發(fā)復雜的邊緣計算環(huán)境,已是大勢所趨。
責任編輯:趙強
- QQ:61149512