AI性能最高提升480倍！ARM著急了？

• 2020 年 2 月 13 日
• 資訊

昨天，ARM發布了兩款全新的IP，一款是已經非常成功的ARM Cortex-M家族的新成員Cortex-M55，另一款是去年底新發布的Ethos系列的新產品，也是首款針對Cortex-M平台的微神經網路處理器(microNPU)——Ethos-U55。如果將這兩個最新的IP結合，機器學習（ML）性能最高可以提高480倍。

兩款新產品AI性能的大幅度提升，是ARM在AIoT市場競爭的強大武器。但是，也反映出了ARM在這一市場的焦慮。

【 圖片來源：techviral 】

強攻AIoT市場

從兩款新產品說起，新增的Cortex-M55是ARM AI性能最強大的Cortex-M處理器。有多強大？與前幾代的Cortex-M處理器相比，Cortex-M55的ML性能最高可提升15倍，DSP性能也可提升5倍，且具備更佳的能耗比。同時，Cortex-M55也是首款基於ARMv8.1-M架構、內建ARM Helium向量處理技術的處理器，大幅提升DSP與ML的性能還更省電。

另外，開發者還可以使用Cortex-M處理器的全新功能，也就是去年十月發布的ARM Custom Instructions (ARM自定義指令集)，延伸處理器的能力，對特定工作負載進行優化。

也就是說，全新的Cortex-M55不僅AI性能更強，能耗比更佳，還有了更強的靈活性。

另外一款新品Ethos-U55的AI性能更加強大，是Cortex-M55的32倍，還有32-256個可配置的MAC。ARM推出這款專用的微神經處理器的目的是藉助其高度的可配置性，加速空間受限的嵌入式與物聯網設備的ML推理能力。

這還不夠，如果將Cortex-M55與Ethos-U55搭配，結合後的產品ML性能最高可提升480倍。

當然，不要被480倍的巨大提升嚇到，因為這個性能的提升是在一個比較低的ML性能的基礎上實現的提升。用下面的圖來直觀解釋AI性能提升後適用的場景。

Cortex-M55的AI性能可以應用在像異常檢測和對象檢測的應用中，Cortex-M55與Ethos-U55搭配則可以應用在對AI性能要求更高的手勢檢測、生物識別、語音識別的應用中，但兩者搭配的AI性能又低於Cortex-A CPU、Mali GPU、Ethos-N NPU才能滿足的對象分類、實時識應用的需求。

這樣，我們就能非常清晰的了解Cortex-M55以及Ethos-U55的意義。

Cortex-M是業界非常成功的微控制器處理器，基於Cortex-M的晶片全球已經出貨超過500億片，廣泛應用於各種各樣的嵌入式設備當中。但是Cortex-M只能夠滿足振動檢測、感測融合、關鍵字檢測這些簡單的AI功能，隨著萬物皆AI時代的到來，需要Cortex-M、Ethos-U55以及兩者的組合的性能去滿足更多AIoT應用的需求。

也就是說，已有的Cortex-M、Cortex-M55、Ethos-U55以及Cortex-M所有產品與Ethos-U55的組合更全面的AI性能，提升了ARM在終端AI上的吸引力，再加上Cortex-M的ARM Custom Instructions的新功能，能夠更好地滿足市場規模龐大但碎片化的AIoT市場。

ARM在AIoT市場的內外焦慮

從Cortex-M 到Ethos-N，ARM本應該為其擁有的AI產品感到自信，但市場的競爭似乎並不容許ARM為此滿足。實際上，ARM在2018年2月公布了Project Trillium 的機器學習計劃，並且預計在2019年第一季度發布首款ML處理器。但ARM直到2019年5月份才發布首款ML處理器，10月份才公布ML系列產品的名稱Ethos。

ARM ML事業群商業與營銷副總裁Dennis Laudick去年接受雷鋒網專訪時對於產品發布有所延遲這樣解釋，發布推遲有很多原因，產品開發是主要的問題。ML處理器開發的過程中面臨很多挑戰，其中一個很大的挑戰就是數據移動處理不好就會消耗大量的電，另一個大的挑戰就是如何權衡效率和靈活性。

在ARM發布首款ML處理器時，蘋果、三星、華為集成在其SoC中的NPU已經更新了幾代，高通和聯發科的神經網路處理器也日趨成熟。也因此，業界不少人都認為ARM錯過了進入手機NPU市場的好時機。這自然也會讓ARM的AI產品更加看重具有廣闊前景的AIoT市場。

全球第二大市場研究機構MarketsandMarkets去年發布的預測報告顯示，2019年全球AIoT市場規模為51億美元，到2024年，這一數字將增長至162億美元，複合年增長率為26%。

雖然ARM憑藉Cortex-M系列處理器在嵌入式設備市場非常成功，但是到了AIoT時代，ARM迎來了一個強勁的對手——RISC-V。RISC-V指令集與ARM指令集同屬精簡指令集，都具有高性能低功耗的特點，不過RISC-V誕生之處就選擇了開源，而ARM採用的是授權模式。

RISC-V的開源，可以讓開發者實現更加靈活的設計，更容易滿足AIoT市場多樣化的需求，這也是讓ARM感到緊張的關鍵因素。去年10月，ARM也推出了ARM自定義指令集，以應對RISC-V帶來的競爭。

並且，RISC-V正在日益壯大，面向AIoT市場的產品也正在陸續推出。GreenWaves Technologies率先推出了基於RISC-V的IoT超低功耗處理器，能效上可以實現20倍優於市場現有100mW以下同類產品。2019年12月推出的新一代產品性能提高10倍，功耗降低5倍。

RISC-V重要的IP提供商晶心科技總經理林志明去年接受雷鋒網採訪時也表示，再花半年推動量產、上市以及軟硬體的整合，2019年下半年和2020年年初開始RISC-V的產品就會比較多的投入市場。

今年年初，SiFive和CEVA宣布合作，以SiFive的RISC-V CPU，CEVA的DSP內核，AI處理器和軟體為中心，實現針對批量最終市場的超低功耗領域特定Edge AI處理器的設計和創建。

因此，由多種因素導致的ARM ML產品發布的延遲，以及RISC-V陣營的日益強大，ARM在AI以及AIoT時代難免會有些焦慮，480倍的AI性能提升是緩解這種焦慮的一個關鍵。

生態優勢能否延續？

當被問及去年5月才推出首款出Ethos還有競爭力嗎？Dennis稱，ARM的成功一直以來都得益於生態系統，對於NPU來說挑戰並不是能夠做出自己的NPU，而是NPU在市場上是不是真的好用。我們已經聽到合作夥伴回饋說，希望在硬體上能夠標準化，他們不想支援15種不同的硬體，所以，他們期待有一個標準化的軟體平台能夠支援。

從構建ARM的AI競爭力而言，即便產品推出有些推遲，但ARM多年來構建的強大生態依舊有助於其NPU的成功。並且，ARM也在致力於打造一致的體驗，Cortex-M 軟體開發工具完整支援最新發布的Cortex-M55與 Ethos-U55。另外，ARM還與其他開發工具廠商兼容，並且在演算法、軟體與 OS 方面也獲得了夥伴的支援。

更好的軟硬體融合以及一致性的開發流程確實是一個AI生態的吸引力所在，也是ARM能夠獲得更多AIoT市場份額的關鍵。

但對於AIoT的很多應用或許並非如此，GreenWaves Technologies CEO Loic Lietar此前對雷鋒網(公眾號：雷鋒網)表示：“相比手機、PC以及一些高性能處理器，應用於感測設備的微控制器對生態的依賴性沒有那麼高。從GreenWaves的角度看，我們基於RISC-V的32位微控制器面向的主要是來自物聯網等終端市場的邊緣計算需求，一個設備將長時間重複運行幾個應用, 而並不會像手機或電腦一樣安裝和卸載不同的應用程式，因此對軟體兼容性的依賴程度並不是個問題。”

這意味著，ARM強大的生態在AI以及AIoT時代依舊會繼續發揮作用，但對於AIoT市場而言，這種生態的吸引力到底有多大，現在還不清楚。

當然，毋庸置疑的是，ARM作為一家非常成功的半導體公司，其有強大產品以及豐富的經驗，在AIoT這個新的市場，ARM也有強大的競爭力。只是，AIoT市場短期內難以產生巨頭，某一種處理器也難以在短期內壟斷市場，誰是最終的贏家沒有人能準確預測。