深度解讀寒武紀:憑啥和NVIDIA、華為海思較勁?

2015左右,全球開啟了AI晶片的創業熱潮。AI的這一次浪潮不僅吸引了眾多頂級晶片人才選擇創業,也讓多家科技巨頭進入了晶片行業。

不過,AI技術仍在快速發展,AI晶片的評價體系也還在完善,AI晶片領域也還沒有公認的領導者。

此時一個很關鍵的問題是:如何衡量一款AI晶片的好壞?借著寒武紀科技回復上海證券交易所的問詢函(以下簡稱問詢函)報告,去找到如何從多個角度多層次全面衡量一款AI晶片競爭力的答案。

當然,這個答案當中也包含著寒武紀科技的許多關鍵資訊以及它是如何與NVIDIA和華為海思較勁。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

先發優勢

在問詢函回復報告中,寒武紀表示與華為海思相比,公司的競爭優勢體現在:

公司專註於人工智慧晶片 進入該領域的時間更早 ,具備先發優勢。晶片架構針對人工智慧應用及各類演算法進行了優化,積累了一批核心技術與關鍵 專利 ,技術創新能力得到業界廣泛認可。

在新技術的研究中,先發的優勢在於,當業界對新技術的關注度還不是很高的時候就開始研究,雖然面臨的挑戰更大,但可以更早把「坑」踩了,更早積累更多的經驗,當產業對新技術的關注度大增的時候,可以將新技術更快地產業化。

但技術的實現有很多種方式,先發優勢並不一定就是最終的技術優勢,技術的選擇也非常關鍵。

架構選擇

在與NVIDIA等老牌晶片巨頭的競爭中,寒武紀在問詢函回復函中表示其優勢在於:

在研發人工智慧晶片時,NVIDIA更多基於公司原有的技術儲備和設計理念去適配人工智慧的應用和演算法,但是GPU、CPU本身並非專門為人工智慧相關運算進行開發的晶片產品。而公司的晶片架構針對人工智慧應用及各類演算法進行了優化,有效提升了產品的性能功耗比和性能價格比。

目前,AI晶片的定義還沒有一個嚴格和公認的標準。比較寬泛的看法是,面向人工智慧應用的晶片都可以稱為AI 晶片。因此,CPU、GPU、DSP、FPGA、ASIC都屬於AI晶片的範疇。

這裡需要單獨介紹的是專為AI而設計的晶片。這類晶片經常會統稱為AI專用晶片,要進一步細分的話還可以分為通用型和專用型。兩者的差別在於,通用型是通過對各類智慧應用和演算法的計算和訪存特點進行抽取和抽象,定義出一套適用於智慧演算法且相對靈活的指令級和處理器架構,廣泛支援多樣化AI演算法和應用。當然,通用型AI晶片是專為AI演算法設計,其通用性也不能與CPU和GPU進行比較。

專用型AI晶片(ASIC)則是針對特定的、具體地、相對單一的AI應用專門設計的晶片。

關於CPU、GPU、FPGA、DSP、ASIC的特點以及進行AI計算時的優劣勢,可以參考問詢函中的表格。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

市場定位

AI晶片的架構各有特色,不同架構的晶片既可以應用於對性能要求很高的雲端訓練和推理市場,也可以應用於對功耗和成本更敏感的邊緣和終端市場,因此在對比AI晶片的時候,首先要明確是否是同級別競品以及市場定位是否相似。

寒武紀在選取同類競爭對手時候的標準有兩個:

1、面向終端、雲端、邊緣端等智慧計算市場有一種或多種晶片產品發布上市的晶片公司;

2、相關晶片產品有顯著銷售規模且公開披露該類產品的業務、財務資料相對較多。

基於上述原則,在智慧計算市場中,行業內主要企業的具體情況如下所示:

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

寒武紀科技得出的結論是,綜合來看,公司在業務與技術部分介紹時綜合考慮了主要產品或主營業務相似度、行業知名度及行業地位、產品銷售情況、資訊披露透明度等因素,選取NVIDIA、英特爾、AMD、ARM、華為海思等五家企業作為同行業可比公司。

不過,AMD雖然同時擁有高性能CPU和GPU產品,但並未針對AI演算法做特別優化,AMD也未在對外的宣傳中提及其AI性能,所以在做AI晶片產品的對比時,AMD經常不會放在對比列表中。

選定具備可比性的同類競品之後,接下來需要對比的就是產品的技術,包括直接影響晶片最終性能的硬體技術和軟體技術。

晶片關鍵技術指標

在問詢函回復中,寒武紀用NVIDIA和華為海思的產品進行了詳細的比較,在晶片的物理技術層面從底層的處理器微架構、指令集、SoC晶片設計、晶片功能驗證到先進製程物理設計、晶片封裝設計與量產測試、硬體系統設計選取衡量標準,進行了詳細對比。

軟體層面從編程框架適配與優化、程式語言、編譯器、高性能數學庫、虛擬化軟體、核心驅動、雲邊端一體化開發環境7個方面選取衡量標準進行一一對比。

7個硬體關鍵技術對比:

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

7個基礎系統軟體技術對比:

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

軟硬體的關鍵技術的特性以及軟硬體融合的程度直接決定了AI晶片的單核、多核性能以及對不同數據精度和演算法支援的表現。也是影響業界評判一款晶片PPA(Power、Performance、Area)的關鍵。根據AI晶片發展的應用範疇,在性能功耗比、製造製程、軟體成熟度以及未來發展趨勢上,AI晶片也分主流技術水平以及未來技術發展趨勢。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

注1:性能功耗比按理論峰值性能和晶片整體功耗進行估計。

注2: INT2/4/8/16 分別代表進行 2 位、 4 位、 8 位、 16 位定點運算, FP16/32 分別代表進行16 位、 32 位浮點運算, BF 16 代表進行 16 位腦浮點運算。

注3:表中所述終端晶片都指具備專門化、本地化人工智慧處理能力的 SoC 晶片。

注4:上表中沒有針對專用型智慧晶片(ASIC)進行比較,因該類晶片功能相對單一,通常無須使用 Fin Fet 等先進位造製程,與通用型智慧晶片的行業特點顯著不同,且不是公司主營業務所關注的重點。

注5:訓練和推理的性能功耗比均以理論峰值性能計算。

資金實力與人才實力

無論是傳統晶片還是AI晶片,能夠持續投入研發進行產品迭代才是保持晶片競爭力的關鍵。特別是,晶片行業是一個長周期,高投入的行業。因此,資金實力與人才也是影響AI晶片競爭力的關鍵。

相比NVIDIA和華為海思,寒武紀有著顯著的資金實力差距,這也是寒武紀要在科創板上市的重要原因。

根據NVIDIA 2020財年財務報告,截至2020財年末,NVIDIA的現金及現金等價物為108.96億美元,2020財年NVIDIA的研發費用為28.29億美元。華為海思未上市,據公開報道2019年研發投入約為24.39億美元。

除了資金實力與巨頭相差懸殊,人才方面也是寒武紀努力在加強的,所以寒武紀的人員支出在持續增加。寒武紀員工人數從2017年末的80人增長到2019年末的868人。2017年2019年,公司支付給職工以及為職工支付的現金分別為1,512.7萬元、9,300.64萬元和29,818.82 萬元,增長速度較快。

截至2019年末,寒武紀研發人員人數達到680人,碩士及以上學歷人員546人。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?
單位:人,萬元

市場地位與銷售網路

產品、技術、人才之後,AI晶片的市場前景,AI晶片公司的市場地位與銷售網路,很大程度影響著其晶片產品能否落地以及獲得市場的認可。

市場方面,根據IDC 報告顯示,雲端推理和訓練所產生的雲端智慧晶片市場需求,預計將從 2017 年的 26 億美元增長到 2022 年的 136 億美元,年均複合增長率 39.22% 。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?
數據來源:IDC

在一個具備前景的市場里,已有的市場地位和銷售網路的影響力非常關鍵,不過這是初創公司需要從零開始構建的,難度巨大。

NVIDIA2020財年營業收入為109.18億美元,華為海思2018 年營業收入為75.73億美元(根據DIGITIMES 報道),均遠遠超過寒武紀的銷售規模。就人工智慧晶片產品來看,NVIDIA2020財年數據中心業務銷售收入超過30億美元,在全球市場份額中佔有絕對優勢地位。

華為海思雲端和邊緣智慧晶片產品推出時間不長,2019年該等業務總體銷售規模推測可能與寒武紀銷售規模相差不大,但在中國的終端智慧SoC晶片領域具有顯著的優勢 。

銷售網路方面,NVIDIA、華為海思均有成熟完善的銷售網路,客戶對產品的認知程度、市場知名度等方面均優於公司。

因此無論是在寒武紀的招股說明書(申報稿)還是上市問詢函回復中,寒武紀失去大客戶華為海思的訂單以及是否對中科曙光有較強的依賴,還有2019年從珠海市橫琴新區管理委員會商務局、西安灃東儀享科技服務有限公司獲得的收入大幅提升都是關注的焦點。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?

寒武紀回復稱,其與華為海思的4個技術許可合約有3個已經履行完畢,還有一個正在履行。另外,對中科曙光的訂單不存在依賴,從珠海市橫琴新區管理委員會商務局、西安灃東儀享科技服務有限公司獲得的訂單也合理。

產品定價策略

最後,還有非常關鍵的定價。寒武紀稱,其加速卡產品的定價差異主要由公司向客戶交付的硬體產品所配套的系統軟體複雜度、公司向客戶提供的技術服務工作量、估計的同時期競品的定價區間以及市場銷售折扣等因素綜合決定。

另外,寒武紀雲端智慧晶片及加速卡產品定價、銷售政策由公司自主決定,產品定價在目錄價格的基礎上與配套軟體的複雜程度、向客戶提供的技術服務工作量、估計的同時期競品的定價區間相關,同時根據客戶性質、訂單數量等給予一定的銷售折扣。

寒武紀也列出了與NVIDIATelsa P4和T4加速卡的差別。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?
單位:萬元/塊

注1:由於無法從公開渠道獲取NVIDIA相同或類似產品的官方銷售價格,NVIDIA相關產品的售價區間為基於市場資訊的推測或估計。

寒武紀認為,其加速卡銷售價格與同行業可比公司NVIDIA相關產品的估計售價接近,不存在重大差異 。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?
資料來源:各公司官網、年報及其他公開披露資料

小結

寒武紀科技科創板上市申請書(申報稿)以及上市問詢函回復讓寒武紀科技揭開了神秘面紗,寒武紀科技也不得不回復上交所的犀利而關鍵的提問,這是平時寒武紀不太可能、也是盡量會避免回答的問題。

兩份總計五百多頁的資料中除了包含寒武紀自身的關鍵資訊,也有大量的基礎資訊以及行業資訊。比如本文中從問詢函回復中梳理出來的AI晶片公司及產品競爭的關鍵,包含技術、產品、市場、渠道、定價。

透過寒武紀的回復,我們不僅能了解寒武紀的技術實力,也能以此類推去判斷一款AI晶片到底如何。

深度解读寒武纪:凭啥和NVIDIA、华为海思较劲?