對話高通工程技術SVP：AI研發最關注高能效，雲端AI推理芯片已流片成功

• 2019 年 11 月 7 日
• 筆記

乾明 發自 凹非寺 量子位 報道 | 公眾號 QbitAI

高通，移動互聯網時代最成功的公司之一。它對通信技術以及專利的掌控，已經主導整個行業20餘年。

一代代旗艦芯片和移動平台，更是安卓手機廠商核心競爭力和賣點之一。

但隨着AI浪潮洶湧，移動互聯網向移動AI的轉換已成大勢。高通作為移動互聯網領域的大贏家，將如何發力AI，來抓住移動AI時代？

關於高通AI動向，已經有過很多次披露，但都聚焦在業務上。其AI技術研發上，是怎樣的一個格局？高通AI研發，如何驅動高通的移動AI業務？

Rajesh Pankaj，高通工程技術高級副總裁，是為數不多能夠回答這些問題的人，再次來到中國。

Rajesh Pankaj是一名「老高通」，從1997年至今，已經在高通工作了22年。

現在，他也是高通企業研發部門（CR&D）的負責人。而這個部門，正是高通AI研發的核心。

帶着上述的這些問題，我們與他進行了深入交流，試圖尋找高通將要如何繼續主導移動AI時代的答案。

更低功耗，更高能效，高通AI研發的重心所向

在與Rajesh Pankaj的交流中，他提到最多的，就是如何在低功耗環境下讓AI發揮出更高的能效。

他說，這是高通AI研發最關注的領域。

其實不僅僅是高通，在當下這已經成為了業內備受關注的AI研發方向之一。

近年來，各種關於模型壓縮的算法大量出現。谷歌、Facebook、百度也紛紛在自家的AI框架中加入端側推理/部署能力。

Rajesh Pankaj從5G和AI的角度解釋了背後的趨勢。

一方面是AI技術的進一步成熟，相關的研究不再只是關注用AI解決問題，業界和學界開始考慮讓AI進入到終端中，實現更多能力。

另一方面是5G的興起，超低時延的數據傳輸變成了現實，端雲協同變得觸手可及。

這也就意味着和之前只依靠終端或者雲端相比，邊緣設備上能夠實現更多的AI能力。

雖然相應的條件已經出現，但都處於不斷完善中。不同的公司，都在通過不同的方式角逐未來。

Rajesh Pankaj說，得益於移動設備領域的技術積累，「低功耗環境下，實現高能效的AI，是高通最強的領域。

高通也給出了相應的數據進行了佐證：

利用張量分解、通道簡化等手段壓縮AI模型架構，壓縮量達到3倍，同時準確度僅損失不到1%。

此外還有高精度訓練、低精度推理的方法來實現能效的提升：

高通用量化8位推理模型，實現內存和計算4倍能效提升，可以和FP32實現近乎相同的準確率。

除此之外，高通還在優化編譯器、內存計算AI等方面開展了相應的研究，為AI計算節能加速。

在專訪過程中，Rajesh Pankaj也進一步解釋說，雖然他很屢次提起低功耗運行AI，但這並不是高通AI研發的全部。

他說，從更大的角度來看，高通關注的是與端側設備有關的所有AI，只要能夠對業務帶來幫助，都會投入資源去研發。

這些技術，並不都是處於研發階段，高通也已經將這些技術應用到了移動AI芯片中。

2015年的驍龍820開始，高通的旗艦芯片就已經在全面集成高通自研人工智能引擎AI Engine。

到驍龍855，已經是第四代人工智能引擎AI Engine，突出的點在於異構計算。

核心能力，是讓CPU、GPU、Hexagon不同功能的核心發揮各自所長，而又相互協作，共同實現高效的AI處理。

高通出圈：雲端推理芯片已流片成功

雖然在相應的技術研發上，高通聚焦於端側AI。但AI帶來的不僅僅是衝擊，也有機會。在場景上，高通也正在出圈。

最能體現這一動向的，不是高通面向IoT和汽車領域大秀肌肉。而是其4月份發佈的一個數據中心AI推理芯片：Cloud AI 100。

同樣，這一芯片主打的也是高能效。

在發佈的時候，高通表示，這一芯片能降低終端與數據中心的延遲，提高AI雲端效率。與其他商用方案相比，Cloud AI 100每瓦特性能提升了10倍。

微軟和Facebook也為高通的這一芯片站台，並在產品發佈時，分享了部署AI推理芯片的計劃：

微軟用它發現工業生產中的安全問題，Facebook則用它處理智能助理、視頻AR特效以及加速VR硬件。

但在當時，高通只是宣布了芯片，並沒有給出具體的產品。

Rajesh Pankaj也介紹了這一芯片的研發進展：芯片現在已經流片成功，並交於合作夥伴進行部署測試，明年會正式商用。

雖然這款芯片應用於雲端，但Rajesh Pankaj說，高通暫時沒有提供雲服務的打算，硬件會對外出售，並配備相應的軟件支持，來幫助合作夥伴搭建相應開發生態。

而且，這一芯片的出現，也在幫助高通拓展新的場景。

Rajesh Pankaj透露，不僅僅只有移動設備以及雲服務商對這個芯片感興趣，還有不少汽車廠商以及其他架構廠商也展現出了興趣。

他說，在這些合作過程中，高通也會將AI落地到更多的領域中去。

與此同時，高通發力AI也不僅僅只是單打獨鬥。科技巨頭們擅長使用的投資收購手段，它也沒有落下。

2018年，高通風投成立了1億美元的AI投資基金，主要用於投資5G賦能的AI領域，為自動駕駛汽車、機械人和機器學習平台開發新技術的企業。

高通的AI發展之道

聚焦端側，鞏固自身在高能效AI方面的領先地位。然後以此為切入點，不斷拓寬AI的落地場景。

這是高通當下發展AI的重要策略之一。在Rajesh Pankaj看來，這背後也凸顯出了高通在技術研發與商業落地上的一個「傳統」：

高通所研發的AI，只是AI領域的一部分。其研發的目標，就是在這一部分中佔據領導地位。只要技術在這一領域佔據了主導地位，產品自然就更有優勢了。

這在一定程度上，也反映了高通的「人才觀」。

談到高通如何吸引AI人才時，Rajesh Pankaj也表達了類似的觀點，只需要把要做的做好，自然就會有人才加入。

此外，Rajesh Pankaj還談到了高通吸引人才的另外一個特徵：研究成果很快就會影響產品。

他說，這對於很多研究者來說，都是一個難以抵擋的誘惑。