新聞動態| 騰訊優圖首個開源項目ncnn加入ONNX,將AI帶到用戶指尖!

  • 2020 年 3 月 17 日
  • 筆記

騰訊科技訊 近日,騰訊優圖首個AI開源項目ncnn 正式加入ONNX,現已支援將ONNX文件轉換為ncnn模型。此後,AI開發者能更快實現從研究到模型的落地部署,也能更方便地在不同框架間切換,為每項任務選取最優的開發工具。

ONNX 的全稱是「Open Neural Network Exchange」,即「開放的神經網路切換」。該項目旨在實現不同神經網路開發框架之間的互通互用。目前,Microsoft Cognitive Toolkit,PyTorch 和 Caffe2 均已支援 ONNX。

騰訊優圖ncnn是騰訊社交網路事業群公布的首個AI開源項目,也是騰訊優圖實驗室第一次對外公開深度學習的研究成果。ncnn於2017年7月正式開源,作為一個為手機端極致優化的高性能神經網路前向計算框架,在設計之初便將手機端的特殊場景融入核心理念,是業界首個為移動端優化的開源神經網路推斷庫。ncnn無第三方依賴,跨平台,在手機端cpu運算速度在開源框架中處於領先水平。基於該平台,開發者能夠輕鬆將深度學習演算法移植到手機端,輸出高效的執行,進而產出人工智慧APP,將AI技術帶到用戶指尖。

不同框架間的模型轉換是目前AI項目應用落地的一大痛點。ONNX是Facebook主推的開放文件格式,pytorch/caffe2原生支援。作為目前已知同類框架中CPU運算最快的ncnn,不僅具有最小的安裝包體積,還擁有最佳的跨平台兼容性。在ncnn支援ONNX格式轉換後,pytorch/caffe2訓練的模型便能通過平台輕鬆部署到手機端。與此同時,ncnn也能藉助ONNX良好的項目生態,對眾多框架和運行庫的高兼容性,以及結構定義清晰的ONNX格式,進一步降低各框架間的轉換成本,促進AI移動端生態的創新和部署。

據統計,目前Googleplay商店已有QQ、微信、微視、京東、支付寶、愛奇藝、美顏相機、快手短影片、LIKE短影片、玩美彩妝等超過30款APP,選用ncnn作為手機CNN推斷庫,實現包括人臉檢測跟蹤、人臉配准、人臉識別、人體檢測跟蹤、人體姿態估計、影像分類、影像美化、目標分割、風格畫生成、物體檢測、文本檢測和識別等AI場景應用。

京東APP使用ncnn
支付寶APP使用ncnn

騰訊一直以來秉承「開放」戰略,不斷推動技術研發向共享、復用和開源邁進。截至目前,騰訊正式發布的開源項目共計58個。今年3月,憑藉在AI開源領域卓越的技術影響,騰訊受邀成為LF深度學習基金會初始白金會員,與基金會共同維護、支援和推動人工智慧領域的技術開源和革新。

騰訊優圖ncnn(https://github.com/Tencent/ncnn)作為騰訊代表性的AI開源項目之一,將持續為人工智慧發展助力,促進深度學習研究成果的落地應用。

Tags: