首次線上直播,TF Dev Summit 都講了啥?

  • 2020 年 3 月 16 日
  • 筆記

By 超神經

場景描述:今日凌晨,一場技術直播引來了無數人的圍觀,甚至不惜肝到天明,到底是什麼讓開發者如此激動?原來是一年一度的 TensorFlow 技術峰會,這場線上直播的盛會,帶來了哪些關於 TensorFlow 的資訊,本文就將從幾個重點進行一次深入的回顧。

關鍵詞:TensorFlow Dve Summit 會議直播

一年一度的 TensorFlow Dev Summit 昨日舉行,受到新冠肺炎疫情的影響,該峰會首次完全以線上直播的方式舉行。

直播在北京時間 3 月 12 日 0:30-8:00 am 進行,這個屬於機器學習開發者的年度盛會,讓無數中國觀眾熬夜觀看直播,那麼 TensorFlow (簡寫 TF)究竟放出了哪些大招呢?

我們將挑出其中的幾個方面,做一個簡單的亮點回顧。

TensorFlow :最受歡迎的 ML 框架

大會隨著 Megan Kacholia 的 Keynote 演講開啟。

Megan Kacholia 是 TensorFlow 以及 Google Brain 的工程總監,重點負責 TensorFlow 方面的工作,她在Google工作多年,其工作方向是:研究大型分散式系統,並尋找其中改善和提高性能的方法。

Keynote 環節,照例是對 TF 去年的成果做了一些展示,包括重大的活動,人群使用情況等。

TrnsorFlow 去年的一些大的事件

TF 目前的使用情況,共計達到了 7600 萬次下載,8 萬多條提交, 超 1.3 萬條 pull requests,並有 2400 多位貢獻者,充分說明 TF 是最受歡迎的機器學習框架。

Keynote 部分的重點,是由三位大佬分別介紹了 TensorFlow Ecosystem 的情況。

伴隨著 TF 這些年的發展,其相關的使用工具,已經逐漸形成了一個強大的生態系統,包含了許多可使用的庫以及擴展組件,以及針對多種任務的不同應用。

TF 生態詳情列表

先是由 Megan Kacholia 重點介紹了 TF 的使用情況,分別從 TF 涉及的研究,在現實中的實際案例,以及針對每一個使用者的開發部署,這三個方面進行了詳細的介紹。

然後由 Manasi Joshi 介紹了 TF 對於 AI 道德的規範,陳述在使用時,如何避免性別歧視、保證公正性、可解釋性、隱私性、安全性等問題,並細數了 TF 解決這些問題的一系列工具。

最後由 Kemal El Moujahid 介紹了 TF 社區的情況,介紹了全球的社區人員分布,展示了社區進行的一系列活動,並更新機器學習速成課程等資源內容。

TF 社區的全球分布地圖

新版本來了 !TF 2.2 低調發布

相比於在 Keynote 上大談特談的 TF Ecosystem ,本次推出的最新版本 TF 2.2,顯得低調了許多。

但作為新版本的,也帶來了一些較大的更新,TF 2.2 主要針對三個方面做了調整:更加註重性能,與 TF 生態系統融合,讓核心庫穩定性。

目前該版本已可以在 Github 上獲取:

https://github.com/tensorflow/tensorflow/releases

其中的主要特點和改進體現有:

1)將字元串張量的標量類型從 std :: string替換為 tensorflow :: tstring,現在 ABI 更加穩定。

2)新的 Profiler,用於 CPU / GPU / TPU。它提供設備和主機性能分析,包括輸入管道和 TF Ops。儘可能提供優化建議。

3)棄用 Swig, 使用 pybind11 將 C ++ 函數導出到 Python,而不再選擇使用 SWIG。

TensorFlow 2.2.0 介面

其他的更新可見於 tf.keras、tf.lite 以及 XLA,詳情可通過 GitHub 查看。

NLP 的變革?加入影像處理

緊隨 Keynote 環節之後,進行了 TensorFlow 在 NLP 上的進展分享,分享者展開了《使用 TensorFlow 和 Keras 學習閱讀》主題演講。

報告中表示自然語言處理(NLP)達到了一個拐點,所以當前的研究聚焦於,如何使用 TF 和 Keras 如何使預處理,讓訓練和超調文本模型變得更容易。

展示不同模型的性能

其中強調了一個觀點:NLP 是新的影像處理方式(image processing)。

演講者舉例孩子看事物學寫字過程的啟發,表示 TF 已經開始嘗試從影像處理的角度,去改進自己的 NLP 性能。

其實從 2.X 版本開始,TF 就引入了 Proprocessing Layers,這樣的改進具備了以下特點:

更容易進行數據轉化,替代了 tf.keras 的程式,扮演處理層,作為模型的一個序列。

為了證明 NLP 是新的 image processing, 講解人還比較在影像領域和 NLP 領域的 Proprocessing Layers,指出了它們的一些共性。

TF Lite 升級:更注重手機體驗

隨著手機在日常生活中越來越重要,TF 更加註重其在邊緣設備中的使用體驗,這一次也用一場主題報告,分享了關於 TensorFlow Lite 的一些更新。

其內容包括如何通過 TF 的新技術,更快更安全地將 ML 部署到手機,嵌入式設備或者其他終端 。

使用 TF Lite 的手機應用超過 1000

目前 TF 已部署在數十億個邊緣設備中,超過 1000 多款使用的手機 App,儼然是移動設備和微控制器領域,最受歡迎的跨平台 ML 框架。

本次被著重強調的內容,包括適配於各種設備上,開發了一系列的工具包,進行最優性能的處理,繼續增加對邊緣性能的支援,可以在離線情況下使用,更注重隱私安全等特性。

在新增的 TF lite 擴展庫方面,則是新增更多影像和語言 API,加入了 Android Studio 集成,並完善程式碼生成等功能。

報告里還發布了 Core ML Delegation ,可通過蘋果神經晶片的核心 ML 代理,在蘋果的終端設備上,加速其浮點運算速度。

最後還預告了後續的動態,將有其他的 CPU 優化方式會出現,如在 TensorFlow Lite 2.3 中,將會帶來更大的性能提升,並且在 TF 2.2 上會默認帶有新的模型轉換器。

核武器:TF Quantum 發布

臨近峰會尾端,由 Masoud Mohseni 出場,再次隆重介紹了近期宣布開源的 TensorFlow Quantum,這是一款用於訓練量子模型的機器學習庫。

TF Quantum 的目標

這場主題演講耗時很長,用了近半個小時的時間,去闡釋量子計算的原理,以及 TF Quantum 準備解決的問題。

TFQ 提供了必要的工具,可以將量子計算和機器學習的研究聚集在一起,以控制和建模自然或人工量子系統。

Google為量子計算布局很大

包括使用超導量子位

具體而言,TFQ 專註於量子數據處理,並建立了混合量子經典模型,它集成了 Cirq 中設計的量子計算演算法和邏輯,並提供與現有 TensorFlow API 兼容的量子計算單元,以及高性能的量子電路模擬器。

演講中指出,Google已經將 TFQ 應用到了混合量子經典卷積神經網路、量子控制的機器學習、量子神經網路的分層學習、量子動態學習、混合量子態的生成建模以及通過經典遞歸神經網路來學習量子神經網路等方面。

還將利用這個工具,通過經典循環神經網路,來學習量子神經網路等用途。這將為量子計算領域帶來不可忽視的推動作用。

TF Quantum 的設計原理

雖然演講中原理解釋涉及了很多,但具體使用上並不困難:

可通過引入相關庫以及定義,對模型進行定義,然後訓練模型,最後用模型進行預測等步驟即可進行使用。

這是一場值得肝的直播

除了上面這些提到的內容,TensorFlow dev Summit 還進行了多場其他的分享。

包括用 TF 來進行科學研究,對 TF Hub 的介紹,在協作式 ML 上的研究,在Google雲上使用 TF,對 AI 使用中公平隱私的探討等等。

通過近 8 個小時的直播,將 TensorFlow 的方方面面進行了展示,雖然是首次採用全麵線上直播的形式,但其乾貨內容卻一點也不少,不枉大家熬夜一場。

如果你還想了解更多的資訊,可通過錄播去回顧這場盛事:

https://space.bilibili.com/64169458

Tags: