突發!TensorFlow技術主管皮特·沃登離職,重返斯坦福讀博:我在Google「太難了」!

  • 2022 年 2 月 16 日
  • AI
作者丨維克多

編輯丨岑峰

又一技術大咖離開業界,前往高校攻關科研! 

據Pete Warden(皮特沃登)本人推特消息,他將離開Google公司,重返斯坦福大學攻讀電腦博士學位。

皮特沃登是Google公司Tensorflow面向移動和嵌入式設備部分的技術主管,也是 Tensorflow團隊的創始成員之一。著有《TinyML》一書,希望讓機器學習不再囿於雲端超級電腦,而是可以被隱藏於眾多小到可以被忽視的電子零件中。

至於離開Google的原因,皮特沃登說:在Google推出新的硬體設備「太難了」,因為一旦失敗會對大公司聲譽造成非常大的影響。

「it』s very costly and time-consuming to launch new hardware devices at Google, because the downsides of a failed or buggy launch to any large company』s reputation are so high. 」

據悉,皮特沃登已經離開校園二十年了,此次重返校園雖然有些冒險,但對「自己能夠構建一些東西」有幫助。

皮特沃登還在個人部落格寫了一篇文章,表達了離開Google的前因後果:

我在Google工作了7年,這段時間裡,很幸運也很自豪能夠和一些了不起的人一起研究TensorFlow等項目。在過去幾年裡,我一直在說「你可以用TensorFlow Lite Micro實現所有美好的TinyML項目」,現在我自己終於也可以隨心所欲的嘗試構建自己的東西了。

在Google我也嘗試過,但在Google推出新的硬體設備是非常昂貴和耗時的,因為一旦失敗會對其聲譽造成非常大的影響。因此,時隔二十多年,我決定重返校園,去斯坦福大學攻讀電腦科學博士學位。

過去幾年,我在斯坦福大學教授EE292D課程,在這過程中,我從學生對新技術渴望的熱情中收穫了很多,而且也從Zain Asgar、Sachin Katti、 Boris Murmann等教師身上學到了很多。現在我很高興能夠有更多的時間從校園中度過。

TensorFlow Lite Micro在Advait Jain和團隊其他成員的帶領下非常出色,使用量和人數在過去幾年持續增長,所以我對它的未來非常樂觀。過段時間,我會公布更多細節,但我現在能夠使用將框架部署到」我從項目一開始就夢想的設備「上了。
離開Google,重返校園是一次有趣的新冒險,感謝支援我走到這一步的所有人。


1

皮特沃登和他的TinyML夢想

正如前面提到,皮特沃登是人工智慧領域的專家。2003年他創建了一組包含45 個影像的處理過濾器(processing filters ),這些過濾器能夠在 2003 年的筆記型電腦電腦上以 30 fps 的速度檢測影片內容中的特徵。當時Apple 購買了該技術並聘請他將其集成到 Apple 的成像相關產品中。

2011年,皮特沃登聯合創辦Jetpac,擔任CTO。當時他開發了一款獨特的產品,能夠分析了 Instagram 上超過1.4億張照片的像素數據,並將其轉化為全球 5,000多個城市的深度指南。2014年,Google收購該公司。

加入Google之後,皮特沃登專註於在成本和功率受限的系統中部署機器學習。在Google,Pete 領導開發用於移動和嵌入式應用程式的 TensorFlow Lite 機器學習框架。

這種在一些「不起眼的硬體」中構建機器學習被行業稱為TinyML(Tiny Machine Learning)。TinyML 的目標是以儘可能低的功耗執行 ML 推理。具體而言,正如皮特沃登在其著作提到的那樣:TinyML 的目標是在低於 1 mW 的功耗下運行。1 mW是標準紐扣電池運行功率。

TML示意圖

因此,TinyML 是機器學習和嵌入式 IoT 設備的交叉領域,是一門新興的工程學科,具有革新許多行業的潛力。顯然,TinyML 的主要受益者,是邊緣計算節能計算領域。

2019年3月,TensorFlow Lite嵌入式平台發布了第一個實驗原型。這是由SparkFun構建的開發板的原型,它有一個Cortex M4處理器,具有384KB的RAM和1MB的快閃記憶體存儲。該處理器功率極低,在許多情況下功耗不到1毫瓦,因此它可以僅憑小型紐扣電池運行很多天。

目前,TinyML還處在發展階段,正如皮特沃登在一次演講中所提到:

「未來的世界有更多的可能性,現在人工智慧對於我們,就像八十年代的電腦一樣。我們不知道它會發展成什麼樣子,但是我們可以想像一下我們目前面對的各種問題和挑戰,在工作中面臨的困難。如何用小小的晶片進行機器學習?這方面我們可以有新的角度去探索,也有新的研究成果去發揮作用。」



2

反映了怎樣的趨勢?

皮特沃登在業界已經探索了二十年了,今日他選擇離開企業,選擇重返校園,無疑是對當前AI研究人員紛紛重返學界這一趨勢的印證。

這一趨勢最早從吳恩達開始,隨後李飛飛、張潼、張亞勤、賈佳亞等科學家也不斷重返學校。

而在幾年前,對應的正是AI基礎研究者紛紛離開學術界,加盟工業界:代表性的標誌事件是在2011年的NIPS大會上,Hinton接受了Google的邀請,正式加盟Google;此後Facebook、Amazon、Uber以及中國百度、阿里、騰訊、滴滴等巨頭也紛紛跟進,而另一方面,產業界所能提供的海量數據以及資源投入對於AI研究者也具有莫大的吸引力,長期從事理論研究的他們也需要一個平台驗證他們的想法,這也正是當時AI人才從學術界流向產業界的原因。

現在這些AI大牛從產業界重返學術界,有人將其視為AI科學家的「水土不服」,並進而得出「AI熱度正在放緩」的結論。但從另一個角度上,我們也可以看到這些科學家們在產業界檢驗了自己之前的研究之後,帶著新的問題回到學術界開展新的研究。

例如,原騰訊AI Lab主任張潼在被問及為什麼回歸學術界時,他回答:「我最關心的是10年以後, AI能夠在技術理論等方面實現重大的突破,並且自己能夠在整個學術研究上有更多的貢獻。」 而對於加入創新工場,張潼則表示:「我在進行學術研究的同時,也希望這些學識成果能夠跟產業相結合。」另一位AI大牛賈佳亞,在離開騰訊優圖之後並未遠離產業界,而是成立了一家創業公司思謀科技,以另一種方式做到連接學術與產業。 

拿AI屆的黃埔「微軟亞洲研究院」來說吧,他幾任歷任院長中,李開復創辦了創新工場,以孵化器模式推動中國本土的科技與AI公司的發展;張亞勤牽頭籌建「清華大學智慧產業研究院(AIR)」,回歸學術界並得到了馬維英的襄助,「出走半生歸來仍是少年」;沈向洋在擔任清華大學兼職教授的同時,也還投資並擔任News Break董事長;而進入投資界的張宏江,更是在以資本投票的方式踐行著對AI的認知。這些頂尖人才的流動,無論是從學術界到產業界,還是從產業界到學術界,最終都是AI的進步。

參考鏈接:
//mp.weixin.qq.com/s/xx1-ZV4Bg8vu79EXdoGMJQ
//mp.weixin.qq.com/s/03-tOTic57bsAV2SFxgemg
//embeddedvisionsummit.com/2019summit/2019/speaker/pete-warden/

雷峰網雷峰網