張曉帆:一個決定將47萬獎金全部投入科研的博士生

  • 2020 年 10 月 22 日
  • AI

作者 | 陳彩嫻

作為2020年Google博士生獎研金中全球唯一一位在移動計算領域獲獎的博士生,張曉帆自認為「稱不上是一個學霸」。
他曾就讀於廣州市執信中學,與2003年被保送至清華大學並成為首位獲得全球電腦視覺高峰會CVPR「最佳論文獎」的中國學者何愷明是校友,後考入電子科技大學通訊與資訊工程學院,保送本校研究生,又在2016年拿到伊利諾伊大學厄巴納-香檳分校電氣與電腦工程系的全獎PhD offer。
在申請Google博士生獎研金的proposal中,張曉帆希望利用移動設備提供高品質且私密安全的AI服務,從資源受限的移動設備中釋放更強大的AI能力。
儘管與大多數專業背景為電腦科學(Computer Science)的申請者相比,張曉帆對AI演算法的掌握也許略遜色,但他的提案與所取得的階段性成果最終打動了Google獎研金評選委員會,在眾多博士生中脫穎而出,成為Google在北美與歐洲地區評選的30名獲獎博士生之一。
相比學霸的頭銜,張曉帆更願意將自己的科研之路形容為:踏實、樂觀且目標堅定的求知之旅,在這個過程中,「解決問題使我感到快樂。」

1

ECE的第二位獲獎者

自Google博士生獎研金在2009年設立以來,伊利諾伊大學厄巴納-香檳分校(UIUC)一共有12名博士生入選,其中10名來自CS專業,2名來自電氣與電腦工程系(ECE),而張曉帆恰是ECE入選的第二位博士生。
Google博士生獎研金在全球範圍內按區域評選,主要分為四大地區:北美與歐洲地區,澳大利亞與紐西蘭地區,東亞地區,非洲與印度地區。
而在北美與歐洲地區主要有三輪評選:學院/學校/區域評選,獲得學校提名的候選者最後成功入選的幾率也只有不到10%。
根據Google的規定,每個學校的提名人數不能超過4名。如果最終提名為3-4人,則第3名與第4名候選者必須備註自己來自「underrepresented group」,即在美國學術圈不佔主流的人群,包括:女性,黑人或非裔美國人,美國印第安人或阿拉斯加原住民,拉丁美洲西班牙語國家公民或拉美移民,夏威夷土著或太平洋島民,殘疾人。
UIUC最終提名4位博士生,而張曉帆是學校推薦的前2名候選者之一。
他沒有辜負學校與導師的期望,成為UIUC在2020年的唯一入選者。
在與AI科技評論的訪談中,張曉帆回憶自己在今年4月初便得知自己獲獎的心情:
很驚喜,也覺得非常榮幸!剛收到郵件,我就立馬跟推薦我參加評獎的三位老師分享了這個好消息。因為Google PhD Fellowship的競爭非常激烈,我很感謝Google對我在現階段研究的肯定與支援。
張曉帆提到的三位老師,指的是他在UIUC-ECE的博士生導師陳德銘教授,以及UIUC與IBM聯合創辦的認知計算系統研究中心(C3SR)的兩位負責人:胡文美教授與熊瑾珺教授。
據了解,Google將資助入選者在讀博期間的所有學費與學雜費,提供兩年研究補貼(每年35k美元,摺合人民幣約47萬,在每學年內分9個月支付),以及與Google研究導師一起共事的機會。
對此,張曉帆談到,博士生本就是「低收入群體」,這筆獎金可以幫助他在一定程度上解決研究經費的問題。
博士生是需要交學費的。博士生可以通過在學校做助教,由系裡出資免去學費,或是成為科研項目的研究助理,學費由項目承擔。獲得Google的獎研金之後,我能更加自主地選擇我的研究方向,選擇一些研究周期更長的研究項目。
在申請Google獎研金的proposal(Efficient Hardware/Software Co-Design Methods to Unleash Full AI Capabilities for Mobile Devices)中,張曉帆明確地提出了自己的研究目標:使用高能效軟硬體協同設計的解決方案,使AI演算法與硬體加速器完美結合,提高移動設備的AI應用能力。
在確保移動端能高效運行AI應用的同時,該研究也要保證使用數據的安全性。因此,他期待能夠與來自電腦體系結構、隱私與安全及其他AI領域的研究員合作。
除了張曉帆之外,UIUC曾入選Google博士生獎研金的大陸學子還包括:
王宏寧,2012年入選,本科與碩士就讀於清華大學電腦系,現為弗吉尼亞大學助理教授;任翔,2016年入選,本科就讀於浙江大學電腦系,現為南加州大學助理教授;商靜波,2017年入選,本科就讀於上海交通大學ACM班,現為加利福尼亞大學聖迭戈分校助理教授。

2

比大多數人更早決定讀博

我在本科大四就已經決定要讀博,做科研。
張曉帆的高中就讀於大神輩出的執信中學。
提起校友何愷明,儘管如今同是AI領域的追夢人,張曉帆不掩其崇拜之情:「當年沒能一睹大神風采。我進執信時,他已經保送清華了。」
張曉帆的本科與碩士就讀於電子科技大學通訊與資訊工程學院,直到讀博期間,研究深度神經網路加速器時才開始跟蹤何愷明的工作,今年暑期在Facebook實習時才與何愷明有了一些交集。
如今十多年過去,張曉帆談起母校執信中學,印象最深刻的便是其獨特的地理位置與建築風格,以及被執信學子稱為「青蛙服」的綠油油的校服。「一看就是執信的學生。」
執信的學生
張曉帆就讀於執信中學本部校區。執信本部位於越秀區(原為東山區)執信南路,周圍是繁華的越秀商圈,每天上學都會體驗到一種強烈的反差感:校園外是大城市的喧囂,而校園內則是紅牆綠瓦的古建築,充滿書香氣。
「就覺得:執信確實是一個學習的地方。」
執信校園
儘管只是就讀於普通班(當時分重點班與普通班)的中等學生,張曉帆回憶起在執信中學的學習時光,仍覺得是非常快樂的:
一是校園環境特別好,二是校園管理、教師團隊等軟體設施非常完善。學生的課餘時間比較豐富,補課的時間比較少,可以自主分配時間去做自己感興趣的事情。執信學子在高中便能體驗到非常豐富的社團活動。雖然高中的課業也很重,但老師給予了學生極大的信任,相信學生有能力去掌握自己的時間。
後來在電子科技大學度過七年本碩時光,儘管本科期間拿到校級與國家級獎學金,保送研究生,張曉帆仍認為自己談不上是一位「學霸」,「因為本科有不少課程還是挺難的,需要花不少時間學習,考試複習的時候也沒有很輕鬆。」
在他看來,不過是:付出了努力,並取得了一些成功。
他的第一篇科研論文始於本科大四時期。
確定保研後,張曉帆便加入電子科技大學通訊學院李廣軍教授的研究團隊,開始參與4G通訊核心模組的硬體加速器設計。那是他第一次正式參與科研項目。

張曉帆(後排左二)與研究生項目組成員

4G通訊涉及到眾多訊號處理的步驟,張曉帆設計的模組是負責加速訊號處理,提高數據傳輸速度。大四整一學年,他都在進行這個研究,最後設計方案取得了不錯的加速效果。
張曉帆及團隊成員將項目成果拓展成一篇名為《基於低硬體複雜度, 高速 CORDIC 的 SVD 模組設計與實現》的期刊論文,投稿到《電子學報》上,最終被收錄。
這次的項目成果點燃了張曉帆對科學研究的興趣。
「就覺得科研很有意思,有很多可以挖掘與探索的知識,我也很享受解決問題的快樂與成就。那時候就已經打算要讀博。」
在研究生階段,張曉帆獲得國家獎學金、唐立新獎學金、優秀碩士畢業論文等榮譽。
 
3

唯一的外校博士生

2016年,陳教授團隊錄取的博士生中,外校學生只有張曉帆一人。
其餘博士生都是自本科與/或碩士開始便在UIUC就讀的學生。
比如說,UIUC第一位獲得Google博士生獎研金的ECE博士生Raymond Yeh便是本科、碩士與博士都是在UIUC的ECE專業一路讀上來的。Raymond Yeh在2018年獲得Google博士生獎研金,與張曉帆同在CSL實驗室(Coordinated Science Lab)。
張曉帆在UIUC的博士生導師為陳德銘教授。在申請UIUC的博士之前,張曉帆便與陳德銘教授有過一面之緣。
陳德銘教授是FPGA、EDA(電子設計自動化)、人工智慧、異構計算等領域的著名學者,因在FPGA 高層綜合方面作出的研究貢獻入選IEEE Fellow, 其研究方向與張曉帆在讀博期間想要研究的方向非常契合。
2015年年底,陳德銘教授來成都參加一個學術會議,張曉帆作為活動組織方的學生代表,負責帶領陳教授在會後參觀當地景點,遊玩之餘順便交流了一些關於技術發展的看法,以及自己在研究生期間所做的工作。同時,陳德銘教授也對張曉帆提出了一些問題。
「當時以為就是很普通的聊天,現在想想,那時候應該是我的第一輪博士面試。」
事實上,在申請博士時,張曉帆並不敢「妄想」得到UIUC的offer,而是將其作為一個衝刺的學校。但幸運的是,陳德銘教授早前已對他有一些印象,因此申請博士生時相對順利一些,並拿到全獎offer。
張曉帆拍攝的UIUC校園景色
上文提到,本科大四就決定讀博的張曉帆比大多數學子更早找到自己的學習方向。但讀博從來就不是一件輕鬆的事。尤其是對於拿全獎offer的博士生來說。
一般來說,博士生的前兩年會有資格考試,只有通過資格考試才能留下來繼續完成學業。
因此,學生一邊需要高品質地完成指定數量的專業課程,經歷高密度的作業和課程考試並獲取不錯的績點,在另一邊還需要注重知識積累,及時完成科研任務以準備博士資格考試。
「第一年的壓力是最大的。」張曉帆說道。一邊是繁重的學業,一邊是進度緊張的項目,加之換了環境,所以第一年會特別焦慮。
此外,導師對博士生的要求也非常嚴格。
「導師會給你定一個特別高的目標並鼓勵、幫助你向目標方向努力,當你花費幾年時間不斷鑽研並在該方向上取得成果的時候,你其實已經開始具備一名博士應有的素質了。博士畢業也是水到渠成的事情。」
孤獨感與焦慮感在博士生群體中是一個普遍現象。2019年《Nature》第五次博士生調查結果顯示,39%以上的博士研究生有抑鬱或焦慮癥狀,這一數據是正常人群的6倍以上。
博士要解決的問題是那種還沒有被解決的問題,因為如果有人已經有成熟的解決方案了,你的研究也就失去了意義。所以你會很容易產生這種感覺:其實這個問題並不能被解決,因為在此之前還沒有人能解決它,也不見得你可以立馬解決。
怎麼克服呢?張曉帆分享了自己的解決經驗:「一是調整心態,但調整心態並不能保證生產力,所以另一個方法就是多泡在實驗室里,呆久一點才回家。」

張曉帆拍攝的UIUC校園景色

此外,他認為充滿不確定性的研究過程是非常磨鍊一個人的心性的:「你必須沉下心來,去剖析你正在研究的問題,慢慢去發掘有哪些地方是可以被進一步改進的。」
一番掙扎、焦慮、自我懷疑過後,熬過第一年,第二年的焦慮感會減少許多:一是已經習慣這種高強度的學習狀態,二是工作漸漸取得了成果,也開始變得有信心。
張曉帆強調堅持的意義:「如果你能找到工作的意義,你並不會有太多心思去想那些讓你焦慮的事。」
如今步入博士五年級,張曉帆回想過去幾年的學習經歷,總結自己每天絕大部分的時間都是在做和科研密切相關的事情:1)和導師、同學討論想法,2)設計實驗,3)分析結果,(要是結果糟糕就要回到第一步),4)撰寫paper等,(要是投稿被拒也要回到第一步),如此周期循環。
此外,博士生很難有規律的作息時間,DDL前幾天熬夜是難免的。
不過,張曉帆還是樂觀地說:「但我們ECE領域也有一個好處,就是遠程工作比較方便,不一定非要呆在實驗室,換個地方還是能接著工作。」
科研之路漫長且艱難,光有信仰是不夠的,還要有鮮花。
後來,在導師、同窗與個人的努力下,張曉帆從2018年開始高頻發表高峰會與期刊論文。直到今天,張曉帆總共發表了30篇論文,其中一作與共同一作共13篇。因學業成績優異,他在2020年還獲得了ECE以表彰優秀國際學生設立的獎學金Sundaram Seshu International Student Fellowship。
 
4

論文高產的背後

張曉帆開始對AI產生興趣,是在UIUC讀博之後。
在本科期間,他研究的是對單個核心模組作數字邏輯設計與優化,研究生階段,他的研究從模組設計上升到系統級別設計,研究的是片上多核系統。
後來,他在博士期間接觸到的第一個項目,是搭建一個用於描述輸入圖片的深度神經網路硬體加速系統,他也因此開始接觸AI與深度神經網路。
張曉帆談到:「雖然本碩期間學習的多是通訊專業課程,比如通訊系統、訊號處理與電腦組成原理等等,但這些課程的基礎知識其實與之後的AI研究有一些共通之處。」
讀博之後,張曉帆一直致力於AI應用相關的研究。在2018年,AI科技評論公眾號就報道了張曉帆的一項發表於CVPR的工作。
他與來自北京郵電大學的科研人員一同提出一種適用於密集人群計數的空洞卷積神經網路模型 CSRNet。該網路模型擺脫以往廣泛應用於人群計數的多通道卷積網路方案,在大幅削減網路參數量和網路訓練難度的同時,顯著提升了人群計數的精度和人群分布密度圖的還原度。
這項研究有利於避免公共場合中因人群擁擠而產生的踩踏事件。此外,得益於簡單、規整的網路結構,CSRNet 對硬體實現更加友好,可以被高效地部署在物聯網設備中。
    人群計數場景
如今,他將研究重點轉向AI與系統、硬體的結合。
他提到,目前AI應用對計算資源與存儲的需求極大,但移動設備的資源與功耗預算極其稀缺。比方說,如果使用電池,許多設備就不能使用性能比較高的處理器。
張曉帆的解決方法是:使用AI演算法與硬體加速器協同設計,為不同的移動應用場景設計最合適的解決方案,而不是簡單地對演算法或者硬體做單方面的優化。這樣的話,資源稀缺的移動設備,比如手機,攝影機,無人機等,也能運行高品質的AI應用。
他在這方面最新的研究成果是SkyNet,為低功耗嵌入式設備提供了高品質的物體識別與物體跟蹤解決方案。這項成果發表在今年的AI與系統會議Conference on Machine Learning and Systems (MLSys)。
張曉帆在這方面的研究成果已經發表在多個頂級會議上。其中,DNNBuilder(一種先進的深度神經網路加速器自動化生成工具)獲得了2018年國際電腦輔助設計會議(ICCAD)頒發的 William J. McCalla最佳論文獎;SkyNet及其加速器設計在來自全球 110 支參賽隊伍中脫穎而出,贏得由國際設計自動化會議(DAC)主辦的低功耗目標識別系統設計大賽FPGA與GPU組別雙冠軍。

圖註:DAC 2019 大會正、副主席為 UIUC 團隊頒發低功耗目標檢測系統設計挑戰賽冠軍獎狀(左起為大會主席 Robert Aitken、博後研究員郝聰、博士生張曉帆、 陳德銘教授、C3SR 負責人熊瑾珺及胡文美教授和大會副主席李卓)
他的主要研究課題還包括了AI加速器及相關自動化工具的設計。他希望通過更高效的AI加速器和更全面的自動化工具,加速AI從演算法設計到最終硬體部署的時間,以滿足不斷快速發展的AI應用的需求。
張曉帆在今年的兩個EDA領域頂級會議合共有4篇論文被收錄。其中發表在DAC的論文《Efficient Differentiable DNN Architecture and Implementation Co-search for Embedded AI Solutions》提出一種可微的深度神經網路與加速器聯合搜索框架,為嵌入式設備提供更高效的AI解決方案。
此外,另一篇發表於ICCAD的論文《DNNExplorer: A Framework for Modeling and Exploring a Novel Paradigm of FPGA-based DNN Accelerator》則探索了一種可用於FPGA的新型加速器結構範式,能進一步提高硬體加速器的資源利用效率和擴展性。
他將自己取得目前學術成果的原因歸納為以下四點:
1、導師的榜樣力量
張曉帆直言對研究生與博士導師的崇拜:「他們有一些共同點,就是對工作的要求非常高,要求非常嚴格,耳濡目染之下也會變得對一些細節很固執。
比方說,張曉帆提到被陳德銘教授「逮到辦公室里一字一句修改論文」的情景:
寫完論文後,我自己已經很滿意,拿給導師看後,他還是能夠看出很多需要改進的地方。哪怕我已經在不斷進步了,他還是能夠看出自己的不足。把我逮到他的辦公室里,坐在電腦邊上一個字一個字地修改。不斷改,改到滿意,達到導師標準的才是合格的。
張曉帆也十分理解導師的意圖:「教授是過來人,又看了那麼多論文,他肯定知道一篇好的論文應該達到怎樣的標準。」
此外,導師給予的指導性意見也非常多。他們的實驗室一周開一次例會。除了周例會以外,還有項目與子項目的例會,頻繁時每周會與導師聊三回。

圖註:2018年ICCAD最佳論文合作作者合影(左到右)熊瑾珺教授,陳德銘教授,張曉帆,胡文美教授,王均松(IBM高級研究員),林詠華(IBM傑出工程師,時任IBM中國研究院院長)
2、C3SR的工作經歷
C3SR(IBM-ILLINOIS Center for Cognitive Computing Systems Research)是UIUC與IBM合作成立的研究中心。在獲得Google獎研金之前,該中心為張曉帆提供了他的大部分研究經費與實驗設備。
作為學界與業界共同建設的研究中心,C3SR聚集了來自學校與IBM的權威專家。張曉帆在中心一起共事的導師,除了陳德銘教授,還有另一位來自ECE的胡文美教授(電腦體系結構、編譯技術、並行處理領域著名學者,IEEE/ACM Fellow),以及來自IBM的資深研究員、ECE兼職研究教授熊瑾珺。
據張曉帆介紹,C3SR每周都會有一個例會:「每一次例會就是學界與業界的思想碰撞。與業界的專家接觸,能討論出不少新想法。
3、實驗室的團隊科研氛圍
張曉帆認為自己非常幸運,在研究生與博士階段都遇到了非常好的團隊成員。
「同窗之間交流地愉快,心態調整也會快,科研也會快樂。」
圖註:2019年,張曉帆(後排左四)與C3SR師生參與由MIT-IBM Watson AI Lab舉辦的AI Research Week學術交流活動。
4、自我的修鍊
張曉帆將個人的因素排在最後一位。「一直在這個領域深耕,比較容易出成果。」
他認為,自信、樂觀與堅持是讀博的「三大法寶」。只有具備了這三大法寶,才能在讀博的過程中扛過一次又一次的打擊,不斷被打倒、又不斷站起來。
此外,讀博大多需時至少五年。對任何人來說,五年都是一段非常寶貴的時光。一旦決定讀博,便要克服一切困難,咬牙堅持下去。
「可以不斷用一些階段性的成果來激勵自己。」
與本碩學習有所差別的是:博士生要獨立做研究,自己決定自己的研究方向。
「一開始是導師幫忙選擇適合的研究方向,因為對行業不了解,所以由導師分配能勝任的工作。之後看的文章多了,就能感覺到行業要往哪裡發展,或是小的領域要在哪裡突破,摸索到自己的研究方向後,跟導師商量,給出自己的理由,導師同意後就可以開始投入研究。」 
至於如何獲取新知識、判斷行業的研究動態,張曉帆的主要學習渠道有:
1、讀文章,關注自己領域的幾個重要會議與期刊,偶爾刷arXiv上發表的新論文;
2、關注UIUC舉辦的一些學術講座與其他雲學術會議。
3、關注一些科技公眾號,比如AI科技評論。

4

寫在最後

讀博是選擇了一條孤獨的路。
對比同齡人的選擇,張曉帆知道,讀博並不是大多數人的選擇。
本/碩畢業後進企業與選擇讀博,這兩種選擇的追求是不一樣的。博士在讀生本就是低收入群體,「剛剛夠花而已」。
面對市面上那些冷冰冰的薪資數字,比如本科畢業的學生可能已經當到了VP、而你才剛博士畢業找工作,或者碩士畢業後工作三四年,技術工程師的年收入也能達到或超過一些公司給博士畢業生的收入水平,張曉帆的態度頗為達觀:
「如果要比收入的話,越比越傷心,因為比你有錢的人太多了。一味比收入的多少,也會容易抹殺掉自己在某個領域上的潛力。讀博是一個不留後路的決定。
另一方面,我們也可以找一些讓自己開心的數據,比如華為天才少年計劃…你永遠可以找到你想要的數據。
再談後悔與否已無太多意義。回顧自己選擇做科研的決定,以及獲得獎勵與肯定的經歷,張曉帆總結:「也算對自己的博士學習有所交代了吧。」

張曉帆個人主頁:

//zhangxf218.wixsite.com/mysite


[贈書福利]

在10月19日頭條專訪吳軍:未來10年,AI的發展方向是應用,不會出現重大的理論突破留言區留言,談一談吳軍博士對你的啟示,或你對資訊技術發展的理解。

AI 科技評論將會在留言區選出 10 名讀者,每人送出《資訊傳》一本。

活動規則:

1. 在留言區留言,留言點贊最高的前 10 位讀者將獲得贈書。獲得贈書的讀者請聯繫 AI 科技評論客服(aitechreview)。

2. 留言內容會有篩選,例如「選我上去」等內容將不會被篩選,亦不會中獎。

3. 本活動時間為2020年10月19日 – 2020年10月23日(23:00),活動推送內僅允許中獎一次


NeurIPS 2020論文接收列表已出,歡迎大家投稿讓更多的人了解你們的工作~

點擊閱讀原文,直達NeurIPS小組~