ICLR 2021 正式放榜!接收率29%、高分論文被拒、評審遭質疑…

  • 2021 年 1 月 19 日
  • AI
作者 | 陳大鑫
ICLR 2021今日正式放榜!首先恭喜所有論文被接收錄用的作者!
本次ICLR 2021一共有2997篇有效論文投稿,最後一共860篇被接收,錄取率達到了28.7%相比去年的26.5%有提升,與其他一些AI高峰會大幅降低接收率相比,ICLR 似乎顯得更加友好。
被接收論文中有53篇論文被接收為Oral(錄取率僅為6%)、114篇論文被接收為Spotlight、693篇論文被接收為Poster。
值得一提的是本次ICLR 2021一共有3013篇論文提交,其中有856篇論文是來自NeurIPS 2020 Rejection 之後重新提交的。
以下是本次ICLR 2021提交論文關鍵詞的詞雲圖:
以下是論文被接收的通知郵件,大家快來下滑翻一翻沾沾喜氣!
1

ICLR介紹

ICLR,全稱為International Conference on Learning Representations(國際學習表徵會議),2013年由兩位深度學習大牛、圖靈獎得主 Yoshua Bengio 和 Yann LeCun牽頭創辦。ICLR成立至今僅七年,但它已被學術研究者們廣泛認可,被認為是「深度學習領域的頂級會議」。
在ICLR論文結果公布之際,LeCun在推特上感慨道:
「ICLR的h5指數為203,在所有科學出版物中排名第17,超過了NeurIPS、ICCV和ICML(在AI高峰會中僅落後於CVPR,該榜單的前三名是 Nature、新英格蘭醫學雜誌和 Science。)。在過去五年中有203篇論文獲得了超過203個引用,這對於一個從2013年才開始的會議來說,取得的成績可謂是令人驚嘆」。
另外 ICLR 採用開放評審(Open Review )機制。所有提交的論文都會公開,並且接受所有同行的評審及提問,任何學者都可或匿名或實名地評價論文。而在初審公開之後,論文作者也能夠對論文進行調整和修改以及進行Rebuttal。
ICLR 2021官方已做出表示, 2021年5月4日-8日會議將線上召開

2

被接收論文數據統計

在論文放榜之後,又是辣個男人,Criteo AI Lab機器學習研究科學家Sergey Ivanov,他又一次火速爬取了ICLR 2021全部的被接收錄用的論文:
文檔鏈接://docs.google.com/spreadsheets/d/1n58O0lgGI5kI0QQY9f4BDDpNB4oFjb5D51yMr9fHAK4/edit#gid=1546418007
Sergey Ivanov也製作了論文可視化統計圖,如下所示,可以看出全部論文的平均得分大概是符合正態分布的。
Sergey Ivanov之後又把論文接收等級情況做了可視化,發現論文是否被錄用以及被接收為Oral、Spotlight、Poster的等級程度在整體上是符合分數高低排序的,即得分越高越容易被接收,以及被接收的等級越高。
據數據統計:
1、有超過72%(1936篇)的論文評審分數沒有任何變化!
2、論文平均得分在7分以上的103篇論文全部都被接收。
3、平均得分為7分的論文一共有109篇,其中有兩篇被拒絕,這表示就算論文平均分達到了7分也不意味著百分百被錄取。
4、論文平均得分在6分以下的論文足足有95篇左右的論文被接收!
5、論文平均分在5分以下基本算是可以放棄治療了,平均分在5分以下一共有700篇論文,其中只有5篇被接收。
6、被接收的論文最低平均分是4.67(分別是6,4,4)。
7、被接收的860篇論文整體的平均得分為7.25。
8、平均得分為6分的論文有39%的機會被接收,而平均得分為6.5的論文被接收的概率大大增加,達到了91% !
3

評審品質受到質疑

首先雙盲評審有多盲?
Sergey Ivanov指出:
對NeurIPS 2020來說,在9298份提交的論文中,已有2313篇論文發在arXiv上,占所有提交論文的25%。
相比之下,ICLR 2021有557篇論文發在arXiv上,占所有提交論文的25%。
之後Sergey Ivanov簡單的指出了有得分為7,8,6和6,8,6,8的論文被拒絕,而得分為4,6,4的論文被幸運接收。
Facebook AI科學家田淵棟表示他參與的一篇得分9,8,7,5,4的論文不幸被拒絕了。
「AC忽視了好的評審,反而抱怨我們選擇了一些表面上相似的方法來研究。

論文鏈接://openreview.net/forum?id=_ptUyYP19mP
田淵棟隨後又說道,他們的另一篇得分為8,7,6,5,3的論文也被拒絕了,似乎AC只信任給了3分的評審,而忽略了後續的一些討論(一些評審後來意識到有些針對論文的批評是完全錯誤的,更不用說後來檢查修訂刪除了一個主要的假設)。
今年元評審(meta-review)品質降低了嗎?」田淵棟之後發問? 
牛津大學機器學習副教授、應用和理論機器組(OATML)負責人Yarin表示:
是否好奇想看看一篇得分8,8,6,4的論文被ICLR 2021拒絕是什麼樣的?(哪怕被拒也不妨搞些PR宣傳(手動狗頭) )
這裡介紹我們在資訊瓶頸的可處理目標方面的工作!我們提出了IB邊界,它可以擴展到ImageNet並且非常容易實現。
論文鏈接://openreview.net/forum?id=5rc0K0ezhqI
AI研究員RogerGrosse也表示他們有一篇得分8,7,7,6的論文在經過了全面的評審和大量的討論仍被拒絕了,拒絕的理由用一句話來說就是:「在數據上的訓練是向演算法灌輸知識的錯誤方式——感覺像是AAAI 1993中的舊東西
而Google大腦的一位研究科學家 Hardmaru則以身作則,對此次評審過程解釋道:
作為本次ICLR 2021的一位領域主席,我嘗試花費更多的時間來撰寫相對複雜詳細的評審回復,以給被拒絕的論文更多的回饋,同時給被能接收的論文相對較短的評審回復。
4

論文被接收的喜悅

最後,做研究和寫論文終究是個辛苦的差事,需要默默付出很多汗水,論文能被接收殊為不易,當然要值得祝賀一番。
Google大腦機器學習科學家Hannie Sedghi表示很開心很激動。
機器學習研究員Balcilar在得知自己的論文被ICLR 2021錄取之後甚至表示:「在我四十歲之後,我總是問自己我這一生中最大的成就是什麼,我之前的答案是是在被獨裁者監禁之前逃離我的國家。現在是時候改變我的答案了!
AI科技評論在這裡也祝所有AI人不忘初心、不驕不躁、繼續砥礪前行!


[贈書福利]

食物、能源、水的短缺是人類面對的終極挑戰。人工智慧技術是我們面對這些挑戰強有力的武器。最前沿的發展如何?我們如何突破困境?騰訊首席探索官網大為最新力作《重構地球:AI FOR FEW》,馬化騰力薦!

AI科技評論為大家帶來5本《重構地球:AI FOR FEW》正版新書。

在1月13日末條文章(注意不是本文!)《贈書福利!騰訊x先生論AI如何解決全球吃飯難題,馬化騰力薦》留言區暢所欲言,談一談你對本書的看法。

AI 科技評論將會在留言區選出 5 名讀者,每人送出《重構地球:AI FOR FEW》一本。

點擊閱讀原文,直達IJCAI小組!

由於微信公眾號試行亂序推送,您可能不再能準時收到AI科技評論的推送。為了第一時間收到AI科技評論的報道, 請將「AI科技評論」設為星標帳號,以及常點文末右下角的「在看」。