双非?非计算机专业?也可以发顶会!

大家好,我是Zone。

今天给大家带来一个不一样的访谈,今天采访的对象是咱们群里还在就读的研究生定国。定国的本科是非计算机的文科专业,然而定国在读研期间,却在CVPR2019NIPS2020上两度发表论文。定国的身上很多值得我学习的地方,谦虚、踏实、目标专一,就是因为这些特质,让定国可以坚定自己所做的方向,不断推出自己的工作。接下来就让我们一起向定国发问,挖掘属于定国的学习秘籍,向定国学习如何在顶会中发表论文吧!

1. 请定国做个自我介绍。

大家好,我是定国。先介绍一下我自己的情况,我本科和硕士都是双非普通学校,本科非计算机文科专业,研究生转到计算机专业,方向是计算机视觉。研究生期间在打过MSCOCO的实例分割比赛和全景分割比赛,并且跟随导师在CVPR2019和NIPS2020发表了论文。

2. 简单的介绍下自己近期的工作(NPIS2020)

论文链接://papers.nips.cc/paper/2020/file/9fe8593a8a330607d76796b35c64c600-Paper.pdf,欢迎各位follow定国的工作!

论文的工作是针对语义分割网络进行的改进。我们在FCN的基础上提出区域注意力模块,本文定义的区域可以自然地提供像素之间的空间和类别关系,每一个对象都可以看作是一个区域,它由附近一组属于同一类别的像素组成。

我们利用边缘和类别语义信息作为依据进行区域划分。在划分好的区域基础上,利用位于同一区域的像素之间的邻近关系形成局部信息来查找物体最具代表性的属性,然后在不同区域的像素之间交换区域信息,形成有用的区域级上下文特征表示来辅助分割。

3. 毕竟现在的工作那么多,你是如何找出自己觉得可以Follow的一些工作的?

比赛应该是我去找可以供人follow的研究了。研一期间,我刚开始接触计算机视觉的实例分割,觉得很有趣并且去尝试打MSCOCO实例分割的比赛。比赛期间,为了获得一个好的名次,会不断去找一些相关文献查看,然后调整自己的比赛策略,例如魔改FPN。虽然最后比赛没有获得很好的名次,但是导师认为可以利用这次打比赛的方案来写一篇论文,并且在CVPR上发表了。研二期间,导师没什么时间管我,我就先去查找一下最近的新领域,发现全景分割是一个挺有趣的课题,就去打一个MSCOCO全景分割的比赛,后来经过一番折腾,拿下了季军。这个过程去调研了很多全景分割的论文,当时大部分研究都是先把实例框预测出来后再去细分割,比赛完后想这么麻烦的话,为什么不直接做pixel2pixel的全景分割。后来就想借鉴一下polarmask论文的方式,稍微实现了一下自己构造实例的想法,发现没什么用。我认为原因是在全景分割上,没有好好利用gtbox的话,就削弱了这种方法的优势。因此就退到语义分割上去做,发现还是可以的。

总而言之,在发表论文之前,我一般是会先去打比赛来了解这个领域。我会主动去找一些比较通用和简单的方案去落实到自己的网络上,然后在它们基础上去做一些魔改,改着改着就会发现它们这些方案的巧妙之处,自己也会有想法。通用和简单的方案是比较容易接受的,而且又容易follow和找出它们没有做好的地方。另外,我个人认为实践过后,对它们的理解加深后,自然会有一些骚操作从自己脑袋瓜冒出来。比如像Asymmetry Nonlocal network,其实我打比赛的时候,也有类似的思路,但我的目的是为了减少内存使用,好让自己的模型跑起来,没想到人家居然可以写成论文。

4.实验过程大概持续了多久?有没有实验不work呢?怎么调整呢?

实验过程大概持续了半年吧,不work的实验太多了。至于怎么调整的话,这个实在很难回答,我自己也没有很好的办法,毕竟是黑匣子。我自己的做法是:如果有自定义op,我会先去验证一下前向的输出和反向的梯度是否符合自己预期。要做好消融实验,确定好每一个模块的有效性。在自己新增的模块中多加bn,可以有效整合不同特征,不至于一开始掉点太多。

<font color=blue size=3>这个问题是zone的锅,其实是想问的是怎么调整自己的心态,但是问成了怎么调整实验。不过看起来定国的做法就是保持耐心,做高消融实验,确定好每一个模块都是有效的,目前确实有一些小伙伴们做实验是一股脑加了很多模块,最后都不好分析具体是什么模块work了

5.你觉得对于发顶会,有没有什么经验可以分享给小伙伴呢?

对于发顶会,我觉得有几条经验可以分享一下:

  1. 如果自己老师比较负责的话,多和他交流准没错。后期写文章的时候,他也可以给文章润色一下。
  2. 产生论文最快的方式就是A+B=C的灌水。如果想增加投中概率,A可以是其他领域的论文,然后迁移过来用。
  3. 我自己觉得打比赛是一种比较接地气的了解一个领域发展的方式,这个竞争的过程也能逼人去思考一些问题,从而启发你一些新思路。
  4. Rebuttal的时候多重视那些认为你文章具有novel性质的reviewer,他往往能带动积极的情绪给其他reviewer。
  5. 如果没有特别好的想法,就尽量找一些新领域(比如全景分割,不过比较烧显卡),把旧领域的知识迁移到新领域,再加以改动,写点故事上去,就可以尝试搞一篇论文了。

6.下一步有读博继续科研的打算嘛?

目前没有读博的打算,不是读博的那块料,就出来工作了。

7. zone之总结

定国非常谦虚,并且对自己感兴趣的方向是花了很多心思进去学习的;非常的无私,给我们分享了很多自己发表论文的经验;人非常nice,在群里经常帮我们答疑解惑。希望我们各位小伙伴们一起沉下心来,都发出自己的顶会!

添加小助手微信,“AttackOnAIer”,一起加群讨论!