|
随着 AI 领域越来越火热，各大顶会的论文发布似乎也越来越难：AAAI 2020 放榜，8800 篇提交论文创历史记录；CVPR 2020 被称为十年来最难投中的一届；IJCAI 2020 审稿堪称史上最严，创下了史上最低的接收率 12.6%；OSDI 2020 录用率不足18%；NeurIPS 2020 论文投稿数量创历史最高，但接收率却为史上最低……  在这种情况下，不免有人感叹：“发顶会论文，怎么就那么难？”为此，我们特地收集了10个与如何“收割”顶会论文相关的问题，采访了三位来自微软亚洲研究院不同研究领域的研究员，他们都曾担任过不同顶会的领域主席。在圣诞节来临之际，希望前辈们的建议，能作为一份特别的礼物，帮助大家在科研道路上越走越远！     Q1：论文的 idea 来源有哪些？如何可以想到不错的 idea？ 一个 idea（想法）是一个做科研的开始。在提到 idea 的来源时，三位研究员都不约而同地提到了读论文这个方法。想要输出好的内容，首先要有输入。杨蛟龙提到，关于 idea 最主要的渠道来源还是读论文，在读现有论文的过程中产生想法，比如发现现有某一个或一类方法的不足并思考解决方案、受某个现有技术的启发去解决另外一个新问题等。这也与张星星的观点不谋而合，张星星表示，一个好的 idea 是要解决前人没有解决的问题，或者改进之前方法当中的某些缺陷，这些都是一些比较好的出发点。 除此之外，良好的沟通也是必不可少的。在日常和同事、同学、导师的头脑风暴中，讨论需要关注的领域和问题，互相借鉴方法，更容易迸发出灵感的火花。在这里，陈薇鼓励研究者们在参加顶会或学术大会时，多去听一听自己感兴趣的 Workshop。往往这些 Workshop 中会有许多行业内前瞻性的探索，也会有很多活跃的业内人士，在这样的环境下，更容易产生好的 idea。 学科交叉迁移也是一个可以尝试的方法。作为数学背景出身的研究者，陈薇会把计算机领域的问题放在数学的知识框架下进行思考，从而探索新的问题或者解法。在计算机科学领域，也可以从最基本的概念和方法论去寻找灵感。 Q2：有没有一些好的/常用的论文写作技巧可以分享一下？ 有时候，有些同学可能还没有接受足够的论文写作训练，所以容易依赖导师。但是，论文写作是科研的一个关键环节，尤其对于想独立做研究的学生来说，优秀的论文写作能力是不可或缺的。三位研究员们提出了许多可以借鉴的论文写作技巧。  第一，把自己放在读者的位置上。人们常常会在面对自己写的内容时，自我感觉良好，但如果换做一个对论文内容比较陌生的人来阅读，读者是否真正能领会到研究的要点，论文逻辑是不是顺畅，文章里的陌生词汇是不是很多…… 这些都是要从第三方的角度思考的。因此，在论文写作时应该多换位思考、从读者的角度去组织和修改文章内容，论文完成后还可以邀请同学、老师或者朋友帮忙通读论文，看看还有哪些读者疑惑的问题。 第二，写论文要有讲故事的思维。其实，做科研就是一个讲故事的过程，写论文也是。论文写作需要一个完整的故事逻辑，比如，从论文为什么要做领域内的这个问题出发，讲述现有算法为什么不能很好地解决这个问题，然后我们有什么新的发现或认识，基于此提出了一个什么样的方法，这个方法创新在哪，最后的结果又是怎么样的。论文一定要有一条很流畅的逻辑线，不要写成一个枯燥无味的技术报告。 第三，在阅读论文的过程中积累技巧。当你阅读其他作者的论文时，如果发现论文中有精彩的部分，比如优美且专业的用词、流畅的逻辑表达、漂亮的图表等等，都可以记录下来或者截图保存，建立供自己反复学习以及论文写作时参考的“语料库”。 第四，论文写作要简练、严谨、清晰。研究员们表示，在做 Reviewer（审稿人）时，他们经常会看到有的论文在阐述贡献时，会出现用力过猛的情况。因此，三位研究员都强调了，论文写作的语言要简练，突出重点。因为 Reviewer 的审稿时间是非常有限的，不可能把过多的时间浪费在一篇内容不清楚的工作上。同时，用语也要严谨。比如，在用形容词描述效果程度时，到底是 superb，还是 good，抑或 descent, reasonable 等，每个单词都要有把握，字斟句酌。这是因为，大部分人在读论文时都是抱着怀疑的态度，如果细节不严谨，可能会引起对该研究工作的不信任。 最后，论文写作不是一蹴而就的，需要投入大量的努力。三位研究员都表示，做研究和写论文都是没有捷径可走的。与其投机取巧，不如在研究一开始就踏踏实实，严格把关每个环节，尽早把实验变成文档，形成严谨的逻辑链条。杨蛟龙表示，对于刚起步的同学，写论文可以先搭建框架再丰富内容，由粗到精地写。比如，根据整体逻辑先确定每个章节的标题，再确定每个子章节及其标题，然后可以写章节中每个段落的第一句话（尤其是引言部分），最后再把所有段落内容写好。 Q3：如何做好投稿前的时间管理？  在科研中，做规划是件很难的事，因为研究过程中有太多变数。但即使计划很难，也还是要做。根据自己在 CV 领域顶会的经验，杨蛟龙认为在投稿3个月前，大家就需要紧张起来了。紧张起来并不是说要每天加班到凌晨，而是要做规划，根据项目目前的情况，列出事情的优先级。如果在一定时间内做不完，就不要再钻牛角尖持续拖下去了，尝试换一个方向。因为，如果没有这样的全局观，会很容易陷入“坑”里，自己总觉得还有时间，但最后可能会发现就算解决了这个“坑”，用处也没有那么大，时间没用在刀刃上。 对此，张星星总结了一套实用的方法——提前写一部分论文。一篇文章不需要等实验的所有部分都完成了才开始写，有很多部分其实是可以提前进行的，比如 related work（相关工作）部分。在方法部分，如果做实验已经看到方法有希望，那么可以先把方法写出来，方便梳理，也更容易“抠”细节、反思流程、产生灵感。最好论文的第一版可以提前一个月的时间完成并递交给导师，这样导师有足够的时间，也会给出及时的反馈。 当然，研究也需要良好的执行能力。陈薇提出，研究是一个完整的工作流程，每个环节都需要严谨。如果在选题、实验等各个环节中有所疏漏，那么整篇论文都不会扎实。提早发现问题，高标准严要求解决掉问题，会大大降低论文写作的难度。 Q4：论文评审中，审稿人更希望看到什么样的论文呢？一篇好的论文，内容要正确清晰，逻辑顺畅，真的有贡献，结果也要充分、有说服力。但对于不少国内的研究者来说，首先要过的就是语言关。张星星在审稿时就曾碰到过这样的事情：作为审稿人，他看懂了一篇论文，然而其他评审者却看不懂，给了很低的分数。其原因在于，张星星作为中国人，十分了解中国学者的用词习惯，所以他可以看懂这篇文章想要表达的观点，也看出来了这篇论文是中国研究者写的。然而，尽管他对文章的学术内容表示认可，并试图挽救这篇论文，但最后还是失败了。最终领域主席认为，论文的语言不符合 ACL 标准，文章不能被接受。 除了语言外，内容也是一大要点。杨蛟龙认为，一篇论文的内容在各个方面尽量都不要有短板。如木桶原理一样，论文中如果有短板，即使别的地方突出，评审者都不得不将评分降到较低的区间。因此，无论是在写作上，还是在讲故事、方法的创新性、实验的完整度上，论文都应该做到全方位没有“死角”。在没有短板的基础上，论文如果有亮点，比如方法非常新颖，实验特别充分等，都会受到好评。正如杨蛟龙所说：“如果能把论文的每个部分都做成亮点的话，那真的太优秀了。”不过，即使做不到整篇论文都是满分，那么把一个点做到极致，也会让人印象深刻。 当然，评审者也会有自己的喜好，张星星和陈薇都不约而同地提到了富有解释性的文章。很多文章的逻辑都是提出模型-模型优势-实验效果提高，但是如果能解释清楚实验结果数据为什么会这么好，多一些深入的分析，就更能接近问题的本质。 Q5：Rebuttal 的用处在哪里？如何写好 Rebuttal？Rebuttal（辩驳）是论文评审中关键的一步。张星星表示，其实我们每天都在 Rebuttal。无论是和导师，还是和同事/同学，只要在一起讨论论文和问题，都是 Rebuttal 的过程。他自己曾经有三次通过 Rebuttal 让文章被改分的经历。“Rebuttal是有可能拯救一篇文章的，所以千万不要放弃 Rebuttal 这个机会。”对此，杨蛟龙也有切身体会。他回忆道，在一次投稿时，因为一个公式没有写清楚，而导致论文被几位审稿人否定，但在他通过 Rebuttal 环节详细解释后，文章最终得到了认可，评分也迅速上升，最终论文被接收。 研究员们表示，通读完论文的评审意见之后，可以先将提出的问题列出来，仔细思考为什么会有这些问题。大部分审稿人提出的意见背后都是有原因的，所以要从论文出发，回想有问题的部分，反思一下是不是确实容易产生误解，然后再去写 Rebuttal。 同时，对待 Rebuttal 的态度要端正，没有必要过分情绪化。Rebuttal 不是一个对抗的过程，事实上，审稿人是帮助者而不是敌人。陈薇认为，Rebuttal 其实是一个让文章可以变得更好的过程，在与同行的讨论中，我们也加深了对工作的理解。另外，在 Rebuttal 写作时也需要有一定的逻辑性，针对问题进行解释要层层递进。如果要求实验结果，那么就尽量去进行实验，因为图表数据更有说服力。其实，如果认真、真诚地回复 Rebuttal，既能显示出研究者对工作负责任的态度，也是对评审者辛苦审稿的尊重。 Q6：要如何和导师进行沟通互动？ 在沟通过程中，首先要保持一个坦诚的态度。三位研究员都表示，同学们要不怕犯错，千万不要有了想法后不说出来，自己闷头“蛮干”。陈薇认为，做研究时思维方式要调整，导师是同学们的合作者，及时和导师沟通，可以避免走很多弯路，节省更多科研时间。从整个科研项目的管理上来说，让导师知道每个细节也是很有必要的。毕竟在快到 Deadline 时，如果学生有很多的话，导师也分身乏术，没有办法将很多时间分配给每个学生。 在写论文的角度上，杨蛟龙提出，刚接触科研的同学可以提前跟导师沟通，询问应该怎样讲一个故事，在导师提点之后，同学们就可以根据导师讲的思维开始起草论文了。如果是高年级的同学，则可以尽量去跟导师讨论自己的论文思路，等文章写完后再让导师提一些反馈意见。 Q7：随着 AI 领域越来越火，顶会投稿量也不断增多（比如 CVPR 2020），顶会录取会不会更难？在杨蛟龙看来，尽管整个 AI 领域的科研人员比原来增加了不少，但无论是从论文的录取率，还是投稿的难易程度等多个方面，他个人觉得和之前没有太大区别。发论文其实并没有那么难，难的是怎么出类拔萃。他表示，现在出现了很多快餐式的论文，尽管这种论文的内容好像也能说得过去，但其实对领域的研究发展帮助并不大。 如果想要成为一名优秀的研究人员，那么在刚开始做科研时，就要建立起良好的科研品味，比如要做对领域有重要贡献的工作，希望让更多人从中受益，或者对领域有所改变。如果从一开始做科研的时候就给自己树立这样的标准和价值观，那么你今后的论文将会是更有价值的存在，是能让人去引用的论文，那就是出类拔萃的。杨蛟龙鼓励每位同学都给自己设立一个小目标，比如做口头报告论文，做前10%、5%、3%的论文等等，以此来激励自己做有价值的科研。 Q8：ACL、EMNLP、IJCAI、AAAI 都会有 NLP 方向的论文，对于 NLP 的工作，会议倾向的风格会有什么不同吗？如果有的话，投稿时需要注意什么？ 张星星提到，不同会议的风格确实存在区别。像 ACL、EMNLP 都是比较传统的 NLP 会议，可能更侧重相对传统一些的 NLP 领域问题。像 IJCAI 的话，内容就会更多样化一些，不仅有 NLP 的问题，可能还有计算机视觉、机器学习等多种 AI 相关的方向。如果是把 NLP 应用到了一个产品，或者一个比较新的领域中，那么 IJCAI 这类会议会相对比较喜欢这样的论文。如果是比较传统的 NLP 问题，那么把这样的论文投到更相关的会议上，则会受到更多的关注度。事实上，有经验的科研人员有时只需看论文的主题，就大致有一个感觉，觉得这篇文章更适合哪一类的会议，所以同学们可以多跟导师进行交流。 Q9：机器学习方向的三大 AI 顶会：NeurIPS、ICML、ICLR 分别有什么特点？怎样做到针对性投稿？对于这个问题，陈薇从顶会的历史说起，给出了解答。 NeurIPS 是 Neural Information Processing Systems 的简称，在神经网络模型2012年再度兴起之前，这个名字听上去与机器学习并不十分匹配。但其实，NeurIPS 长期被机器学习等领域的学者所青睐并保持繁荣，其很大原因在于它比较开放、包容新兴问题和创新方法。这从 NeurIPS 一直以来尽力保持的 Single track + Poster 的会议形式也有所体现，鼓励学者在自由讨论中进行思维碰撞。所以，比较新颖的、脑洞大开的想法可以尝试投稿 NeurIPS。 相对 NeurIPS，ICML 是一个更加传统的机器学习会议，接收机器学习各个领域的前沿工作，较偏好理论、算法、实验比较平衡和完整的工作。ICLR 则是比较新的会议，创立于2013年深度学习兴起之时，鼓励从表达学习的视角理解深度学习，同时展现深度学习的各项前沿应用，比如计算机视觉、计算生物学、语音识别、文本理解、游戏和机器人等。另外，ICLR 首先采用了公开评议（Open Review）的审稿方式，评审意见公开，审稿人、作者、公众的讨论更加充分，学者在投稿或者关注中有更大收获，同时也促进了 ICLR 的快速成长。 Q10：日常应该从哪些方面锻炼自己的科研能力？杨蛟龙认为，科研能力包括很多方面，从最开始的学会读论文，到开始写论文做演讲，当然还有编码能力、思维能力等等，要求是全方位的，一个合格的研究员不应该有短板。而在这其中，最重要的是逻辑思维能力和问题分析能力。分析问题的时候，如果遇到一个问题，要怎么解决这个问题？如果这个问题成功解决了，接下来又有什么问题？这种树状的逻辑思维能力和分析能力需要长时间打磨、培养，才能建立起来。有了问题分析和解决的能力，才能在问题中快速发现关键点，也能在问题中获得灵感。 在张星星看来，科研能力和研究品味是需要慢慢提高的。好的输出必须有好的输入做基础，一方面要读大量的论文积累，另一方面就是要多做实验，在实验中看到方法的缺陷和问题。除此之外，去参加顶会也很重要。在开会时，可以和领域内的“大佬”多交流沟通，了解他们的观点，向他们提问，从而进行思维碰撞，提高自身能力。 陈薇则提出，同学们在进行科研时，最重要的一个前提是已经完成了一套完整的科研训练。亲身体会过完整的科研流程、培养良好的研究习惯后，才会对自己的研究有合理的预期，循序渐进地追求想法和深度。同时，科研中的心态十分重要。避免眼高手低，在科研开始阶段一昧追求做“大事”，也不要在已经完成科研训练之后低估自己，受限于舒适圈内而不敢大胆尝试。建议短期内在自己的兴趣、能力和工作的影响力三者之间做最优匹配，长期保持学习习惯、好奇心和挑战自我的勇气。 通过与研究员们的沟通，我们可以看到，科研是一个长期的过程，不仅需要技巧，更需要良好的心态。与其临渊羡鱼，不如退而结网，终有一天你也会成为别人眼中的“顶会大佬”！ 最后，圣诞老人祝大家在以后的研究工作中论文全过，顶会全中！ 你也许还想看：
|
|
|
