主要观点总结
本文作者讲述了自己在关注AI领域论文过程中的所见所闻,包括一篇在ICLR会议中获得8分评价的论文。作者对该论文的内容、评价及引发的讨论进行了描述,并对当前AI领域的媒体环境提出了期望。
关键观点总结
关键观点1: 作者在搜索论文时更倾向于关注顶会论文,但仍觉得大多数论文质量差。
作者对当前AI领域的论文质量有所不满,更关注顶会论文,但即便如此,仍感到大部分论文质量不佳。
关键观点2: 一篇名为“Were RNNs All We Needed ?”的论文在ICLR会议中获得8分评价,引发讨论。
作者描述了一篇在ICLR会议中获得8分评价的论文,该论文进行了简单的消融实验,将LSTM和GRU中的某种结构去除,并与transformer进行了对比试验。此论文引起了sonta小姐姐的锐评,她指出该工作和其他研究存在撞车之处。
关键观点3: 媒体环境对中文NLP圈子的影响。
作者提到当前AI领域的工作数量爆炸式增长,而一些媒体为了吸引读者,可能会宣传一些质量不高的工作,如本科作业级别的工作。这对中文NLP圈子来说是一种负担。作者希望中文的NLP媒体环境能够变得更好。
文章预览
作者: 难赋 ——以前看见个评论说ai的十分制会议中的10分指的是“如何这篇文章没有中,我将断绝与该会议的一切联系”,要是今天讲的这篇论文中了iclr的话,没准这句话对于iclr来说可以改成对8分的评价了。 平时搜索论文时习惯先去顶会看看,即使是在数据库中检索论文也是先看看是不是顶会的,再去下载。即使这样,也会觉得读到的文章大部分质量都很差,甚至很水。 平时也就脑海里埋怨一下,便去接着做自己的事情了。结果这两天在知乎上刷到一个帖子,怒斥了openreview上的一篇投递ICLR的paper。一看标题,是 Were RNNs All We Needed ?。 呵,这不是我吐槽是本科生课程大作业那篇文章嘛,居然被ICLR会议的审稿人给了8的评分。 这篇文章的内容很简单:把LSTM和GRU里的某种结构去了,然后和transformer做了对比试验(选择性复制任务和莎士比亚文学集
………………………………