这个神经突起发生了什么变化和没有变化?

今年的第33届神经信息处理系统会议(神经科2019)似乎比往年来得更猛烈。

首先,参与者的数量急剧增加。2018年的参赛人数达到了9000人左右,这让组织者高兴得合不上嘴。出人意料的是,今年有13000人直接前来,比去年增加了40%。然而,彩票的申请人数甚至达到了15000人,神经科的官方网站甚至一度瘫痪。

第二,报纸大丰收。提交的论文数量达到6743篇,比去年的4856篇增加了近40%。其中论文1429篇,同比增长41%,论文收录比例约为21%。投稿数量和论文收藏都创下了新的历史记录。相比之下,ICML也为大赦国际峰会做出了贡献,它只有3,424篇论文,最终包括774篇论文,只有大约一半的贡献和收藏是神经病学论文。

会议期间,在社交网站上随意搜索关于神经科的关键词,神经科收集的论文随处可见,成为相关专业学生的最大梦想。

因此,如果今年还有人对人工智能冬天做了另一个大评论,如果没有别的,只要扔出神经突起的数据,你就能打自己的脸。

当然,各种数据的亮点只是会议的一个方面。我们更重视的是,从会议的结果来看,我们能看到人工智能玩家和旗帜方向的一些变化吗?所以,今天我们将放弃冷冰的理论研究和复杂的公式,看看这次大会与过去相比有什么变化和不变量。人工智能在现实世界中的发展趋势是什么?

玩家也是如此:一万年的流水,铁谷歌

我相信不言而喻,读者和朋友们也能猜到,今年的神经科再次被谷歌排名。

难怪谷歌在人工智能学术会议中占据主导地位。与去年的137篇论文相比,今年的谷歌收录了180篇论文,增长了近31%,而且增长速度非常稳定,这也大大增加了其他机构的赶超难度。更重要的是,有一个头脑深刻的人一直在免费炫耀他的技能。我担心谷歌,这个节目的儿子,将会继续享受长期做国王的孤独。

微软可能是业内唯一能与谷歌抗衡的公司。今年它也表现不错,有76个作品。

然而,美国三大学术机构的实力仍然不错。麻省理工学院被选为86篇文章,其次是斯坦福大学,有85篇文章。与去年的11篇文章相比,斯坦福取得了巨大的进步,这也反映了斯坦福今年在人工智能领域的努力。CMC入围79篇文章,在美国学术界是当之无愧的前三名。

此外,伯克利、facebook、普林斯顿、IBM等6家公司都有超过40篇论文入选。美国大学和企业占据了前10名中的8个席位,将第9和第10名留给了英国的剑桥和牛津。

这也给我们启示,当面对各种看不起美国的声音和分析时,当心态稍有偏差时,我们仍然要看这些研究数据:美国的科研力量是靠自己的,这是一个现实,在未来几十年很难做出重大改变。只有认识到现实,我们才能一步一步赶上。

当然,中国今年的表现也很光明。清华,工程之王,在33篇文章中被选中,在整体排名中排名第13位。北京大学入选23篇文章。中国科技大学、浙江大学、香港中文大学和复旦大学等大学也获得了该奖项。在企业方面,腾讯、阿里、百度和华为也表现良好。不幸的是,与华为方舟实验室去年选出的最佳论文相比,今年的最佳论文没有中国影子。当然,最好的纸张强度是一方面,运气也是另一方面,只有我们的整体强度有所提高,最好的纸张也是一件自然的事情。因此,我也希望中国军团在今后的会议上能够在论文的数量和质量上有新的飞跃。

此外,神经科的官方数据还提到,女性作者提交者的总体比例

会议越来越受欢迎,越来越多的文章被提交,这不一定是一件好事。仅神经科专业委员会就审查了今年的论文,提交了20,000篇文章。评论家们忙得不可开交,以至于他们在今年夏天的论文评论中甚至被批评为“水太多”。

事实上,这是完全可以理解的。毕竟,随着《神经科学》2019提交和使用的论文数量急剧增加,不可避免地会出现大量的“水文学”,并且有不少人希望通过改变模型和添加一些数据来蒙混过关。在这种情况下,今年的论文审查与往年相比发生了一些新的变化。

例如,评估委员会鼓励研究论文的创造性。其中,特别强调以创造性和新的方式看待问题。在这样的研究前提下,可以得到一个真正让读者吃惊的结果。这传达了文件可读性的方向。获得“杰出新方向论文奖”的《Uniform convergence may be unable to explain generalization in deep learning》是由卡耐基梅隆大学、博世人工智能中心的瓦希纳夫纳加拉詹和济科科特共同完成的,这表明一些深度学习研究者的成果被夸大了。换句话说,它无情地揭露了一些研究者研究成果的虚假掩盖,这可以使读者甚至普通人更客观地保持他们对深度学习效果的认知。

另一个例子是要求论文不要尽可能地强调理论的重要性或意义,而要更加注意其实践的针对性。换句话说,肯定有一些问题。在一定程度上,这也符合人工智能产业化日益深刻的现实。

同时,评审委员会明确表示没有三种论文:一是“资源密集型”论文研究,即利用大量资源获得的成果;第二种显然是可以通过一种快捷有效的方法得出结论,但却偏偏选择了曲折的“旁门左道”,或者“招摇撞骗”;第三是强调论文的简化,即要简明扼要,尽可能缩短篇幅。看看这次会议的优秀论文,其中许多不超过10页。与几十页经常阅读的“水文学”相比,它简直不太认真。

总之,林芝达有各种各样的鸟。今年神经科论文数量的急剧增加促使评审委员会控制质量并修订评审标准。这也是一件合理的事情,保持会议文件的权威是明智和不可避免的。

趋势是应用:算法越流行,越多的实践成为目标。

总的来说,论文在算法、深度学习和应用三个领域的成绩位居前三位,与前几年相比变化不大。然而,这三个领域本身也有一些微妙的变化,从中我们也可以看到当今人工智能研究的一些趋势。

最明显的变化是算法研究。算法研究领域的论文在2018年占近25%,在2018年增加到约27%。入学人数在2018年约占21%,2019年约占28%,在这一领域,提交的论文数量和最终入学人数都显示出增长。

相比之下,关于深入研究的论文比例显示出一定的下降趋势,无论是提交还是最终被承认,尽管这一趋势并不明显。另一方面,虽然应用研究领域提交论文的比例基本相同,但接受率却下降了约2个百分点,这也可能与水文作为一个恶魔在数量巨大的情况下不可避免有关。

然而,就强化学习、理论、概率统计和神经网络而言,他们大部分论文的接受率呈现下降趋势。

这种趋势可能不难解释。随着人工智能产业化的不断加速,人工智能正如火如荼地登陆世界各地。它已经从实验室的纯理论研究转向了工业实践,因此必然会面临更多的实际问题。因此,在算法层面不断进行创新研究显然符合人工智能的大趋势。

随着2019年人工智能产业化趋势的深化,明年神经科学论文的实践方向可能会更加明显。