今天,一年一度的国际机器学习大会(International Conference on Machine Learning,以下简称ICML)在悉尼召开,相比2012年在北京举办的那次,今年的ICML更受关注,当然参与的产业机构也更多。今天就来简单看一下,今年ICML上四个有趣的现象。
现象一:深度学习、强化学习成最热门领域
作为学术会议,人们最关注的还是ICML上讨论的课题和入选论文。或许是因为这两年机器学习的火热,今年ICML一共评审了1676篇论文,其中有434篇都被收录,这两个数字都远远高于往年。在这些论文中,有25%都有企业参与,像是DeepMind、谷歌、亚马逊、Facebook、微软等等。
在论文中,深度学习、强化学习、连续优化等等领域成为了大热门。以DeepMind发布的一篇论文为例,DeepMind提到了传统强化学习通常会设置奖励期望值,但环境中往往存在随机扰动,对系统行为造成影响。应对这一问题,DeepMind提出了对奖励期望值建模和奖励所有的变化建模,并定义了价值分布这一观念。
论文中提到,这一理论可以极大的加强模型训练速度和准确性。
几篇获奖论文基本也集中在这些领域,比如关于向量机的优化问题、多任务深度强化学习框架等等。
现象二:ICML中的中国身影
这次ICML中,中国的上线率也比往年更高。在主席团队中,我们能看到腾讯AI Lab的张潼、微软研究院的李力鸿、清华大学的朱军等等。
在入选论文中,中国企业也占据了一席之地。其中腾讯AI Lab有4篇论文入选,还有一篇蚂蚁金服也在作者序列之中。四篇论文论题分别为:高效的分布式稀疏学习、无需投影的网络中的在线分布式学习、GSOS:用于多项非平滑凸组合优化问题的高斯 - 赛德尔算子分裂算法。不过,这四篇论文中,除了最后一篇以外第一作者都不是企业方。
但这四篇论文的第一作者都是华人,甚至有机构统计出,被收录的论文中,有25%的论文第一作者是华人。其中微软研究院刘铁岩团队提出的对偶监督学习更被称作机器学习的新范式,利用了机器学习中两种语言互相翻译/NLP中的语音转化文字、文字合成语音等等任务中自然存在的对称性任务,建立对偶学习模型,在监督学习中共同训练。在机器翻译、图像分类等等领域中,此模型都表现优秀。尤其在情感分析中,对偶监督学习模型展现出了强大的表现力,表达出的情感更强烈、更具体。
现象三:更多的金主
在学术成果之外,这届ICML的赞助情况也很有趣。ICML将赞助商由高到低分为几个等级,有钻石、白金、黄金、白银、青铜。虽然没有明码标价,但综合NIPS(神经信息处理系统大会)、IJCAI(International Joint Conference on Artificial Intelligence)等同级别的会议赞助费用来看,往年白金到青铜级别的赞助费用大多分布在3万美金到5千美金左右,费用不算很高。不过今年ICML第一次出现了一家钻石赞助商——英伟达。通过GPU赚的盆满钵满的英伟达出手如此大方,一方面是亮肌肉,另一方面也在表明自己吃定了这碗饭。
今年的赞助名单中也能看到不少中国企业的身影,金牌赞助商有百度、阿里、蚂蚁金服,而京东却和Facebook、Amazon并列为铂金赞助商。虽然京东在AI上的动作不多,只有无人仓储一项,不过出手倒是很大方。
但这种情况并不少见,中国有不少企业在人工智能领域动作有限,却很积极的赞助人工智能学术会议。像是今日头条赞助过AAAI、美图曾是IJCAI的铂金赞助商。基本随着人工智能话题的火热,中国企业对于学术会议的赞助也越来多。迄今为止,赞助人工智能学术会议最多的是百度,已经赞助了二十次以上。当然,赞助是一种很常见的公关行为,企业这样做也无可厚非。
现象四:最大的赢家是谷歌?
中国队从钞票到论文方面的表现都不错,不过ICML2017上最抢眼的企业还是谷歌。谷歌、谷歌大脑再加上DeepMind在ICML上占据了不小的力量,在22场研讨会中,至少有10场有谷歌派系参与,四百多篇论文中有6.3%的论文作者来自谷歌派系。在主席团队中,谷歌派系的人数超过了10%,将微软、Facebook等都甩在了身后。
此外Google也是会议的铂金赞助商。
令人意外的是,亚马逊和一众自动驾驶企业在ICML中的表现不算太突出。
总之,ICML会议的第一天给出了以上的线索。我们能够推断出,随着学术力量的加大,机器学习在人工智能大命题下的权重依然会增加,中国企业参与相关学术会议的案例应该也会越来越多。至于京东之类大手笔的金主,很可能在未来会在人工智能与自身业务的结合上有更大的投入。
至于目前谷歌派系的强势,也无需太过悲观。ICML虽然和产业有所结合,但毕竟是一个学术会议,所展示的也是学术成果。而把学术变为技术,再变为消费品,其中不仅仅有一个机会。
评论