吴恩达邀请9位AI大牛畅想2020:李开复看好医疗教育,LeCun强调自监督学习

  • 2020 年 2 月 11 日
  • 筆記

2020,AI的研究会有哪些突破?

2020,AI的应用又会有什么变化?

吴恩达DeepLearning.ai旗下的THE BATCH刊物,分享了包括Yann LeCun、李开复、周志华、还有他们的老板吴恩达在内的10位AI大佬的新年寄语,以及对AI在2020年能有什么突破的“新年愿望”。

一起来看看吧~

吴恩达:保持学习和好奇心

在这份「新年寄语篇」的开头,吴恩达作为发起人开场,总体是一些关于学习新知识的碎碎念。

吴恩达说,他每年冬天的假期都会围绕一个新的主题进行学习。

比如10年前的那个冬天,他的学习主题是教育学,虽然当时他拖着十分沉重的书箱在机场赶路,但对教育学的研究的确为后来在线学习平台Coursera的成立起到了帮助。

而去年,当时他的宝贝女儿Nova还在母亲腹中,吴恩达就在冬天读了很多育儿书籍。

而这个冬天,吴恩达说他在研究续命——包括遗传学、还有夸克什么的在内的新兴科学,还实地探访去拜见了自己101岁的爷爷,爷爷用亲身经历告诉他:

长寿的秘方,就是保持好奇心

照这个规律,吴恩达觉得自己的关注者里会有不少人能在101岁之后依然活蹦乱跳的。

最后,吴恩达祝大家过一个充满好奇心、学到新东西、有爱的2020年。

李开复:AI将在更多行业落地

李开复的新年寄语主题,是AI无处不在。他说:

人工智能已经从发现的时代到了落地的时代。在我们主要在中国的投资组合中,我们看到了在银行、金融、运输、物流、超市、饭店、仓库、工厂、学校和药物研发中使用人工智能和自动化技术的应用。

但是,从整体经济的角度来看,只有一小部分企业开始使用AI,这表明还AI有巨大的增长空间。

我相信,在人类技术进步的历史上,AI将与电力同等重要。在未来的一二十年中,人工智能将渗透到我们的生活和工作中,从而提供更高的效率和更智能的体验。现在正是企业、机构和政府充分拥抱AI并推动社会前进的时机。

我对AI在医疗和教育上的影响非常兴奋。这两个行业已经为AI的部署做好了准备。

我们投资了一家使用AI和大数据优化供应链的公司,从而缓解了超过1.5亿中国农村人口的药品短缺情况。我们也在投资用深度学习来生成化合物的药物研发公司,以将药物发现时间缩短三到四倍。

在教育方面,我们看到一些公司正在用AI改善学生的英语发音,帮助学生提升成绩,用个性化和游戏化的方式帮助学生学习数学。这将使教师从日常工作中解放出来,并使他们能够花时间为新兴一代的学生做更多鼓励性的工作。

我希望看到更多明智的企业家和公司在2020年及以后的几年中开始使用AI来帮助他们获得更大的好处。

LeCun:自监督学习带来AI革命

深度学习三巨头之一、图灵奖得主Yann LeCun的新年寄语主题,是Learning From Observation

让人忍不住把它翻译成“格物致知”。

“格”的是开车这件小事。LeCun提到,人类学开车只要几十个小时,但是模仿学习算法需要学几十万个小时,强化学习算法甚至需要学几百万个小时,这里面一定有什么问题。

人类可以高效学习,是因为我们人在脑海里建立了世界的模型。婴儿很难和世界互动,但是在刚出生的几个月里,他们通过观察吸收了大量关于这个世界的背景知识。显然,大脑的很大一部分被用在了理解世界的结构,并预测一些无法直接观察到的事物,比如未来才会出现的东西、或者被隐藏的事物。

因此,AI的前进方向,就是自监督学习(self-supervised learning),它和监督学习类似,但是并不会训练系统去把数据分类,而是我们隐藏一些部分,然后让机器预测丢失的部分,比如把视频的一些帧抹掉,然后训练机器根据剩余的帧来填补被抹掉的部分。

最近,这种方法在NLP方面非常成功。诸如BERT、RoBERTa、XLNet、XLM之类的模型以自监督的方式进行训练来预测文本中缺少的单词,它们在所有主要的自然语言基准测试中都有记录。

希望在2020年,自监督学习能够用在视频和图像上。它会在视频这类高维连续数据上创造类似的革命吗?

其中一项严峻的挑战是应对不确定性。像BERT这样的模型无法判断句子中丢失的单词是“猫”还是“狗”,但是它们可以产生概率分布向量。对于图像或视频帧,我们没有一个好的概率分布模型。但是最近的研究非常接近,或许我们很快就会发现这样一个模型。

这样,我们就能用很少的视频训练样本,来实现非常好的性能预测、动作预测,而这在以前是不可能的。

当这个想法实现的时候,2020年就会是AI领域非常激动人心的时刻。

周志华:方法创新,方针明确

南京大学周志华教授对2020年有三个希望:

1、希望能够出现深度神经网络以外的高级机器学习技术。神经网络已经被许多研究人员、工程师和从业人员研究并应用了很长时间,其他机器学习技术为创新提供了相对未开发的空间。

2、希望AI可以涉足更多领域,为人们的日常生活带来更多积极的变化。

3、希望研究人员、工程师和从业者们对于如何采取措施防止AI技术的错误开发和滥用进行更多的思考和讨论。

Anima Anandkumar:模拟的力量

Anima Anandkumar是英伟达机器学习的总监,也是加州理工的计算机教授。

Anandkumar教授提到,在仿真环境学习中训练算法会让网络更为强大,并且能模拟各种复杂的情况,在一些情况下可以解决研究人员数据不够的问题。

她所在的加州理工已经用物理模型来模拟真实数据,用深度学习进行地震预测的研究;英伟达也推出了仿真平台Isaac。

她希望,2020年AI科学家们能认识到在模拟环境中进行训练的价值,并在新的一年产生更为重大的AI进步。

Oren Etzioni:工具创造平等

Oren Etzioni是艾伦人工智能研究所的首席执行官、华盛顿大学计算机教授、Madrona资本合伙人。

他认为,AI界花了很多时间讨论算法的公平和透明性,但在应用上,AI还可以为社会提供更多帮助,比如为行动不便的人提供无障碍技术,解决教育、流浪者、人口贩卖的问题,AI能对人们的生活质量产生巨大的积极影响,但现在AI界对此的研究和探讨只浮于表面。

因此,他希望2020年AI界能用切实的手段让这些处于不利地位的人受益,让世界更公平。

Chelsea Finn:泛化的机器人

Chelsea Finn是斯坦福计算机科学与电气工程助理教授。

她认为,目前的许多AI技术都能在围棋等特定任务上取得非常好的成绩,但在泛化方面做得还不够,无法用一个机器人来完成多个任务。

比如,识别ImageNet上的图片需要一个模型,但如果机器人需要与环境交互,那为每个任务都创造一个ImageNet那么大的数据集是不切实际的。

因此,她也在进行更多赋予机器人泛化能力的研究。如果强化学习的临界质量发展和泛化有所突破,会是非常令人振奋的事情。如果能应对这些挑战,机器人会比现在的更加智能,而不仅仅是停留在实验室里。

David Patterson:快速训练与推理

David Patterso是加州大学伯克利分校的计算机科学教授,RISC-V国际开源实验室负责人,也是ACM和IEEE的Fellow。

他说,过去一年,阿里巴巴、 Graphcore和英特尔等公司都在研发专门的人工智能处理器,而这些芯片将慢慢进入研究实验室和数据中心。

他认为,投资数十亿美元打造新颖的人工智能硬件将在2020年初见成效。

并希望人工智能社区能接受其中最好的芯片,来推动这个领域朝着更好的模型和更有价值的应用方向发展。

Dawn Song:要对数据负责

Dawn Song是安全领域的顶尖学者之一,1996年本科毕业于清华大学,现在是加州大学伯克利分校(UC Berkeley)计算机科学和电子工程教授,也是Oasis Labs 首席执行官和联合创始人。

她认为,人们对敏感数据的收集正在迅速增加,几乎涵盖了人们生活的方方面面。但用户几乎无法控制他们生成的数据如何被使用。与此同时,企业和研究人员在利用数据方面面临着诸多挑战。

在她看来,这种数据收集方式将个人和企业置于危险之中,她希望2020年应该是为负责任的数据经济打下基础的一年。

这需要创造新的技术、法规和商业模式。Dawn Song认为,2020年在在机器学习方面仍然存在更大的挑战,要打造可扩展的系统来为实际部署大型、异构数据集服务,联邦学习的进一步研究和部署对于某些用例也很重要等等。

Richard Socher:信息海洋已经沸腾

Richard Socher博士毕业于斯坦福大学计算机系。2016年,自己创办的公司被Salesforce收购后,加入Salesforce,现在是Salesforce的首席科学家。

他认为,如何处理铺天盖地的事实、意见和观点仍然是一个挑战。

比如,在你没有读过一个冗长的文档之前,你很难知道你会在里面找到什么信息。而且,想要知道某个特定的陈述是否正确也非常困难。

在他看来,自动提取摘要可以解决这些问题,2020年,这一技术将会迎来重大发展,改变我们消费信息的方式。

不仅能帮助人们应对不断涌现的新信息,而且还能让人们进一步拥抱人工智能的巨大潜力,创造一个更美好的世界。

原文传送门: https://blog.deeplearning.ai/blog/the-batch-happy-new-year-hopes-for-ai-in-2020-yann-lecun-kai-fu-lee-anima-anandkumar-richard-socher