Presented By O’Reilly and Intel AI
Put AI to work
April 10-11, 2018: Training
April 11-13, 2018: Tutorials & Conference
Beijing, CN

对偶学习:探秘人工智能的对称之美

此演讲使用中文 (This will be presented in Chinese)

Tie-Yan Liu (微软亚洲研究院 (Microsoft Research Asia))
13:1013:50 Thursday, April 12, 2018
模型与方法 (Models and Methods)
Location: 多功能厅5A+B(Function Room 5A+B) Level:
Secondary topics:  自然语言与语音技术(Natural Language and Speech Technologies)

必要预备知识 (Prerequisite Knowledge)

人工智能和机器学习的基本知识 概率统计的基本知识

您将学到什么 (What you'll learn)

对偶学习方法及其在人工智能诸多领域的应用实例 通过技术革新解决人工智能挑战的思路

描述 (Description)

近年来,人工智能取得了长足进步,在很多领域都达到了前无古人的高度。然而,我们发现以深度学习为代表的人工智能算法往往需要大量的有标签训练数据,而搜集大量有标签数据对于很多应用领域而言并非易事。为了解决这个挑战,我们利用人工智能的对称之美——很多人工智能任务天然就是双向的,比如中到英翻译 vs.英到中翻译,图像分类 vs. 图像生成,语音识别 vs. 语音合成——来为机器学习建立闭环、生成反馈信号,从而在缺乏有标签数据的情况下也能实现有效的学习。我们将这种新型的学习方法称之为“对偶学习”。

本报告中,我们将以机器翻译为例对基本的对偶学习框架进行展示:从数学模型、到优化算法、到实验结果,到收敛性分析。之后,我们将进一步探讨对偶学习的概率本质,讨论它的正则化效应(提高泛化能力),并将其推广到更多的机器学习场景。我们通过实验验证和理论分析的方式说明:对偶学习的思想不仅可以帮助我们实现无监督学习,也可以大幅提高有监督学习的效果;甚至针对已经事先训练好的模型,也可以通过对偶学习来提高推断精度。虽然我们主要以机器翻译为例对对偶学习进行介绍,但是对偶学习的成功其实远远超出了机器翻译领域。在本报告中,我们还将展示对偶学习在图像分类、图像编辑、情感分析、问答系统等其他诸多领域的成功应用实例。

对偶学习是通过技术革新解决人工智能领域挑战的一个生动的例子。其实人工智能领域还存在很多其他挑战,等待着我们用技术革新加以解决。在本报告的结尾,我们将列举人工智能面临的更多挑战(如大数据、大模型导致计算复杂度太高、模型缺乏可解释性、缺乏丰富的技术路线、与人类高级智能南辕北辙等等),并对相应的潜在解决方案和技术革新进行深入浅出的讨论,希望可以对人工智能的从业者提供有益的思路。

Photo of Tie-Yan Liu

Tie-Yan Liu

微软亚洲研究院 (Microsoft Research Asia)

刘铁岩博士,微软亚洲研究院副院长、首席研究员,领导机器学习和人工智能方向的研究工作。同时他也是美国卡内基-梅隆大学(CMU)客座教授、英国诺丁汉大学荣誉教授、中国科技大学、中山大学、南开大学的博士生导师。刘博士的先锋性工作促进了机器学习与信息检索之间的融合,被国际学术界公认为“排序学习”领域的代表人物,他在该领域的学术论文已被引用万余次,并受Springer出版社之邀撰写了该领域的首部学术专著(并成为Springer计算机领域华人作者十大畅销书之一)。近年来,刘博士在博弈机器学习、深度学习、分布式机器学习等方面也颇有建树,他的研究工作多次获得最佳论文奖、最高引用论文奖、研究突破奖、最佳研究团队奖;被广泛应用在微软的产品和在线服务中、并通过微软认知工具包(CNTK)、微软分布式机器学习工具包(DMTK)、微软图引擎(Graph Engine)等项目开源。他曾受邀担任了包括SIGIR、WWW、KDD、ICML、NIPS、AAAI、ACL在内的顶级国际会议的组委会主席、程序委员会主席、或领域主席;以及包括ACM TOIS、ACM TWEB、Neurocomputing在内的国际期刊副主编。他是国际电子电气工程师学会(IEEE)院士,美国计算机学会(ACM)杰出会员,中文信息学会(CIPS)信息检索专委会副主任,中国云体系产业创新战略联盟常务理事。