雷锋网AI科技评论按：7月23日，第三届中国人工智能大会（CCAI 2017）在杭州国际会议中心举行。其中来自香港科技大学的计算机与工程系主任、AAAI Fellow杨强教授发表了《深度学习的迁移模型》主题报告。本文主要阐述了杨强教授在大会中所讲的如何将迁移学习

　　雷锋网AI科技评论按：7月23日，第三届中国人工智能大会（CCAI 2017）在杭州国际会议中心举行。其中来自香港科技大学的计算机与工程系主任、AAAI Fellow杨强教授发表了《深度学习的迁移模型》主题报告。本文主要阐述了杨强教授在大会中所讲的如何将迁移学习和深度学习相结合，使深度学习模型变得更加可靠，以及具体的实际应用案例。

　　杨强教授从深度学习模型的共性问题谈起，深度剖析如何使深度学习模型变得更加可靠，在数据变化的情况下，模型持续可用。报告谈到，迁移学习有小数据、可靠性、个性化等优点，虽然深度学习模型已在语音、图像、推荐等众多领域非常有影响力，但是在如医疗、教育等领域还无法运用，究其原因，主要存在这样三点：遇到的数据往往都是小数据，而不是大数据；深度学习模型非常脆弱，稍微移动、离开现有场景，其效果便会大打折扣；再有就是应用问题。由此，杨强教授与学生一起，将迁移学习与深度学习相结合进行了探索实践，在现场通过解决大额消费金融的困境、跨领域舆情分析、互联网汽车分类问题等多个实际应用案例多角度地展示了迁移学习的深度模型所带来的优点。

　　可参考雷锋网之前发表过的另一篇文章：关于迁移学习的本质与实际应用

　　以下内容为杨强教授的大会现场实录，雷锋网（公众号：雷锋网）做了不改动原意的整理编辑

　　大家好！今天很高兴跟大家分享我和研究生同学在研究当中的一些心得，总结起来叫深度学习的迁移模型。

　　首先讲一下我们的出发点，我们知道AlphaGo很厉害，但是它还有哪些点不够呢？它不会举一反三。你让它下一盘棋，它不会利用前面的知识来帮助自己很快地学习新的棋艺，更不会利用下棋的知识做一些其他事，比如说自动驾驶。我们人是有这个能力的，如何能够赋予计算机做这件事，这就是我们研究的一条主线。

　　由此引入我们的研究方向就是迁移学习（Transfer Learning），我们知道人能很自然地做这件事，从自行车迁移到摩托车，生活中还有很多的例子。这也从某种程度上解释了我们看到小孩子在学习中并不需要上千万的正例和负例帮助他学习，他往往用很少的例子就能学会一个很复杂的概念。同时学术界、工业界现在也认为迁移学习是下一个研究和应用的重点。去年Andrew Ng（前百度公司首席科学家 吴恩达）就讲了迁移学习下一步将被大量应用。

　　迁移学习的三大优点为什么我们做迁移学习？我总结了三条原因：

　　小数据。我们生活当中大量遇见的是小数据而不是大数据，当数据很稀疏，看到不同的类别我们还是能在当中做出很靠谱的模型。这并不是空穴来风，而是之前我们有过很多大数据的经验可以去借鉴，站在大数据的巨人肩膀上，所以人工智能大量地应用，迁移学习这种模式是必不可少的。

　　可靠性。即使我们有一个大数据模型，我们也很关心它的可靠性。把一个模型迁移到不同的领域，就会发现它的准确率会大量下降，如何防止这一点，我们就需要模型本身具有自适应的能力，能够自带迁移能力。

　　个性化。我们整个的社会，我们的应用在向一个个性化的方向发展，有了云端，有了各种各样的终端，终端的操作者都是我们个性化的人。那么我们让一个模型、一个服务来适应我们每个人的特性，迁移学习是必不可少的。

　　迁移学习的难点

　　迁移学习又是很难的，难在找出不变量。教育学有一个概念叫“学习迁移”，就是说如果一个学生学到了很靠谱的知识，怎样检测呢，就是看看他有没有能力迁移到未来的场景，再学一门新课他就发现学得容易，但是这种学习迁移能力的传输又非常难。

　　再来看看怎样找出不变量。在国内和世界很多地方，驾驶员都是坐在左边，但是去香港驾驶员就是在右边，很多人不会开车了，就会出现危险，但是用迁移学习教你一招马上可以开，而且很安全，就是找出一个不变量。这个不变量就是司机的位置总是靠路中间最近的，你就保持司机的位置离中线最近就可以了。

　　找出不变量很难，但是在其他的领域已经大量出现。最近YannLeCun提出一个问题：机器学习的热力学模型是什么？我的回答是迁移学习，把一个领域里面的知识、也就是“能量”，转化到另外一个领域，这和热力学把两个物质放在一起，然后研究热是如何能量是如何在物质间传播的，是类似的概念。区别是，在我们这里的知识比物理里的能量复杂很多倍。所以这个问题在科学上也是有深远意义的。

　　如何实现迁移学习：深度学习+迁移学习

　　今天讲的是如何实现迁移学习中的一个方面。从单层次来看一个东西，把一个领域里的模型和知识通过层次分解，就好比杭州有雷锋塔，我们可以从一个古典的建筑发展到像雷锋塔这样有层次的建筑，一层一层分析，深度学习恰恰为我们提供了分层和层次。

　　下面我就仔细地描述一下，深度学习如果是从左到右，从输入到输出的变化过程，中间是有很多非线性地转化，我们可以忽略不计，但是这些层次我们要迁移到新的领域的话，知识的迁移就相当于参数的迁移，这些参数就是权重。

　　在这个里面我们可以看知识到底有多少可以从蓝色到橘色的，从源领域到目标领域，产生这样的迁移，我们可以看到中间层有很多层参数可以共享。另外层次越高的话，可能它关心的高层的概念离得越远。我们关心的是领域之间的距离，我们能否把领域之间的距离刻画出来，在深度学习的初创期，有很多启发式的做法，其实很多概念是和迁移学习不谋而合的。

　　下面我们看看这样一种分层的研究对迁移学习到底产生了什么样的作用呢？我的学生魏颖就把最近的迁移学习和深度学习共同的工作画了表，这里面的名词像CNN、DDC都是最近发表的文章里面的系统名。横轴是年代，从2011年到最近，纵轴是准确率。左边是我一些学生做的工作，把迁移学习在不同领域里面的子空间，它们共享的知识找到，但是没有用到深度学习的概念，大概是2010年、2011年做的工作，叫TCA。 右边上面角是DAN，是深度学习加上迁移学习。我们看到深度学习加上迁移学习准确率大大提高，这不仅仅对理论有帮助，对工程的效率也是有帮助的。这里面用一个距离的表述，使用MMD发现两个领域两个数据集之间的距离，这个距离是在网络的上层，从左到右，从下到上，更重要的是发现并且尽量减少这样的距离。

　　大家可以看到固定住，从一个领域迁移到另外一个领域，在下层比较容易迁移，在上层我们就关心领域之间的距离。