深度学习近年来在神经网络发展史上掀起一波新浪潮，它是机器学习的一大热点方向，因在手写字符识别、维数约简、图像理解和语音处理等方面取得巨大进展，而很快受到了学术界和工业界的高度关注。3月16日19时，“文化移通·名家大讲坛”第141讲在下里巴人剧场如期举行，本次文化移通迎来了北京工业大学李玉鑑教授，今天李教授将带领同学们领略神经网络的魅力。
李教授围绕人工智能的核心目标，从深度学习的概念和定义入手，在神经网络、模式识别、机器学习、图像处理和自然语言处理等领域开展教学、科研工作的讲解。深度学习是一种实现人工智能的强大技术，在本质上是一类有效训练深层神经网络的机器学习算法，目前也是学术界和工业界的研究热点。
最早的神经网络是MP模型，1943年，出现了单个神经元模型，但是这是最简单的网络，是不可学习的。随后出现了最早的学习思想，1949年出现了生物网络、Hebb规则、Hebb学习律等思想，但他们只有一定的启发性，无可靠生物学证据。1958年，出现感知器模型，开始变得可学习；1969年，Minsky和Papert出版了《感知器》，批评感知器只能解决“线性可分”问题；1974年，Werbos最早提出“反向传播学习”算法；1979年，出现第一个具有深度属性的神经网络新认知机，它最早集成了生物视觉系统的感受野结构；20世纪80年代，出现了世界性的神经网络热潮，Hopfield网络、玻尔兹曼机、多层感知器，这也可能是最早的深度学习系统，用数据分组处理方法训练的多层感知器；1998年出现卷积神经网络；2006年以前，训练深度结构的问题未被认真对待和研究，除了卷积神经网络，2006年开始，Hinton等人开创了深度学习的新领域提出训练受限的玻尔兹蔓机的对比散度算法，这便是神经网络深度学习的发展过程。
深度学习有两大特点，即浅层网络和深层网络，他们目前并没有公认的定论区别，一般标准是得分路径深度，得分路径是指在直接或间接地因果联系链条中，包含最大可调权值的个数。在循环神经网络的因果连接链条中，权值可以被共享，并被重复计数，因此可能很深而且无限深。
深度学习有深层模型、判别模型、变种模型、混合模型这几种模型，有多种算法：CD学习算法、BP算法、醒睡算法、平均场算法、期望最大化算法等。
深度学习有三大亮点：AlphaGo战胜了人类围棋冠军、深层Q-网络智能体超过人类玩家、ImageNet大规模视觉识别挑战赛。深度学习应用在很多方面：维数约简、手写字符识别、人脸验证、图像分类、图像语音音频处理、动作检测、图像视频描述、点击率预测、各种大数据的分析、估计和预测。
深度学习有其优点，但不可避免的是它存在问题，它面临挑战，它在很多领域特别是大规模数据处理获得广泛应用战果突出，成绩斐然，但我们绝不应该仅限于此。
深度学习毕竟不能像人一样的学习认知和决策，通过全新的硬件、算法和系统设计充分减少深度学习所需的设备和时间资源是我们今后努力研究的方向。未来属于年轻的一代，未来的无限可能需要他们去创造，神经网络的发展永不停息。
外国语言文学系余绍蓉
二〇一七年三月十六日
