【主题教研】深度学习的特征及其意义.docVIP

word可编辑 . 　　深度学习的特征及其意义 　　教师个人的专业素养的提升，离不开集体的研讨、分享。 　　内容提要： 　　深度学习的提出，既是对教学规律的尊重，也是对时代挑战的主动回应。深度学习的五个特征，为理解教学活动提供了新的视角，为消解种种二元对立观念提供了理论支持。深度学习的研究与实践，确立了学生个体经验与人类历史文化的相关性，落实了学生在教学活动中的主体地位，使学生能够在教学活动中模拟性地“参与〞人类社会历史实践，形成有助于未来开展的核心素养，而教师的作用与价值也在深 度学习中得以充分实现。 　　关 键 词： 　　深度学习 教学规律 社会历史实践 核心素养 　　近十年来国际上最先进的教学理论其实根本不是国内疯传的“翻转课堂〞等技术性的策略，而是源于 人工智能和脑科学的深度学习理论。深度学习注重学生沉浸于知识的情境和学习的情境，强调批判性思维， 注重实现知识的内在价值。理解深度学习理论对深化我国的教学改革具有重要的意义。 　　认真 　　是一种态度 　　一、深度学习概念的提出 　　深度学习的概念，源于 30 年多来计算机科学、人工神经网络和人工智能的研究。上世纪八九十年代， 人们提出了一系列机器学习模型，应用最为广泛的包括支持向量机〔Support Vector Machine，SVM〕和逻 辑回归〔Logistic Regression，LR〕，这两种模型分别可以看作包含 1 个隐藏层和没有隐藏层的浅层模型。计算机面对较为复杂的问题解决训练时，可以利用反向传播算法计算梯度，再用梯度下降方法在参数空间 中寻找最优解。浅层模型往往具有凸代价函数，理论分析相对简单，训练方法也容易掌握，取得了很多成 功的应用。随着人工智能的开展，计算机和智能网络如何通过基于算法革新，模拟人脑抽象认知和思维， 准确且高清晰度的处理声音、图像传播甚至更为复杂的数据处理和问题解决等问题，在 21 世纪来临的时 候成为摆在人工智能领域的关键问题。 　　30 年多来，加拿大多伦多大学计算机系辛顿教授〔Hinton，G.〕一直从事机器学习模型、神经网络与 人工智能等问题的相关研究，并在机器学习模型特别是突破浅层学习模型，实现计算机抽象认知方面取得 了突破性的进展。2006 年，他在?Science?上发表了?利用神经网络刻画数据维度〔Reducing the dimensionality of data with neural networks〕?一文，探讨了应用人工神经网络刻画数据的学习模型，首先提出了深度学 习〔deep learning〕的概念和计算机深度学习模型，掀起了深度学习在人工智能领域的新高潮。这篇文章 的两个主要观点是：第一，多隐藏层的人工神经网络具有优异的特征学习能力，学习到的特征对数据有更 本质的刻画，从而有利于可视化或分类。第二，深度神经网络可以通过“逐层初始化〞〔Layer-wise Pre-training〕 来有效克服训练和优解的难度，无监督的逐层初始化方法有助于突破浅层学习模型。基于深度置信网络 (DBN)提出非监督逐层训练算法，为解决深层结构相关的优化难题带来希望，随后提出多层自动编码器深层结构。2012 年，辛顿又带着学生在目前最大的图像数据库 ImageNet 上，对分类问题取得了惊人的结果， 将计算机处理图像数据问题时排名前五的错误率〔即 Top5 错误率〕由 26%大幅降低至 15%，大大提高了 人工智能图像数据处理的准确性和清晰度，这是早先计算机仅仅依赖数学模型的表层学习和单层学习根本 无法实现的水平。 　　在人工智能领域，深度学习其实是一种算法思维，其核心是对人脑思维深层次学习的模拟，通过模拟 人脑的深层次抽象认知过程，实现计算机对数据的复杂运算和优化。深度学习采用的模型是深层神经网络 〔Deep Neural Networks，DNN〕模型，即包含多个隐藏层〔Hidden Layer，也称隐含层〕的神经网络〔Neural Networks，NN〕。深度学习利用模型中的隐藏层，通过特征组合的方式，逐层将原始输入转化为浅层特征， 中层特征，高层特征直至最终的任务目标。深度学习可以完成需要高度抽象特征的人工智能任务，如语音 识别、图像识别和检索、自然语言理解等。深层模型是包含多个隐藏层的人工神经网络，多层非线性结构 使其具备强大的特征表达能力和对复杂任务的建模能力。训练深层模型是长期以来的难题，近年来以层次 化、逐层初始化为代表的一系列方法的提出，为训练深层模型带来了希望，并在多个应用领域获得了成功。 　　人工智能学者们认为计算机和智能网络的这一深层的自动编码与解码过程，是一个从数据刻画、抽象 认知到优选方案的深度学习的过程。由于人脑具有深度结构，认知过程是一个复杂的脑活动过程，因而计 算机和人工智能网络模拟从