深度学习技术及其在肿瘤分类中应用.docVIP

深度学习技术及其在肿瘤分类中应用 　　摘 要：深度学习是机器学习领域一个新兴的研究方向，吸引了工业界和学术界的广泛关注。该文从深度学习的历史渊源谈起，描述了几种主要的深度学习架构，介绍了深度学习在肿瘤分类中的一些应用，提出了目前肿瘤分类研究存在的问题。 　　关键词：深度学习；神经网络；肿瘤；分类 　　中图分类号：TP18；TP391 文献标志码：A 文章编号：2095-2163（2014）06- 　　Abstract： Deep learning is an emerging field of machine learning research， which attracts wide attention in industry and academia. This paper talks about the history of deep learning， describes several major deep learning architectures， and introduces some applications of deep learning in tumor classification. At last， the existing problems of tumor classification are suggested. 　　Keywords： Deep Learning； Neural Network； Tumor； Classification 　　0 引 言 　　深度学习是近几年来在人工智能和机器学习领域的重要研究进展之一。2012年6月，《纽约时报》报道了Google Brain项目，该项目是Google公司的一个深度学习研究课题，用16 000台的计算机集群，训练一种“深度学习”的神经网络模型，旨在模仿人类大脑活动的某些方面，而且从YouTube视频的一千万张数字图像中展开演化训练，训练结果是成功地学会了如何识别猫。随后，百度在2013年1月成立了首个深度学习研究院。深度学习不但获得了包括微软、Google、百度等各大著名高科技公司在内的普遍青睐，同时也受到了学术界的广泛重视，并且目前在语音与图像识别和自然语言处理等领域的研究进程中取得了日益显著的突破以及重大科研成果[1]。 　　在我国，肿瘤发病率和死亡率正在呈现逐年上升的发展趋势。肿瘤的病因复杂，如何对肿瘤病例实现前瞻性的准确诊断分类，并使病人得到个性化治疗，即成为目前医学界关注的重要问题[2]。1999年，Golub等人[3]在《Science》杂志上发表了关于采用基因芯片和机器学习技术研究肿瘤分类问题的文章之后，该方向就已逐渐成为机器学习领域的研究热点之一迄至目前，也已涌现了许多富有实效的技术与方法[4]。 　　本文从深度学习的历史渊源谈起，主要介绍了卷积神经网络（Convolutional Neural Network， CNN??、深度信念网络（Deep Delief Network， DBN）和堆栈自编码网络（Stacked Auto-encoder Network，SAN）等几种主要的深度学习架构，对深度学习在目前肿瘤分类中的现时应用进行了介绍，最后，则提出了目前肿瘤分类研究方面需要解决的主要问题。 　　1 深度学习与神经网络 　　深度学习的概念起源于人工神经网络的研究。1943年，McCulloch和Pitts首度提出神经元的数学模型。稍后于1958年Rosenblatt又提出了感知机（perceptron）的概念，标志着第一代神经网络的诞生。感知机仅由一个输入层，一个输出层和一个中间层组成。其中间层的设计是通过调整所有特征的向量权重，实现目标识别。感知机也可别称为单层的人工神经网络，其本质不足即在于不能处理简单的异或（XOR）等线性不可分问题。 　　实际上，将单层感知机堆叠成多层的构想是可以求解线性不可分问题的，只是当时缺乏有效的算法。1986年Hinton等人[5]设计了反向传播算法（BackproPagation， BP），推出了第二代的神经网络，由此而引发了人工神经网络的研究热潮。与第一代相比，第二代神经网络可以学习更复杂的功能，通过计算在输出层中的误差信号，并将其与训练输入对应的目标输出求取差值，再以此更新权重向量，直到收敛为止。 　　虽然如此，BP算法在训练神经网络时却很容易陷入局部最优，而且当训练多个隐藏层时将耗时过长，也容易出现过拟合等问题，最重要的是其无法训练未标记数据，而实际情形下的许多场合大多数据却都是未标记的。基于此，1995年，Vapnik创新性地提出了支持向量机（Support Vector Machines， SVM）。作为一种特殊的两层神经网络，SVM具有快速高效