新型深度学习算法研究概述【期刊】.pdfVIP

第 31 卷 第 1 期（下） 赤 峰 学 院 学 报（自 然 科 学 版 ） Vol. 31 No.1 2015 年 1 月 Journal of Chifeng University （Natural Science Edition ） Jan. 2015 新型深度学习算法研究概述 马 超 ， 徐瑾辉 ， 侯天诚 ， 蓝 斌 （广东外语外贸大 学 金融学院 ， 广东 广州 510006 ） 摘 要： 作为一个具有巨大应用前景研究方向 ，深度学习无论是在算法研究 ，还是在实际应用 （如语音识别 ， 自然语言处 理 、计算机视觉 ） 中都表现出其强大的潜力和功能 本文主要介绍这种深度学习算法 ，并介绍其在金融领域的领用 . . 关键词： 深度学习 ；受限波兹曼机 ；堆栈自编码神经网络 ；稀疏编码 ；特征学习 中图分类号：TP181 文献标识码：A 文章编号 ：1673-260X（2015 ）01-0037-03 1 深度学习的研究意义 切入点，本项目借鉴时频分析与小波分析中 的方法，结合数 深度学习是一类新兴的多层神经 网络学习算法 ， 因其 学分析领域 中的泛函分析技术 ， 与堆栈自编码神经网络相 缓解了传统训练算法的局部最小性 ， 引起机器学习领域的 结合 ，提出一种新的深度学习算法———深度泛函网络.为了 广泛关注.深度学习的特点是，通过一系列逻辑 回归的堆栈 验证算法的有效性及优越性， 本项目将把新算法应用于金 作为运算单元，对低层数据特征进行无监督 的再表示（该过 融时间序列的领域. 程称为预学习）， 形成更加抽象的高层表示 (属性类别或特 在 目前国内外对于深度学习的研究 中， 几乎没有任何 征) ，以发现数据的分布式特征表示.深度学习的这种特性由 将深度学习技术运用于金融数据的研究.通过提出并运用得 于与脑神经科学理论相一致，因此被广泛应用于语音识别、 当的深度序列学习方法， 我们期望从金融数据 中抽取更高 . 级 的、具有经济学意义或预测性意义的高级特征（与人工设 自然语言处理和计算机视觉等领域 生物学研究表明[1] ：在生物神经元突触的输出变化与输 计的“技术指标”相对应），并开发相应的量化交易策略 ，并 入脉冲的持续时间有关 ， 即依赖于持续一定时间的输入过 与其它传统算法进行对 比， 以说 明所提算法的可行性和优 程，输出信号既依赖于输入信号的空间效应和阈值作用，也 越性. 依赖于时间总和效应. 2 国内外研究现状 传统的深度学习方法虽然较好地模拟了生物神经元的 人类感知系统具有的层次结构 ， 能够提取高级感官特 一个重要特性———空间总和效应上的深度， 却忽视了生物 征来识别物体 （声音），因而大大降低了视觉系统处理的数 神经元的另一个重要特性———时间总和效应上的宽度[2].因 据量，并保留 了物体有用的结构信息.对于要提取具有潜在 此，对于连续的时间变量问题（如语音识别），传统深度学习 复杂结构规则的自然图像、视频 、语音和音乐等结构丰富数 方法只能将连续的时间函数关系转化为空间关系， 即离散 据，人脑独有的结构能够获取其本质特征[3].受大脑结构分层 化为时间序列进行处理.这样做有几个弊端： 次启发， 神经网络研究人员一直致力于多层神经网络的研 （1）可能造成深度学习算法对时间采样频率的十分敏