- 45
- 0
- 约1.09万字
- 约 86页
- 2020-09-17 发布于湖北
- 举报
2.4 深度信念网络的训练 深度信念网络是由多个 RBM 串联所形成的深度神经网络。 2.4 深度信念网络的训练 深度信念网络是一个生成式模型(以 P 的分布生成路径),是对输入进行多层表示的一种方法(以 Q 的分布识别路径)。最高的两层h2 和h3组成一个 RBM(受限玻尔兹曼机),较低的层组成一个有向图模型。倒数第二层的先验h2是由顶层 RBM 提供。 2.4 深度信念网络的训练 我们以逐层贪心的方式训练 DBN 的时候,用一个纯非监督的方式训练一个 DBN,在每一层单独训练过程中,都是利用前面提到基于对比散度的RBM 快速学习算法。 2.4 深度信念网络的训练 算法 2.2 逐层贪心的 DBN 训练算法 第三章 基于深度学习的前列腺病理图像判断 非监督学习 Softmax 回归分类器 基于 ROC 曲线的全局判断 第三章 基于深度学习的前列腺病理图像判断 在医院所有的前列腺病理切片都需要由医生观察后人工进行标注,这样无疑会增加医生重复工作量,医生长时间标注产生疲劳也可能导致人为的失误。为提高医生工作效率,减少工作流程中的人为失误,组织来源的判断是开发前列腺计算机辅助诊断系统的必要步骤。 前列腺结石的识别是组织来源判断的一个主要方法。不过并不是所有的前列腺病理切片图像里面都包括前列腺结石这一病理对象,所以该方法存在一定的局限性 第三章 基于深度学习的前列腺病理图像判断 本文提出了基于深度学习的前列腺病理图像识别算法,能有效克服这一问题。深度网络非监督学习出前列腺病理切片图像局部纹理的不变特征,然后利用 softmax 回归分类器训练非监督学习得到的特征,达到识别前列腺病理图像的目的。前列腺病理图像如图 3-1 所示;而负样本则是来自其它组织,比如脾脏、心脏、鼻咽等其他部位的病理图像,如图 3-2 所示。 第三章 基于深度学习的前列腺病理图像判断 算法整体流程如下所示: 3.1 非监督学习 3.1.1 图像块的采集 对于分辨率为 800×600 的前列腺病理图像,图像太大不适于直接作为栈式自编码网络的输入。为了学习到前列腺病理图像的局部特征,需要对其采样,对每一张原图像随机获取 20 个大小一定的图像块。本文采用大小为 30×30 的图像块,再将图像块转为灰度图像,如图 3-4 示,作为输入数据来进行训练。原图中有一些腺腔区域,并不存在纹理特征,所以采集图像块的时候需要设一个阈值,将图像块中腺腔区域占比大于一定比例的排除掉,得到包含足够纹理的图像块。 图 3-4 3个包含纹理的前列腺 30×30 灰度图像块 3.1.2 白化 白化的目的是去掉数据之间的相关联度,这是很多算法进行预处理的步骤。比如说当训练图片数据时,由于图片中相邻像素值有一定的关联,所以很多信息是冗余的。这时候去相关的操作就可以采用白化操作。数据的白化必须满足两个条件:一是不同特征间相关性最小,接近 0;二是所有特征的方差相等。常见的白化操作有 PCA 白化和 ZCA 白化。 PCA 白化是指将数据经过 PCA 降维为后,每一维是独立的,为满足白化的第二个条件,这时只需要将每一维都除以标准差就得到了每一维的方差为 1,也就是说方差相等。公式为: 其中xrot ,i是第 i维特征向量。 (3-1) ZCA 白化是指数据 PCA 变换,但是并不降维,因为这里是把所有的成分都选进去了。这时也同样满足白化的第一个条件,特征间相互独立。然后同样进行方差为 1 的操作,最后将得到的矩阵左乘一个特征向量矩阵 U。 ZCA 白化公式为: 本文采取 ZCA 白化之后的图像块如下图所示。 3.1.2 白化 (3-2) 图 3-5 对图 3-4 纹理图像块 ZCA 白化后的效果 3.1.3 非监督学习 本节利用 2.3 节描述的方法构建深度神经网络,将白化后 30×30 大小的图像块作为栈式自编码神经网络的输入,假设首层隐藏单元设为 200 时,输入数据与隐藏单元的连接权重 W(1)大小为 200× 900,可视化训练后的 W(1)如下图所示,我们可以看到这些隐藏单元学习出来的整体效果。 3.1.3 非监督学习 左图的每个小图像块都表示一个输入图像 x,它可使这 200 个隐藏单元中的其中之一获得最大激励。可以看到,不同的隐藏单元学到了在图像的不同位置和方向最显著的特征。 图 3-6 自编码网络训练得到的 W(1) (输入数据与隐藏单元的连接权重) 3.1.3 非监督学习 经过微调后的连接权重如下图所示: 图 3-7 微调后的连接权重 W(1) 3.2 Softmax 回归分类器 输入图像通过预处理,然后经过深度神经网络经过非监督学习,学习出能较好表征原始输入图像块的特征用于最后的分类,
您可能关注的文档
最近下载
- 初中物理真题练习2022-2023学年江苏省南通市海门市八年级(上)期末物理试卷.pdf VIP
- 浙江省杭州市2024-2025学年高一上学期期末学业水平测试数学试题(含答案).docx VIP
- 工程项目全过程跟踪审计实施方案.ppt VIP
- 在线网课学习课堂《中国电影经典影片鉴赏(北京师范大学)》单元测试考核答案.docx VIP
- DB62T 3136-2023 公路沥青路面施工技术规范.pdf VIP
- 2408 操作手册.pdf VIP
- 固态电池的介绍.pdf VIP
- 人教版三年级上册口算题(全册完整20份 ).pdf VIP
- 你好!法语++1++学生用书++A1.pdf VIP
- 中外合作办学的项目申请表.doc VIP
原创力文档

文档评论(0)