(8.5)--8.5 稀疏编码机器学习与模式识别.pptVIP

SparseLearning稀疏学习

CHAPTERONE概念与思路ConceptsandIdeas

一、概念与思路样本特征中只有少量非零元素，称它是“稀疏”的！什么是“稀疏”？ 例子1：你如何描述一个喜欢的女孩儿？非稀疏：大眼睛、小嘴巴、高鼻梁、红脸蛋……稀疏：有点像迪丽热巴和周冬雨的组合00.70000.300……

一、概念与思路样本特征中只有少量非零元素，称它是“稀疏”的！什么是“稀疏”？?为什么要“稀疏”？“高维空间+稀疏分布”更容易变成线性可分；稀疏向量和矩阵可以减少存储空间，提高存储效率；稀疏表达是一种“正则化”，能提高泛化能力和可分性。字典

一、概念与思路以空间维度换取表征效率-以大量非正交的特征向量构造字典-以其中少部分特征的线性组合表征某个具体的数据算法思路字典学习-从原始数据中学出一组特征向量，使得表征稀疏化；稀疏编码-基于一组已经学到的特征向量，求出对应的稀疏化表达；挑战：“字典学习”与“稀疏编码”同步进行算法任务

CHAPTERTWO问题模型ProblemModel

二、问题模型稀疏编码的问题描述????样本稀疏性目标函数重构误差约束

二、问题模型优化问题的转化有约束优化问题的原始形式：???样本稀疏性目标函数重构误差约束优化技巧??目标函数与约束条件对调

二、问题模型问题理解???L2约束下的最优解L1约束下的最优解???

问题描述：