培训先进人机通信技术合实验室TrainingAdvancedHumanComputerCommunicationTechnologyJointLaboratory.ppt

L1最好 其次LLE，K再次 e最差，而且e的值很难设定 * 横坐标：L1-Graph无需参数调整 robust L2 基本稳定。K-nn随N增大错误率上升 N增大加入更多非同类样本 * * * SDA：Motivation LDA很强大，但无法直接用于半监督学习，此时由于部分样本类别信息的缺失，不能很好的估记类内散度矩阵 SDA 使用有类别样本最大化不同类间的可分性，使用所有样本（有类别和无类别）估计数据间的内在结构 数据间的内在结构：总体散度矩阵，图模型 * * RDA LDA目标函数： 当训练样本不足时，为了防止overfitting，有时会加入一个正则项，即RDA（Regularized Discriminant Analysis） * * RDA 当有部分无类别样本时，设计 使其包含数据的流形结构 对于降维，近邻样本应该有近似的低维表示 使用图来表征近邻样本间关系 * * SDA 定义正则项： 最小化这个正则项，使得原始空间中临近的样本在映射后的低维空间中仍然相邻。 目标函数： 直观解释：最大化类间散度矩阵的同时，最小化总体散度矩阵，并使得原始空间中临近的样本在映射后的低维空间中仍然相邻 * * SDA求解 目标函数： D为对角矩阵，对角元素为W各行元素的和 原目标函数化为： 求解