稀疏学习优化算法.pptx

稀疏学习优化算法;内容提纲;支持向量机 线性判别 神经网络 主成分分析 C-means ……;应用问题;稀疏学习;稀疏学习一般模型;稀疏学习的研究问题;稀疏学习优化算法;稀疏学习理论;内容提纲;信赖域牛顿法;共轭梯度法;多阶段共轭梯度法;Multi-Stage Conjugate Gradient;理论分析;实验;实验结果(部分);内容提纲;多任务学习 (MTL); 共享信息 神经网络的隐层单元 贝叶斯模型的先验 分类权重向量 相似度量矩阵 低秩的子空间 一组特征 …… ; 联合特征多任务学习示意图;鲁棒多任务特征学习模型;优化算法;算法细节;理论分析;Pinghua Gong, Jieping Ye, Changshui Zhang, Robust Multi-Task Feature Learning. KDD 2012;Pinghua Gong, Jieping Ye, Changshui Zhang, Robust Multi-Task Feature Learning. KDD 2012;Pinghua Gong, Jieping Ye, Changshui Zhang, Robust Multi-Task Feature Learning. KDD 2012;实验;Pinghua Gong, Jieping Ye, Changshui Zhang, Robust Multi-Task Feature Learning. KDD 2012;Pinghua Gong, Jieping Ye, Changshui Zhang, Robust Multi-Task Feature Learning. KDD 2012;内容提纲;非凸多任务特征学习模型;优化算法;直观解释一：最小化上界; 最小化上界; 共轭函数：; 分块坐标下降;收敛性分析;可再生性分析;参数估计误差的界;Pinghua Gong, Jieping Ye, Changshui Zhang, Multi-Stage Multi-Task Feature Learning. NIPS 2012;Pinghua Gong, Jieping Ye, Changshui Zhang, Multi-Stage Multi-Task Feature Learning. NIPS 2012;实验;实验结果 (1);实验结果 (2);实验结果 (3);内容提纲;非凸稀疏学习问题;假设;一些例子;迭代收缩阈值法(GIST);步长的选择;直观解释;收敛分析; CappedL1 正则逻辑回归; LSP 正则最小二乘;内容提纲;总结;展望;参考文献;参考文献;谢谢！