典型关联分析摘要.docxVIP

典型关联分析（Canonical Correlation Analysis）[pdf版本]?典型相关分析.pdf1. 问题在线性回归中，我们使用直线来拟合样本点，寻找n维特征向量X和输出结果（或者叫做label）Y之间的线性关系。其中，。然而当Y也是多维时，或者说Y也有多个特征时，我们希望分析出X和Y的关系。当然我们仍然可以使用回归的方法来分析，做法如下：假设，，那么可以建立等式Y=AX如下其中，形式和线性回归一样，需要训练m次得到m个。这样做的一个缺点是，Y中的每个特征都与X的所有特征关联，Y中的特征之间没有什么联系。我们想换一种思路来看这个问题，如果将X和Y都看成整体，考察这两个整体之间的关系。我们将整体表示成X和Y各自特征间的线性组合，也就是考察和之间的关系。这样的应用其实很多，举个简单的例子。我们想考察一个人解题能力X（解题速度，解题正确率）与他/她的阅读能力Y（阅读速度，理解程度）之间的关系，那么形式化为：?和?然后使用Pearson相关系数来度量u和v的关系，我们期望寻求一组最优的解a和b，使得Corr(u, v)最大，这样得到的a和b就是使得u和v就有最大关联的权重。到这里，基本上介绍了典型相关分析的目的。2. CCA表示与求解给定两组向量和（替换之前的x为，y为），维度为，维度为，默认。形式化表示如下：是x的协方差矩阵；左上角是自己的协方差矩阵；右上角是；左下角是，