降维算法性能比较与应用分析.pdfVIP

降维算法总结比较（一）

xukaihe·1个月前

在我们解决机器学习的问题时,常常要从维度上做文章。有时候我们需要增维,比如kernel

methods就可以在高纬度上重构样本从而解决样本在低维上不的线性不可分问题(高斯kernel

甚至可以把样本在无穷维上展开)。有时候我们又需要降维,因为我们是三维生物,我们最多只能

理解三维世界,所以想要看看手头的数据,就必须把它们降到三维以内;另外,往往很多特征没什

么用处,我们可以可以通过降维或者特征工程的来把它们剔除,降低计算复杂度。

从信息论的角度上讲增维并不会为我们带来更多的信息,因为我们只是做了简单的投射;但

是降维确实会令我们损失信息,歌者文明就是向系丢了一个二向箔把我们从三维降低到了

二维,从而消灭了系所有的生命(三体书里说降维后的系还是保持了全息的样子,那

副巨画包含了三维系的全部信息,笔者表示理解不能)。降维肯定会损失信息,那要

怎么为我们的数据选择一款适合的降维算法来减小损失的信息呢?本文尝试对比一些经典的降

维算法以及它们的应用场景来对它们做一个直观的介绍,我们不但会谈到