网络社区划分算法.docx

网络社区划分算法目录1?简介2?构建一个点击流网络3?网络社区划分的两种主要思路：拓扑分析和流分析4?拓扑分析4.1?计算网络的模块化程度Q-Modularity4.2?计算网络的连边紧密度Edge betweenness4.3?计算网络拉普拉斯矩阵的特征向量Leading eigenvector4.4?通过fast greedy方法搜索网络模块化程度Q-Modularity的最大值4.5?通过multi level方法搜索网络模块化程度Q-Modularity的最大值5?流分析5.1?随机游走算法Walk Trap5.2?标签扩散算法label propagation5.3?流编码算法 the Map Equation5.4?流层级算法 Role-based Similarity6?总结[]简介使用许多互联网数据，我们都可以构建出这样的网络，其节点为某一种信息资源，如图片，视频，帖子，新闻等，连边为用户在资源之间的流动。对于这样的网络，使用社区划分算法可以揭示信息资源之间的相关性，这种相关性的发现利用了用户对信息资源的处理信息，因此比起单纯使用资源本身携带的信息来聚类（例如，使用新闻包含的关键词对新闻资源进行聚类），是一种更深刻的知识发现。[]构建一个点击流网络假设我们手头有一批用户在一段期间内访问某类资源的数据。为了减少数据数理规模，我们一般只考虑最经常被访问的一批资源。因此在数据处理中，我们考虑UV（user visit）排名前V的资源，得到节点集合|V|，然后对于一个用户i在一段时间内（例如一天）内访问的资源，选择属于|V|的子集vi。如果我们有用户访问资源的时间，就可以按照时间上的先后顺序，从vi中产生vi-1条有向边。如果我们没有时间的数据，可以vi两两间建立联系，形成vi(vi-1)/2条无向边。因为后者对数据的要求比较低，下文中，暂时先考虑后者的情况。对于一天内的n个用户做这个操作，最后将得到的总数为的连边里相同的边合并，得到|M|个不同的边，每条边上都带有权重信息。这样，我们就得到了V个节点，M条边的一个加权无向网络，反应的是在一天之内用户在主要的信息资源间的流动情况。在这个网络上，我们可以通过社区划分的算法对信息资源进行分类。[]网络社区划分的两种主要思路：拓扑分析和流分析社区划分的算法比较多，但我个人认为大致可以分为两大类：拓扑分析和流分析。前者一般适用于无向无权网络，思路是社区内部的连边密度要高于社区间。后者适用于有向有权网络，思路是发现在网络的某种流动（物质、能量、信息）中形成的社区结构。这两种分析各有特点，具体应用取决于网络数据本身描述的对象和研究者想要获得的信息。我们可以将已知的一些算法归入这两类：算法优化目标计算复杂度适用情况局限拓扑分析Q Modularity最大化Q-modularityV|^2无向无权多分量不适用小网络Edge-Betweenness最小化社区间连边的betweennessV|*|E|^2有向有权多分量慢Leading Eigenvector对拉普拉斯矩阵第二小特征根对应的特征向量聚类V|^2+ |E|无向无权多分量Fast Greedy使用社区合并算法来快速搜索最大Q-modularityE|*log(|V|)无向有权多分量不适用小网络Multi Level使用社区展开算法来快速搜索最大Q-modularityV|无向有权多分量不适用小网络流分析Walk Trap最大化社区间的流距离E|*|V|^2无向有权单分量Label Propagation每个节点取邻居中最流行的标签，迭代式收敛V| + |E|无向有权单分量结果不稳定Info map最小化随机流的编码长度V|*(|V|+|E|)有向有权单分量Role-based community划分出在流中地位类似的节点V|^3有向有权单分量结果不稳定上表中的分量（component）指在网络中的独立“团块”。有向网络里，分量有强弱之分，强分量（strong component ）中任意一个节点都可到达另外一个节点，弱分量（weak component）中如果忽略连边方向，则构成强分量。无向网里分量没有强弱之分。在网络中识别强分量的算法有Kosaraju算法，Tarjan算法及其变形Gabow算法等。在这里不展开叙述。接下来，我们逐一讨论拓扑分析和流分析中的各种算法的具体思路。[]拓扑分析[]计算网络的模块化程度Q-ModularityQ-Modularity是一个定义在[-0.5,1)区间内的指标，其算法是对于某一种社区结构，考虑每个社区内连边数与期待值之差。实际连边越是高于随机期望，说明节点越有集中在某些社区内的趋势，即网络的模块化结构越明显。Newman在2004年提出这个概念最初是为了对他自己设计的社区划算法进行评估，但