当前位置:首页 期刊杂志

复杂网络的重叠社区及社区间的结构洞识别

时间:2024-08-31

刘世超,朱福喜,冯 曦

(武汉大学计算机学院,湖北武汉 430072)



复杂网络的重叠社区及社区间的结构洞识别

刘世超,朱福喜,冯 曦

(武汉大学计算机学院,湖北武汉 430072)

大数据环境下如何有效地、准确地识别复杂网络的重叠社区是近年来学者关注的重点.本文提出一种基于多标签传播方式MLPS(Multiple Label Propagation Strategy)的重叠社区识别算法,该算法首先利用影响力最大化模型选取初始种子集合并赋予它们唯一的标签,然后采用结点间的相似性和影响传播特性共同作用于标签的传播迭代过程,迭代停止后将具有相同标签的结点划分为同一社区.通过合成网络和真实网络的实验验证了MLPS算法具有较高的准确度和模块度,且具有接近线性的时间复杂度.另外,在对MLPS算法输出的重叠结构进行分析的基础上,本文提出社区间的结构洞识别算法SHCDA(Structural Holes Between Communities Detection Algorithm),该算法通过分析重叠结构和重叠结点的位置特征,计算重叠结点作为结构洞的得分,最后输出top-k结构洞.本文在不同特性的数据集上进行实验,结果证明了SHCDA算法具有最好的准确度.

复杂网络;重叠社区;多标签传播;结构洞识别

1 引言

现实世界的许多网络普遍体现了社区结构特性,即同一社区内的结点关系紧密,而不同社区间的结点关系稀疏[1].近年来针对社区发现的算法层出不穷,在社区的层次性和重叠性等方面开展了大量的研究[2~4].本文着重研究社区的重叠性,尤其是大数据环境下,如何有效地解决重叠社区挖掘的问题.社区重叠结点是社区间的桥梁即社区间的结构洞,社区间的结构洞是两个或多个社区之间的非重复关系,占据结构洞的个体拥有更多的机会获取信息或资源[5].识别社区间结构洞的关键在于准确地挖掘网络的重叠结构,从而找出结构洞的候选集合,即社区重叠结点的集合.

一些学者针对结构洞的形成和作用进行建模研究[6,7],而对结构洞的识别算法还比较少.文献[8]采用拓扑势的方式识别重叠社区和社区间的结构洞,但作者直接将重叠结点作为结构洞,没有定量地分析结构洞的重要性.在实际情况中,我们往往更加关心那些比较重要的结构洞,于是Tang J等[9]提出top-k结构洞挖掘的问题,作者认为结构洞的邻居结点在一定程度上反映该结构洞的重要性,但忽略了对重叠结构的分析.如图1(a)中的结构洞A与图1(b)的结构洞C拥有相同的结构,而图1(b)中的两个社区只存在一个结构洞C,定量计算时C的重要性应大于A.

本文的主要贡献:提出一种基于多标签传播方式(MLPS)的重叠社区挖掘算法,算法的输出结果拥有较高的准确度和模块度;分析社区重叠结构,提出社区间的结构洞识别算法(SHCDA),能有效地挖掘top-k结构洞.

2 标签传播的相关工作

Raghavan等[10]提出的标签传播算法LPA(Label Propagation Algorithm),首次将标签传播应用于社区发现,具有接近线性的时间复杂度.Barber等人[11,12]将标签传播算法转化为优化问题,Xie J[13]结合了路径衰减的思想扩展了对结点邻居的计算,提高了社区划分结果的精度.COPRA(Community Overlap Propagation Algorithm)算法[14]是LPA算法的扩展,可以解决重叠社区挖掘的问题.初始化时每个结点被赋予一组标签对(c,b),c是标签,b是结点拥有标签c的概率;在标签更新过程中设置阈值v,删除b小于v的标签对.文献[15]指出COPRA算法的阈值应根据结点所处的位置不同而变化,并通过平衡阈值的选择来提高生成社区的质量.SLPA(Speaker-listener Label Propagation Algorithm)[16]通过模拟人类交流的行为特性,定义了动态的交互规则来指导结点的标签更新.文献[17]提出了MLPA(Multi-label Propagation Algorithm)算法,该算法根据结点间的相似性来确定传播概率,具有较高的准确度,但是同COPRA算法一样,算法容易产生大量的社区,导致模块度较低.

3 多标签传播方式的重叠社区识别算法

3.1 算法主要思想

COPRA是经典的标签传播算法,在该算法的标签传播过程中,结点直接接受邻居结点的标签,本文定义这种标签传播的方式为DA(Directly Accept),即

Pij=bi

(1)

其中,Pij表示标签ci从结点i传播到邻居结点j的概率,bi是结点i拥有标签ci的概率.这种直接接受标签的方式并不能真实地反应社会网络中信息和资源的传播,可能会降低算法的准确度.

MLPA算法假定两个结点拥有越多的共同邻居,标签在结点间传播的概率就越大,定义这种标签传播的方式为SS(Structural Similarity),即

(2)

(3)

其中,Sij表示结点i和j的相似性,Γ(i)是结点i的邻居结点集合.在相关工作中[17]已经提到,MLPA算法同COPRA算法一样,容易产生大量的社区,导致输出结果的模块度较低.因此,如何在保证准确度的情况下提高算法的模块度和稳定性,是本文研究的重点.

分析现实的网络,结点影响(标签)的传播在一定程度上取决于结点所处的位置,具有较高影响力的结点往往处于社区的核心位置,能够影响周围影响力较低的结点[18].于是,本文定义了一种新的基于影响传播的标签传播方式ID(Influence Diffusion),即

(4)

(5)

其中,lij为标签从结点i传播到j的度量,φi表示结点i在其邻域结构的相对影响能力,即

(6)其中,Nbi为结点i及其邻居结点的集合;Infi是结点i的影响力值,可用LeaderRank算法[19]计算获得;Z是平滑因子,取结点邻域结构的影响力均值,其计算公式为:

(7)

由式(6)可知结点i的相对影响能力φi取值区间为(0,1],且φi值越大,结点i的标签传播能力越强.结合式(5)和式(6)可得标签从结点i传播到j的度量lij取值区间为(0,1),且φi与φj的差值越大,标签越容易传播.由于大部分网络结点的相对影响力有明显的差异,导致标签在网络中不均衡地流动,降低了原有算法的随机性,使得算法能够很快收敛且输出的结果较为稳定.

于是本文提出一种基于多标签传播方式(MLPS)的重叠社区识别算法,综合SS和ID两种方式进行标签传播,那么结点i的标签传播到邻居结点j的概率Pij表示为:

(8)

目前的标签传播算法对网络进行初始化时,为每个结点都赋予一个独立的标签,这会导致输出结果出现大量孤立的小社区,从而降低输出社区的质量.为此,本文采用文献[20]提出的影响力最大化模型,选取网络中一组初始传播结点,使得这些结点能辐射到网络大部分结点,且尽可能的散落在每一个可能的社区,可以减少在传播时不需要的判断开销.

3.2 重叠社区发现的MLPS算法

为了提升算法运行的准确性和稳定性,本节提出一种基于多标签传播方式(MLPS)的重叠社区识别算法,算法逻辑流程如图2所示.

MLPS算法的迭代停止条件和后处理沿用COPRA算法的设定,因此本文只给出改进的标签传播方式和阈值选择策略的部分代码,即算法1.算法设置两个标签向量:old和new,old.x(new.x)表示结点x更新前(后)的标签,每个结点都拥有一组标签对(c,b),c是标签,b是结点拥有标签c的概率,N(x)是结点x的邻居集合,算法的唯一参数是阈值选择参数p.

3.3 算法的复杂度分析

4 社区间的结构洞识别算法

本节根据MLPS算法的输出结果,提出社区间的结构洞识别算法(SHCDA).算法首先将所有重叠结点加入结构洞的候选集合,然后分析社区重叠结构和重叠结点的位置特征,输出重要性得分top-k的结构洞.

(9)

其中,n为结点i的邻居数,Infj表示结点j的重要性;wij=pi,c为结构洞i与其邻居结点j的关系权重,c是结点j归属的社区.

本文观测真实的网络数据,发现部分结构洞连接的只是一些普通结点,因受到邻居结点的影响,导致结构洞的得分过低.此外,结构洞所处的结构特性也会影响其重要性得分,令Ci表示重叠结点i归属的社区集合,OCi为结点i所处的重叠结构,即OCi={oc|oc=Ci1∩Ci2∩…∩Cim}其中,Ci={Ci1,Ci2,…,Cim},m是集合Ci的大小,m=|Ci|且m≥2.然后加入惩罚系数ε来衡量重叠结构的影响,这样算法输出的结果将更加符合真实的情况.根据实验结果,设置ε的经验值为0.1.最终结构洞i的重要性得分计算公式如下:

(10)

SHCDA算法描述如算法2.

一般的,k取值较小,因此时间复杂度近似为O(d·r2),其中d为重叠结点的平均度,r是重叠结点的个数.在大数据的稀疏网络环境下,d和r都较小,所以算法能够有效地处理大规模网络.

5 实验分析

5.1 MLPS实验

MLPS算法的参数p取值根据数据集的不同而变化.给定数据集D,本文定义p在[0,1]范围内以步长0.05搜索,取使得算法输出结果最优的值作为算法在数据集D上的参数.

5.1.1 评价方法

NMI(Normalized Mutual Information)[21]广泛应用于重叠社区挖掘的实验中,NMI值越接近1说明算法输出的结果越接近真实的情况.对于合成网络数据,存在标准的社区划分结果,而大部分的真实网络并没有标准的结果,因此实验采用模块度Qov[22]来分析算法在真实网络中运行的效果.

5.1.2 合成网络实验

LFR网络[21]通过模拟不同特性的真实网络,可从多个角度测试算法的性能.实验选取LFR网络的三个参数(om、μ和on/N)来验证算法的NMI值,其中om为重叠结点拥有的标签数;μ表示结点与社区外部结点链接的概率,随着μ值增大,结点的社区外部链接增多,导致合成网络结构变得更加复杂,社区发现的难度也随之增加;on/N表示重叠结点占网络结点的比例.当实验观测其中某参数变化时,其他参数不变.实验结果如图3(a)、3(b)、3(c)所示,MLPS算法的NMI值最优,表明MLPS算法在处理不同特性的网络时能够取得较好的准确度.图3(d)分析了三种算法在网络边数从104增长到106时的运行效率,结果显示了这三种算法都具有接近线性的时间复杂度.

5.1.3 真实网络实验

本文选取7个不同的真实网络,如表1所示,其中C-DBLP1和C-DBLP2是从WAMDM实验室提供的数据库中抽取得到的两个不同规模的学者合著网络.表1比较了MLPS、MLPA和COPRA算法取最优参数时的平均模块度Qov和方差Std.,结果显示本文提出的MLPS算法能够取得较好的效果.

表1 三种算法在真实网络上运行的模块度比较

5.2 SHCDA实验

本节实验包含Coauthor实验和新浪微博实验.Coauthor数据集[9]存在可对比的实验结果,能够验证SHCDA算法的准确度;新浪微博数据集通过爬虫程序抓取,从一个特定用户开始,抓取最近发表的微博中转发数较高的微博及转发该微博的用户,并以广度优先的策略循环抓取数据,最后整理出63,641个用户及1,391,718条用户关系,其中包含27,759条微博转发关系.

5.2.1 Coauthor实验

Coauthor数据集包含28个计算机相关的会议,涉及六个研究领域,如表2所示.每个领域都拥有一组程序委员会成员,我们认为不同领域间的共同委员会成员即为这些领域间的结构洞.该数据集包含1718个委员会成员,其中拥有107个结构洞.

根据上述六个领域的相关性,本文选取三对领域(AI-DM,DB-DM和DP-NC)来验证算法的准确度.同时实验选取PageRank[28]、COPRA和MLPA算法进行对比分析,如图4、图5和图6所示.本文提出的SHCDA算法在top-30之前都能取得最好的效果,而且从三个图中可以发现,PageRank选取的重要结点大部分都不是结构洞,因此结构洞在网络中可能只是一些普通结点,却扮演着极其重要的角色.

表2 Coauthor数据集

5.2.2 新浪微博实验

在微博、Twitter等社交网络中,社区间的结构洞是不同群体进行信息传播的桥梁,一般存在于微博的转发路径中[9].因此,本文定义Precision来衡量SHCDA算法的准确性:

(11)

其中,Nsh(k)表示SHCDA算法输出的top-k结构洞,Nf(k)是Nsh(k)中存在转发微博行为的结点集合.实验结果如图7所示,显示出本文提出的SHCDA算法取得了最优的准确性,能够有效地挖掘出社区间的结构洞.

本文还考察了结构洞的重要性对社区间的信息传播的影响.针对算法输出的top-k结构洞,定义Rg表示在固定步长下存在转发行为的结点相对增长数:

Rg=|Nf(k+C)|-|Nf(k)|

(12)

其中,C为增长步长,本节实验中C取50.从图8中可以看出SHCDA算法在top-200前有较快的增幅,而后趋于稳定,说明重要度较高的结构洞更容易进行社区间的信息传播,这对社会网络的信息传播机制研究和舆情监控具有重要的指导意义.

6 结论

为提高大数据环境下重叠社区发现的效果,本文结合结点间的相似性传播和影响传播两种方式,提出了基于多标签传播方式的重叠社区发现算法(MLPS),实验验证了该算法取得了较高的准确度和模块度,且具有接近线性的时间复杂度;同时,基于MLPS算法的输出结果,本文针对重叠结构进行分析,提出了社区间的结构洞识别算法(SHCDA),在不同特性数据集的实验显示了该算法拥有较高的准确度.

[1]Girvan M,Newman M E J.Community structure in social and biological networks[J].Proceedings of the National Academy of Sciences,2002,99(12):7821-7826.

[2]Palla G,Derényi I,Farkas I,et al.Uncovering the overlapping community structure of complex networks in nature and society[J].Nature,2005,435(7043):814-818.

[3]Shi C,Cai Y,Fu D,et al.A link clustering based overlapping community detection algorithm[J].Data & Knowledge Engineering,2013,87:394-404.

[4]Whang J J,Gleich D F,Dhillon I S.Overlapping community detection using seed set expansion[A].CIKM 2013[C].San Francisco,CA,USA,ACM,2013.2099-2108.

[5]Burt R S.Structural Holes:The Social Structure of Competition[M].MA,Harvard University Press,1992.

[6]Kleinberg J,Suri S,Tardos é,et al.Strategic network formation with structural holes[A].Proceedings of the 9th ACM Conference on Electronic Commerce[C].Chicago,Illinois,USA,ACM,2008.284-293.

[7]Buskens V,Van de Rijt A.Dynamics of networks if everyone strives for structural holes[J].American Journal of Sociology,2008,114(2):371-407.

[8]李泓波,等.基于拓扑势的重叠社区及社区间结构洞识别.电子学报,2014,42(1):62-69.

Li H B,et al.Identification of overlapping communities and structural holes between communities based on topological potential[J].Acta Electronica Sinica,2014,42(1):62-69.(in Chinese)

[9]Lou T,Tang J.Mining structural hole spanners through information diffusion in social networks[A].WWW 2013[C].Rio de Janeiro,Brazil,International World Wide Web Conferences Steering Committee,2013.825-836.

[10]Raghavan U N,Albert R,Kumara S.Near linear time algorithm to detect community structures in large-scale networks[J].Physical Review E,2007,76(3):036106.

[11]Barber M J,Clark J W.Detecting network communities by propagating labels under constraints[J].Physical Review E,2009,80(2):026129.

[12]Liu X,Murata T.Advanced modularity-specialized label propagation algorithm for detecting communities in networks[J].Physica A:Statistical Mechanics and its Applications,2010,389(7):1493-1500.

[13]Xie J,Szymanski B K.Community detection using a neighborhood strength driven label propagation algorithm[A].NSW 2011[C].New York,USA,IEEE,2011.188-195.

[14]Gregory S.Finding overlapping communities in networks by label propagation[J].New Journal of Physics,2010,12(10):103018.

[15]Wu Z H,Lin Y F,Gregory S,et al.Balanced multi-label propagation for overlapping community detection in social networks[J].Journal of Computer Science and Technology,2012,27(3):468-479.

[16]Xie J,Szymanski B K,Liu X.Slpa:Uncovering overlapping communities in social networks via a speaker-listener interaction dynamic process[A].ICDMW 2011[C].Vancouver,BC,Canada,IEEE,2011.344-349.

[17]Dai Q,Guo M,Liu Y,et al.MLPA:Detecting overlapping communities by multi-label propagation approach[A].CEC 2013[C].Cancun,Mexico,IEEE,2013.681-688.

[18]Aral S,Walker D.Identifying influential and susceptible members of social networks[J].Science,2012,337(6092):337-341.

[19]Li Q,et al.Identifying influential spreaders by weighted LeaderRank[J].Physica A:Statistical Mechanics and its Applications,2014,404:47-55.

[20]Wang Y,Feng X.A Potential-Based Node Selection Strategy for Influence Maximization in a Social Network[M].Advanced Data Mining and Applications.Springer Berlin Heidelberg,2009.350-361.

[21]Lancichinetti A,Fortunato S,Radicchi F.Benchmark graphs for testing community detection algorithms[J].Physical Review E,2008,78(4):046110.

[22]Nicosia V,Mangioni G,Carchiolo V,et al.Extending the definition of modularity to directed graphs with overlapping communities[J].Journal of Statistical Mechanics:Theory and Experiment,2009,2009(03):P03024.

[23]Zachary W.An information flow model for conflict and fission in small groups1[J].Journal of anthropological research,1977,33(4):452-473.

[24]Lusseau D,Schneider K,Boisseau O J,et al.The bottlenose dolphin community of Doubtful Sound features a large proportion of long-lasting associations[J].Behavioral Ecology and Sociobiology,2003,54(4):396-405.

[25]Girvan M,Newman M E J.Community structure in social and biological networks[J].Proceedings of the National Academy of Sciences,2002,99(12):7821-7826.

[26]Newman M E J.Finding community structure in networks using the eigenvectors of matrices[J].Physical review E,2006,74(3):036104.

[27]Newman M E J.The structure of scientific collaboration networks[J].Proceedings of the National Academy of Sciences,2001,98(2):404-409.

[28]Page L,Brin S,Motwani R,et al.The PageRank citation ranking:Bringing order to the web[R].Stanford InfoLab,1999-66.

刘世超 男,1989年2月出生,河南周口人.武汉大学计算机学院博士生,研究方向为社会网络分析和Web数据挖掘.

E-mail:nani@whu.edu.cn

朱福喜(通讯作者) 男,1957年7月出生,湖北武汉人.武汉大学计算机学院教授、博士生导师,主要从事人工智能和Web数据挖掘.

E-mail:fxzhu@whu.edu.cn

冯 曦 女,1991年11月出生,陕西西安人.武汉大学计算机学院硕士生,研究方向为社会网络分析和数据挖掘.

E-mail:fengxiwhu@outlook.com

Identifying Overlapping Communities and Structural Holes Between Communities in Complex Networks

LIU Shi-chao,ZHU Fu-xi,FENG Xi

(ComputerSchoolofWuhanUniversity,Wuhan,Hubei430072,China)

Many researchers focus on how to detect overlapping communities effectively and accurately when coping with large-scale networks in recent years.This paper proposes a novel overlapping community detection algorithm based on a multiple label propagation strategy,called MLPS algorithm.Firstly,MLPS selects a set of nodes as initial seeds by using Influence Maximization Model,each of which is assigned a unique label;Inspired by strategy based on similarity and influence diffusion,MLPS incorporates with these two strategies to guide the process of label propagation;Finally,nodes with the same tag are divided into one community after propagation.Experimental results on synthetic datasets and real networks illustrate that MLPS has both high accuracy and modularity at the same time.In addition,another algorithm named Structural Holes between Communities Detection Algorithm (SHCDA) is presented on the basis of the output of MLPS.SHCDA computes the scores of overlapping nodes who serve as structural holes by analyzing the overlapping structure and position feature of overlapping nodes,and then selects top-kstructural holes as the output.Experimental results on different datasets show that SHCDA gets the best accuracy.

complex networks;overlapping community;multiple label propagation;structural holes detection

2015-05-12;

2015-11-09;责任编辑:马兰英

国家自然科学基金(No.61272277);中央高校基本科研业务费专项基金(No.274742)

TP391

A

0372-2112 (2016)11-2600-07

��学报URL:http://www.ejournal.org.cn

10.3969/j.issn.0372-2112.2016.11.006

免责声明

我们致力于保护作者版权,注重分享,被刊用文章因无法核实真实出处,未能及时与作者取得联系,或有版权异议的,请联系管理员,我们会立即处理! 部分文章是来自各大过期杂志,内容仅供学习参考,不准确地方联系删除处理!