概率论-课程论文-长尾分布.docVIP

哈尔滨工业大学计算机科学与技术学院 结课论文 课程名称：概率论与数理统计 课程类型：必修 项目名称：长尾分布、幂律分布的原理与应用概况 目录 目录 2 摘要 3 1 引言 3 2 长尾分布与幂律分布 4 2.1 长尾分布 4 2.2 幂律分布 4 2.3 两种分布的联系 4 3 西蒙模型：幂律分布最基本的产生机制 5 3.1 西蒙模型简介 5 3.2 西蒙模型的主要缺陷 6 4 长尾分布与幂律分布的典型应用 7 4.1 人类行为时间统计特性研究 7 4.2 小世界现象的动力学模型与验证 8 4.3 金融资产收益率的研究 9 5 小结 9 6 参考文献 9 7 致谢 9 摘要 长尾分布是涉及流行性问题的一种常见分布，与之密切相关的还有幂律分布。这两种分布在物理学、生物学、经济学、计算机科学、统计学、社会学等诸多领域得到了广泛应用。本文试图简要介绍长尾分布的概念，同时介绍与之密切相关的幂律分布，展示目前存在的理论模型及其优缺点，最后介绍这两种分布在各种领域的应用。 1 引言 在概率论与数理统计的课程中，我们先后接触了多种分布；其中正态分布（高斯分布）、Х2分布、t分布和F分布在生产生活中有着较多的应用。然而仔细观察这些分布，不难发现其研究的对象是同质的；但很多时候，我们更需要的却是针对异质对象的一些特殊指标的分布。 此外，这些分布所涉及的基本事件，彼此也是独立的；但我们看到的世界并非如此。太阳升起又落下，落下又升起，可是人们却已经经历了欢笑和痛苦，会做出不一样的选择；人们的选择改变着自己，但自己同时也是他人的环境的一部分；于是人们改变了自我的同时也改变了环境，不同的环境下自然不会有重复的条件，不可能有同样的分布。最著名的反面案例也许是马太效应：贫者愈贫，富者愈富，而不会随机地发生逆转，游戏不会回归到初始状态。 体现上述两点的最典型的过程，便是与流行度有关的过程。以网站音乐的排行榜为例，把曲目按照下载量排序，可近似地得到一条递减曲线。在曲线的始端，曲目被大量下载，而随着流行度排名的降低，下载量急剧下降；然而这一曲线的尾部却不会马上坠落到零。这种特殊的分布便是长尾分布。 幂律分布与长尾分布等价，而在理论上更便于探讨，因此对长尾分布的研究也不能脱离幂律分布。对其形成机制最经典的一个解释就是西蒙模型。根据三个基本假设，西蒙模型能够在大量文本的状态下解释大部分幂律分布的形成过程。然而这一模型也并不完美，如有一些多余的假设，解释不了一些特殊情况等。 长尾分布和幂律分布绝非单纯的理论；恰好相反，人们是在反复发现这样的分布后才开始针对性的研究，并得出相关的结论。在互联网信息、社会网络、疾病传播、金融市场等方面，幂律分布都发挥了重要的作用。  2 长尾分布与幂律分布 2.1 长尾分布 长尾分布，也称齐普夫定律，在20世纪30年代，由美国哈佛大学语言学家齐普夫发现。将一文本中的词按照它们在文本中的出现（或使用）次数从高到低排列，则序号的某一幂次与使用频率的乘积将在一个常数前后摆动。这一规律可形式化表述为： 2.2 幂律分布 对于离散型随机变量和连续型随机变量，都有其对应的幂律分布。 对离散型幂律分布的定义为： 对连续型幂律分布的定义为： 2.3 两种分布的联系 为探讨两者的联系，此处假设背景为对互联网站点及其入链数的研究。 从幂律分布出发，假设f(k)为拥有k个入链的站点个数，并且；记km为入链最多的站点的入链数，则入链数在k和km之间的站点个数为，并且有： 此时对这些站点进行排序，可知最后一位站点序号为，拥有入链数为k，即，其中，再令，即可得到长尾分布： 以上两式中，称为齐普夫指标，而称为幂律指标。 3 西蒙模型：幂律分布最基本的产生机制 3.1 西蒙模型简介 西蒙是卡内基——梅隆大学管理学和计算机科学教授，曾获得诺贝尔经济学奖和图灵奖。西蒙模型发表于1955年出版的英国期刊《生物计量学》，直到现在仍然备受重视。 西蒙以词频分布为背景，根据三个假设建立起西蒙模型。 首先令s为一文本当前词数，称为文本长度，N(s)为该文本达到长度s时的词汇，显然N(s)≤s。文本中未出现的词为新词，反之则称为旧词。令f(k,s)为文本长度达到s时出现了k次的单词个数，以θ(s)表示文本长度达到s时进入新词的可能性，称为新词的进入率，其中0θ(s)1： 假设一： 新词进入率为一个常量，即 假设二（富者愈富）： 新进入文本的词为使用了k次的词的可能性与kf(k,s)成正比。根据西蒙的原文可导出： 以及： 假设三（稳态假设）： 以下，首先将假设三应用于假设二中，再令可由递推关系得到： 利用史特林逼近式即有。由此可知词频在文本中的分布渐进地服从幂律分布