常用大数据量、海量数据处理方法 (算法)总结.docxVIP

---------宋停云与您分享---------- ---------宋停云与您分享---------- 、 、、 常用大数据量、海量数据处理方法 (算法)总结 常用大数据量、海量数据处理方法 (算法)总结 、 0 ---------宋停云与您分享---------- ---------宋停云与您分享---------- 大数据量的问题是很多面试笔试中经常出现的问题，比如 baidu goog le 腾讯 这样的一些涉及到海量数据的公司经常会问到。 下面的方法是我对海量数据的处理方法进行了一个一般性的总结，当然这些方法可能并不能完全覆盖所有的问题，但是这样的一些方法也基本可以处理绝大多数遇到的问题。下面的一些问题基本直接来源于公司的面试笔试题目，方法不一定最优，如果你有更好的处理方法， 欢迎与我讨论。 1.Bloom filter 适用范围：可以用来实现数据字典，进行数据的判重，或者集合求交集 基本原理及要点： 对于原理来说很简单，位数组+k 个独立 hash 函数。将 hash 函数对应的值的位数组置 1，查找时如果发现所有 hash 函数对应位都是 1 说明存在，很明显这个过程并不保证查找的结果是 100%正确的。同时也不支持删除一个已经插入的关键字，因为该关键字对应的位会牵动到其他的关键字。所以一个简单的改进就是 counting Bloom filter，用一个 co