大数据产业分析及实战案例.pptx

;;;;;;;;;;;;;;;;;;;;;;;;;数据清洗;;分布式文件系统（HadoopDistributedFileSystem，HDFS） 功能：为海量数据提供存储，部署在低廉的硬件上，有高容错性的特点。 基本原理：将分布在不同地理位置的硬件通过网络连接起来，形成一个存储系统。使用时，不需要关心数据存储在哪个硬件上，只需要像使用本地文件系统一样管理和存储即可。 各硬件是互相连接的，但是nn在将数据切割完成后，只能一个个发送经由各硬件，传输到某个位置，读取和写入都是一样流程。;MapReduce：一种编程模型 功能：为海量数据提供运算 基本原理：在不同的机器上并行完成运算，提高运算速度。分为map和reduce两个函数 举例：如将扑克牌分类统计数量，把一副扑克牌分成4份同时进行。 Map（映射）：对集合里的每一个目标应用同一个操作，即统统数一遍，并反馈各个花色的分类，通常会按照（key；value）的方式??行，key为花色，value为数量 Reduce（化简／归纳）：将map的四组反馈结果汇总，得出各个花色的数量;;云计算是一种理念。Hadoop是云计算理念的一种技术实现。;;;;;;;;;;;;;4、这个用户的帖子中73次提到“明星”，132次提到“酒窝”，66次提到“睫毛”和“迷人”，所以推测该用户经常关注娱乐明星，且特别关注女明星的外貌。该用户提到比较频繁的词汇还有：故事、回忆、流行、环游、幼稚、圣诞、新人、歌曲、永远、咖啡，可推测该用户可能比较年轻，浪漫，很可能是女性。;;;;