大数据时代下数据分析理念的辨析.docxVIP

PAGE 1 PAGE 1 大数据时代下数据分析理念的辨析  本文在分析不同种传统数据智能分析理念的基础上，分析了结合新平台开发的新型分析方法。  1、大数据概述  1.1大数据  大数据就是通过统计分析计算机收集的数据，在人们可能不知道“为什么”的前提下，了解到事物的状态、趋势、结果等“是什么”。对于大数据，一直来说，数据规模导致的存储、运算等技术问题从来不是最重要的瓶颈。瓶颈只在于前端数据的收集途径，以及后端商业思想引领的模型和算法问题。早期的各类OLAP工具已经足够了，后来类似海杜普这样的研究则彻底降低了分布式数据的架构成本和门槛，就彻底将大数据带入了一个普及的领域。从技术层面说，大数据和以前的数据时代的最大差异在于，以前是数据找应用/算法的过程（例如各大银行的大集中项目，以及数据建仓），而大数据时代的重要技术特征之一，是应用/算法去找数据的过程，因为数据规模变成了技术上最大的挑战。  大数据的特点：（1）大数据不等同于数据大，我们处理问题是依据这个问题的全部数据而非样本数据，即样本就是总体；不是精确性而是混杂性；不是因果关系而是相关关系。（2）大数据应用的几个可能：当文字变成数据，此时人可以用之阅读，机器可以用之分析；当方位变成数据，商业广告，疫情传染监控，雅安地震时的谷歌寻人；当沟通变成数据，就成了社交图谱。一切都可以量化，将世界看作可以理解的数据的海洋，为我们供应了一个从来未有过的端详现实的视角。（3）数据创新的价值：数据的再利用。例如重组数据：随着大数据出现，数据的总和比部分更有价值，重组总和和本身价值也比单个总和更大；可扩展数据：在设计数据收集时就设计好了它的可扩展性，可以增加数据的潜在价值；数据的折旧值：数据会无用，需淘汰更新；数据废气：比如语音识别，当用户指出语音识别程序误会了他的意思，实际上就有效的训练了这个系统。总之，大数据是因为对它的分析使用，才产生和体现它的价值，而不是因为其用到了突出的技术和算法才体现了它的价值。  1.2数据分析  数据分析的过程其实简洁的说就是做报告，做什么样的报告反映什么样的指标。最开始的时候基本上是dataprocessing。例如零售行业来说，最主要的指标就是库存、销售同比增长状况、利润同比增长状况、促销率等等。对于不同的行业会有不同的相关的KPI需要跟踪，所以报告的内容也会有所侧重，但是只要你一个行业做久了，熟识了套路之后，基本上就是以同样的方法开展。对于数据分析，假如公司部门分的比较细的（例如可能有建模组），那么做数据分析可能永久都是做dataprocessing了。对于模型的分析，需要你对业务有了深入的了解就可以建立一些模型出来（例如推荐模型）等等。  数据分析主要涉及的技能：（1）数据库的能力。越全面越好，假如不是理工科的，最起码要会select那些简洁的查询语句。（2）EXCEL、PPT的能力。报告的呈现一般都是Excel+PPT的形式，最好VBA，这样就可以将许多人工的工作转化为自动化的能力，提高工作效率，领导也对你刮目相看，自己也有更多空余的时间预备其他方面的学问。（3）市场分析能力。学会观看市场的走向和关注的内容，例如零售行业，现在大家都对CRM很热衷，那相关的分析方法和方式是怎么样的，你要自己去了解。从来不会有人手把手的将全部东西都告知你，你必需自己学会去增长学问。（4）一些会计的学问。因为通过以上分析，就是会计管理的一部分内容，最终还是公司盈利问题。有兴趣的也可以去看看战略管理方面的，对于做数据分析也很有好处的说。综合来看，可以说数据分析=技术+市场+战略。  2、智能数据理念分析  虽然在大数据时代传统的智能数据分析法已经不能适应当前的需求，但是依旧有一定的相似性，相关理论和技术依旧可以沿用，几种常见数据分析法：第一种方法是决策树。这种数据分析方法需要基于信息论基础上，这种方法实现的输出结果简单理解，精确度较高，效率也较快，但是它不能用来对复杂的数据进行处理与分析。第二种方法是关联规则。这种方法主要是用于事物数据库中，通常带有大量的数据，当今使用这种方法来削减搜寻空间。第三种方法是粗糙集。这种数据分析方法能够对数据进行主观评价，只要通过观测数据，就可以清除冗余的信息。第四种方法是模糊数学分析。这种数据分析方法能够对实际问题进行模糊的分析，与其他的分析方法相比，能够取得更为客观的效果。第五种方法是人工神经网络。这种数据分析方法具有自学习功能，在此基础上还具有联想存储的功能。第六种方法是混沌和分形理论。这两种理论主要是用来对自然社会中存在的现象进行解释，一般用来进行智能认知研究，还能应用于自动掌握等众多领域中。第七种方法是自然计算分析方法。这种数据分析方法依据不