大数据处理技术的总结和分析.docVIP

?数据分析处理需求分类 1 事务型处理 在我们实际生活中，事务型数据处理需求非常常见，例如：淘宝网站交易系统、12306网站火车票交易系统、超市POS系统等都属于事务型数据处理系统。 这类系统数据处理特点包括以下几点： 一是事务处理型操作都是细粒度操作，每次事务处理涉及数据量都很小。 二是计算相对简单，一般只有少数几步操作组成，比如修改某行的某列； 三是事务型处理操作涉及数据的增、删、改、查，对事务完整性和数据一致性要求非常高。 四是事务性操作都是实时交互式操作，至少能在几秒内执行完成； 五是基于以上特点，索引是支撑事务型处理一个非常重要的技术。 在数据量和并发交易量不大情况下，一般依托单机版关系型数据库，例如ORACLE、MYSQL、SQLSERVER，再加数据复制(DataGurad、 RMAN、MySQL数据复制等)等高可用措施即可满足业务需求。 在数据量和并发交易量增加情况下，一般可以采用ORALCE RAC集群方式或者是通过硬件升级(采用小型机、大型机等，如银行系统、运营商计费系统、证卷系统)来支撑。 事务型操作在淘宝、12306等互联网企业中，由于数据量大、访问并发量高，必然采用分布式技术来应对，这样就带来了分布式事务处理问题，而分布式事务处理很难做到高效，因此一般采用根据业务应用特点来开发专用的系统来解决本问题。 ? 2 数据统计分析 数据统计主要是被各类企