- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
计算机科学2002V01.29No.8
基于三级索引机制的并行数据仓库的存储结构
张新宇王珊陈红杜小勇
(中国人民大学信息学院 数据与知识工程研究所 北京100872)
AbstractTheonline an which inlast
analytical application
processing(OLAP)isgrowsrapidly
several the
years.We tomaketheOLAPfast.Inthisenviron—
adoptparallelcomputingsystem
mentthe andmaintenanceof area our
massivedata ware..
storage complexproblem.Inparallel
house athree-levelindexmechanismmakeO—
managementsystem(PareWare),wepropose to
LAP hasbeenshowthatthemethodiseffectiveandefficient.
efficiently.It
Data
KeYwordswarehouse,Storage,Parallel,Index
个数据节点,三级的索引结构分别如下:
1。引言
·在数据进行预处理结束后,向各个数据节点进
数据仓库系统的特点主要是数据量大、要求查 行装载,这是由一个总控节点根据一定的维来向各
询速度快,用户的查询只关心综合数据,而很少关心 个节点进行分布的。此处构成了第一级的索引。为了
细节数据。数据仅仅做周期性更新,并且在更新期间 便于将来查询的时候进行Cube计算,这里的索引
不允许查询。因此,我们可以采用很多的索引机制来 机制我们采用的是hash索引。
提高其查询的性能。 ·在数据分布到各个节点上以后,我们将每一个
在并行环境下,我们可以通过将数据分布在多 Cube分别进行存储。在这里,我们对于每个Cube
个节点上。在这种体系结构下,我们采用多种办法来 的数据进行了划分,将每一个Cube按照一定的划
提高查询相应的速度。第一,划分子查询,使得各个 分维划分成若干个chunk。这是基于以下两个原因:
子查询可以分布在各个节点上并行执行。第二,对于 (1)由于每个Cube中度量数据最多可能到所有维
每个节点是多cpu的情况,可以将各个节点上的数 的笛卡儿积,因此Cube可能会非常的大。将Cube
据继续进行划分,使得我们可以针对每一部分数据
单独进行查询。此处我们考虑的并行环境是SN 来依次放进内存进行计算。(2)可以利用chunk来
(share 进行缓存,这样整个计算的效率会大大提高。此处,
nothing)结构的。在并行环境下,我们将
BaseCube按照一定的分布属性分布在各个节点上。为了提高由Cube来查询chunk的速度,我们在
整个数据的分布用图1来进行说明。数据都分布在各 chunk之上建立了bitmap索引。
并这两个分片。第三条Major
文档评论(0)