大数据架构与关键技术.pdfVIP

4 大数据参考架构和关键技术 4.1 大数据参考架构 大数据作为一种新兴技术，目前尚未形成完善、达成共识的技术标准体系。本章结合 NIST 和 JTC1/SC32的研究成果，结合我们对大数据的理解和分析，提出了大数据参考架构（见 图 5）。 图 5 大数据参考架构图 大数据参考架构总体上可以概括为“一个概念体系，二个价值链维度”。“一个概念体系” 是指它为大数据参考架构中使用的概念提供了一个构件层级分类体系 ,即“角色—活动—功 能组件”，用于描述参考架构中的逻辑构件及其关系；“二个价值链维度”分别为“ IT 价 值链”和“信息价值链”，其中“ IT 价值链”反映的是大数据作为一种新兴的数据应用范 式对 IT 技术产生的新需求所带来的价值，“信息价值链”反映的是大数据作为一种数据科 学方法论对数据到知识的处理过程中所实现的信息流价值。这些内涵在大数据参考模型图 中得到了体现。 大数据参考架构是一个通用的大数据系统概念模型。它表示了通用的、技术无关的大数据 系统的逻辑功能构件及构件之间的互操作接口，可以作为开发各种具体类型大数据应用系 统架构的通用技术参考框架。其目标是建立一个开放的大数据技术参考架构，使系统工程 师、数据科学家、软件开发人员、数据架构师和高级决策者，能够在可以互操作的大数据 生态系统中制定一个解决方案，解决由各种大数据特征融合而带来的需要使用多种方法的 问题。它提供了一个通用的大数据应用系统框架，支持各种商业环境，包括紧密集成的企 业系统和松散耦合的垂直行业，有助于理解大数据系统如何补充并有别于已有的分析、商 业智能、数据库等传统的数据应用系统。 大数据参考架构采用构件层级结构来表达大数据系统的高层概念和通用的构件分类法。从 构成上看，大数据参考架构是由一系列在不同概念层级上的逻辑构件组成的。这些逻辑构 件被划分为三个层级，从高到低依次为角色、活动和功能组件。最顶层级的逻辑构件是角 色，包括系统协调者、数据提供者、大数据应用提供者、大数据框架提供者、数据消费者、 安全和隐私、管理。第二层级的逻辑构件是每个角色执行的活动。第三层级的逻辑构件是 执行每个活动需要的功能组件。 大数据参考架构图的整体布局按照代表大数据价值链的两个维度来组织，即信息价值链 （水平轴）和 IT 价值链（垂直轴） 。在信息价值链维度上，大数据的价值通过数据的收集、 预处理、分析、可视化和访问等活动来实现。在 IT 价值链维度上，大数据价值通过为大数 据应用提供存放和运行大数据的网络、基础设施、平台、应用工具以及其他 IT 服务来实现。 大数据应用提供者处在两个维的交叉点上，表明大数据分析及其实施为两个价值链上的大 数据利益相关者提供了价值。 五个主要的模型构件代表在每个大数据系统中存在的不同技术角色：系统协调者、数据提 供者、大数据应用提供者、大数据框架提供者和数据消费者。另外两个非常重要的模型构 件是安全隐私与管理，代表能为大数据系统其他五个主要模型构件提供服务和功能的构件。 这两个关键模型构件的功能极其重要，因此也被集成在任何大数据解决方案中。 参考架构可以用于多个大数据系统组成的复杂系统（如堆叠式或链式系统） ，这样其中一 个系统的大数据使用者可以作为另外一个系统的大数据提供者。 参考架构逻辑构件之间的关系用箭头表示，包括三类关系：“数据”、“软件”和“服务 使用”。“数据”表明在系统主要构件之间流动的数据，可以是实际数值或引用地址。 “软件”表明在大数据处理过程中的支撑软件工具。“服务使用”代表软件程序接口。虽 然此参考架构主要用于描述大数据实时运行环境，但也可用于配置阶段。大数据系统中涉 及的人工协议和人工交互没有被包含在此参考架构中。 （ ）系统协调者 1 系统协调者角色提供系统必须满足的整体要求，包括政策、治理、架构、资源和业务需求， 以及为确保系统符合这些需求而进行的监控和审计活动。系统协调者角色的扮演者包括业 务领导、咨询师、数据科学家、信息架构师、软件架构师、安全和隐私架构师、网络架构 师等。系统协调者定义和整合所需的数据应用活动到运行的垂直系统中。系统协调者通常