医疗大数据分析应用平台建设项目关键核心技术和算法.pdfVIP

医疗大数据分析应用平台建设项目关键核心技术和算法

众多海量医药医疗数据为大数据管理与处理平台提出

了诸多技术挑战。第一，由于数据是不断累积的，平台需具

备高可扩展性；第二，存储层应适应不同的存取访问需求.

实时应用如医院的挂号和收费系统等，主要涉及小量数据的

读取与写入，要求后端存储能够快速读写;复杂应用如医疗

历史数据挖掘等，涉及大量数据的读取，要求后端存储实现

高吞吐量读取；第三，由于医疗数据关乎人的生命，需要保

证平台的高容错与高可用性，能够应对常态化的出错问题。

1.1大数据分析能力

大数据分析能力体现在五个基本方面：

大数据可视化分析能力

大数据分析的使用者有大数据分析专家，同时还有普通

用户，二者对于大数据分析最基本的要求就是可视化分析。

大数据挖掘发现能力

大数据分析的理论核心就是数据挖掘算法，被全世界统

计学家所公认的各种统计方法才能深入数据内部，更快速的

处理大数据，挖掘出公认的价值；如果一个算法得花上好几

年才能得出结论，那大数据的价值就减弱了。

大数据预测趋势能力

大数据分析最重要的应用领域之一就是预测性分析，从

大数据中挖掘出特点，通过科学的建立模型，之后便可以通

过模型带入新的数据，从而预测未来的数据。大数据语

义引擎能力

大数据分析广泛应用于网络数据挖掘，可从用户的搜索

关键词、标签关键词、或其他输入语义，分析，判断用户需

求。

大数据质量和管理能力

大数据分析离不开数据质量和数据管理，高质量的数据

和有效的数据管理，无论是在学术研究还是在商业应用领

域，都能够保证分析结果的真实和有价值。

1.2大数据分析技术

数据采集：ETL工具负责将分布的、异构数据源中的数

据如关系数据、平面数据文件等抽取到临时中间层后进

行清洗、转换、集成，最后加载到数据仓库或数据集市

中，成为联机分析处理、数据挖掘的基础。

数据存取：关系数据库、NOSQL、SQL等。

基础架构：云存储、分布式文件存储等。

数据处理：自然语言处理技术、人工智能等

统计分析：假设检验、显著性检验、差异分析、相关分

析、T检验、方差分析、卡方分析、偏相关分析、距离

分析、回归分析、简单回归分析、多元回归分析、逐步

回归、回归预测与残差分析、logistic回归分析、曲线估

计、因子分析、聚类分析、主成分分析、因子分析、快

速聚类法与聚类法、判别分析、对应分析、多元对应分

析（最优尺度分析）、bootstrap技术等。

数据挖掘：分类、估计、预测、相关性分组或关联规则、

聚类、描述和可视化、复杂数据类型(Text，Web，图

形图像，视频，音频等)挖掘。

模型预测：预测模型、机器学习、建模仿真。

结果呈现：云计算、标签云、关系图等。

1.3大数据存储技术和系统

在数据存储系统体系结构方面，以大量廉价服务器组成

无共享(shared-nothing)集群的方式逐渐成为主流。这种

体系结构易于实现高可用、高性能、渐进可扩展的存储系统，

并且由于存储资源与计算资源紧密耦合，在扩充存储容量的

同时，计算能力也能够同步增强，能够避免同时，计算能力也能够同步增强，能够避免存得下，算不

出出的问题。在软件方面，文件存储是最基本的数据存储

方式。文件存储的优点是访问接口简单，文件格式可以由

使用者灵活定义，因此文件存储往往作为更高级的数据管理

系统的底层存储服务。目前能够存储超大规模数据的文件

存储系统包括Lustre、Googlefilesystem(GFS)、Hadoop

distributedfilesystem(HDFS)以及AmazonS3等。它

们的共同特点是基于无共享架构、能够管理数百乃至数千存

储节点、自动维护数据冗余或副本、高并发顺序访问吞吐率

等。

1.4大数据业务模型建模

在更高级的数据管理方面，最重要的数据管理系统是以

关系数据模型为基础的关系数据库系统(RDBMS)。关系数据

模型最主要的优点之一是具有与一阶逻