SAPBI项目FIAR模块ETL设计说明书分析.doc

SAP BI 项目 FIAR模块ETL设计说明书  当前版本: 拥有者: 最后更新日期: 最后更新者: 作者: 创建日期: 批准者: 批准日期:  修订历史 版本号 更新日期 修订作者 主要改变描述 目录 1. 概述 5 2. ETL系统架构设计 6 2.1 FIAR ETL系统逻辑架构 6 2.2 FIAR ETL数据流 7 2.2.1 顶正逾期账龄分析数据流 7 2.2.2 数据源环境 7 3. FIAR模型设计 9 3.1 PSA设计 9 3.1.1 PSA数据源 9 3.1.2 信息包 9 3.2 Level 1 ODS层设计 10 3.2.1 FI_D120：客户: 带有增量提取的行项目 10 3.3 Level 2 EDW层设计 12 3.3.1 顶正-逾期账龄分析 12 3.4 Level 3 DM层设计 23 3.4.1 DTP 25 3.4.2 转换 26 4. 数据加载流程 32 概述 本项目ETL部分的核心功能就是按照本设计说明书的架构，将数据由数据源系统(SAP R3)加载到数据仓库(SAP BW)中。其实现的困难在于ETL工作将面临复杂的源数据环境，包括多种R3标准数据源和增强结构、繁多的数据种类、巨大的加载数据量、错综复杂的数据关系和参差不齐的数据质量，这些都使ETL的架构和应用设计面临相当的挑战。 通过高效的ETL系统结构、层次化的应用功能划分和BW标准的元素，ETL系统和应用架构设计需要能够达到以下目标： 支持在此框架下实现BW数据仓库所需要的ETL功能； 支持在规定的时间窗口内能够完成数据加载工作，即需要满足日常数据加载的性能需求； 能够支持有效的应用程序开发模式，提高开发效率，尽量减少应用开发成本； 减少系统维护的复杂性，支持后续增加新数据或功能的开发工作。 ETL设计说明书为ETL开发提供指导，着重叙述数据仓库系统ETL系统的架构、功能和实施过程，其中包含了主要数据转换过程以及涉及到的客户化例程的说明。 ETL过程依赖于源数据的准备就绪，本设计说明书同时也列出了模块所对应的SAP标准数据源和主数据数据源。 由于ETL的复杂性，本设计尝试从多个层面进行说明，希望能够尽可能回答开发过程中所面临的问题达到指导开发的目的，但实际开发过程中，开发人员仍然可能遇到设计说明书没有涉及的问题，因此，遵循设计的基本思想，通过开发人员的反馈，在开发的过程中不断地完善和修正设计，对于ETL的开发是非常重要的。对于任何ETL开发过程中遇到的技术问题，开发人员需要与设计人员协商讨论，以迅速解决问题，保证开发顺利进行。 而同时，为保证ETL系统架构的完整、统一、程序的可维护性以及开发的可管理性，对设计的修改必须得到控制，重要的变动必须通过版本管理流程来协调进行。 本设计说明书将包括以下部分： 架构设计：设计对应模块ETL系统的逻辑架构以及分析数据流。 ETL过程说明：包括ETL过程涉及到的各步骤说明，如信息包的更新机制，转换过程中涉及到的特定例程控制，DTP的执行和更新机制等等。 数据加载流程：说明了对于本模块而言在运行特定步骤之前需满足的条件。 ETL系统架构设计 FIAR ETL系统逻辑架构 上图是ETL系统逻辑架构。从宏观设计上，历史数据、初始数据加载和日常数据加载的ETL都将按照此架构设计。该架构将ETL作为一个整体来设计。 对于数据仓库的加载，ETL分为数据抽取（Extract）、数据转换（Transform）以及数据加载（Load）3个阶段。 FIAR ETL数据流 顶正逾期账龄分析数据流 数据源环境 数据源全部由SAP系统提供，数据源包括两种类型 业务数据数据源 0FI_AR_4——客户：带有增量提取的行项目 0FI_GL_4——总分类账：带有增量提取的行项目 2LIS_13_VDITM——开票凭证项目数据 主数据数据源 0CUST_SALES_ATTR——客户号 0MATERIAL_ATTR——物料（属性） FIAR模型设计 PSA设计 PSA数据源 FIAR模型的PSA业务数据源包含0FI_AR_4，并且使用0FI_GL_4得到凭证对应的业务范围，使用2LIS_13_VDITM得到销售给客户的物料类型，从而给客户分类； 信息包 0FI_AR_4信息包包含增量、全量及初始化信息包 初始化信息包 增量信息包：此信息包放在处理链里 全量信息包 Level 1 ODS层设计 FI_D120：客户: 带有增量提取的行项目 FI_D120是写优化DSO，其结构与PSA一样，存储最原始的财务凭证，其结构如下：