载入中…
公告栏:
当前位置: 中国商业智能网 >> CIO >> ETL >> 文章正文
DataStage(ETL)技术总结
作者:佚名    来源:javaeye    点击数:    时间:2011-3-28
【摘要】数据整合的核心内容是从数据源中抽取数据,然后对这些数据进行转化,最终加载的目标数据库或者数据仓库中去,这也就是我们通常所说的 ETL 过程(Extract,Transform, Load)。 IBM WebSphere DataStage(下面简称为DataStage)为整个 ETL 过程提供了一个图形化的开发环境,它是一套专门对多种操作数据源的数据抽取、转换和维护过程进行简化和自动化,并将其输入数据集或数据仓库的集成工具。

通常数据抽取工作分抽取、清洗、转换、装载几个步骤:
    抽取主要是针对各个业务系统及不同网点的分散数据,充分理解数据定义后,规划需要的数据源及数据定义,制定可操作的数据源,制定增量抽取的定义。
清洗主要是针对系统的各个环节可能出现的数据二义性、重复、不完整、违反业务规则等问题,允许通过试抽取,将有问题的纪录先剔除出来,根据实际情况调整相应的清洗操作。
转换主要是针对 数据仓库建立的模型,通过一系列的转换来实现将数据从业务模型到分析模型,通过内建的库函数、自定义脚本或其他的扩展方式,实现了各种复杂的转换,并且支持调试环境,清楚的监控数据转换的状态。
    
装载主要是将经过转换的数据装载到数据仓库里面,可以通过数据文件直接装载或直连数据库的方式来进行数据装载,可以充分体现高效性。在应用的时候可以随时调整数据抽取工作的运行方式,可以灵活的集成到其他管理系统中。

一.数据源连接能力:
数据整合工具的数据源连接能力是非常重要的,这将直接决定它能够应用的范围。DATASTAGE 能够直接连接非常多的数据源,包括:
1
、 文本文件
2
XML 文件
3
、 企业应用程序,比如 SAPPEOPLESOFTSIEBELORACLE APPLICATION
4
、 几乎所有的数据库系统,比如 DB2ORACLESQL SERVERSYBASE ASE/IQTERADATAINFORMIX等以及可通过ODBC连接的数据库
5
WEB SERVICES
6
SASWEBSPHERE MQ

二.多国语言支持(NLS):
DATASTAGE
能够支持几乎所有编码,以及多种扩展编码(IBMNEC、富士通、日立等),可以添加编码的支持,DATASTAGE内部为UTF8编码。

三.并行运行能力:
ETL JOB
的控件大多数都支持并行运行,此外DATASTAGE企业版还可以在多台装有DATASTAGE SERVER的机器上并行执行,这也是传统的手工编码方式难以做到的。这样,DATASTAGE就可以充分利用硬件资源。而且,当你的硬件资源升级的时候也不用修改已经开发好的ETL JOB,只需要修改一个描述硬件资源的文件即可。并行执行能力是DATASTAGE所能处理数据的速度可以得到趋近于线性的扩展,轻松处理大量数据。

四.便捷的开发环境:
DATASTAGE
的开发环境是基于 C/S 模式的,通过 DATASTAGE CLIENT 连接到DATASTAGE SERVER 上进行开发。这里有一点需要注意,DATASTAGE CLIENT 只能安装在 WINDOWS 平台上面(WIN2000/XP上运行过)。而 DATASTAGE SERVER 则支持多种平台,比如 WINDOWSSOLARISREDHAT LINUXAIXHP-UNIX(WINXP/SOLARIS8上运行过)
DATASTAGE CLIENT
有四种客户端工具。分别是 DATASTAGE ADMINISTRATORDATASTAGE DESIGNERDATASTAGE MANAGERDATASTAGE DIRECTOR。下面介绍这几种客户端工具在 DATASTAGE 架构中所处的位置以及它们如何协同工作来开发 ETL JOB 的。
(1) DATASTAGE ADMINISTRATOR
DATASTAGE ADMINISTRATOR
的主要功能有以下几个:
1
. 设置客户端和服务器连接的最大时间。
以管理员的身份登陆 DATASTAGE ADMINISTRATOR(默认安装下管理员为DSADM)。你可以设置客户端和服务器的最大连接时间,默认的最大连接时间是永不过期。最大连接时间的意思就是如果客户端和服务器的连接时间超过了最大连接时间,那么客户端和服务器之间的连接将被强行断开。

2. 添加和删除项目
PROJECTS标签中,可以新建或者删除项目,以及设置已有项目的属性。要用 DATASTAGE 进行 ETL 的开发,首先就要用 DATASTAGE ADMINISTRATOR 新建一个项目,然后在这个项目里面进行 ETL JOB 的开发。
PROPERTY,能够设置该PROJECT全局设置、用户权限以及LICENSE的管理

(2) DATASTAGE DESIGNER
DATASTAGE DESIGNER
ETL JOB开发的核心环境。值得注意的是,登陆DATASTAGE DESIGNER 的时候,不仅要指定DATASTAGE SERVER IPSERVER名,而且要指定连接到这个DATASTAGE SERVER上的哪个项目上面,上面已经提到DATASTAGE的项目是由DATASTAGE ADMINISTRATOR 来创建的。

DATASTAGE DESIGNER的主要功能可以概括为以下三个方面:
1
ETL JOB的开发
DATASTAGE DESIGNER
里面包含了DATASTAGEETL开发已经构建好的组件, 主要分为两种,一种是用来连接数据源的组件,另一种是用来做数据转换的组件。此外DATASTAGE还提供自定义函数(BASIC),利用这些组件,开发人员可以通过图形化的方式进行ETL JOB的开发,此外ETL JOB支持参数的传递。

2 ETL JOB的编译
开发好ETL JOB后,可以直接在DATASTAGE DESIGNER里面进行编译。如果编译不通过,编译器会帮助开发人员定位到出错的地方。

3 ETL JOB的执行
编译成功后,ETL JOB就可以执行了,在DATASTAGE DESIGNER里面可以运行ETL JOBETL JOB的运行情况可以在DATASTAGE DIRECTOR中看到,这方面的内容将在介绍DATASTAGE DIRECTOR的时候提到。

4. ETL JOBDEBUG
ETL JOB
可以在DESIGNER中设置断点,跟踪监视JOB执行时的中间变量。

5. ETL JOB REPORT的生成
可以为ETL JOB生成文档报告,该报告非常详细,只通过该报告,就可以完全了解该JOB的结构与处理过程,非常便于分析。

DATASTAGE提供很多实用的控件,常用的控件有:
1. DB
操作控件
主要用于各种DB的连接,连接方式有多种,有面向厂家的NATIVE方式,如SYBASEOPENCLIENT方式,也有通用的ODBC等方式,此外也有些比较特别的DB操作控件,如SYBASEIQ LOADBCP控件,主要用于数据的快速导入和导出。

2. 文件操作控件
常用的有SEQUENTIAL FILEHASHED FILE, SEQUENTIAL FILE是可指定编码形式和格式的CSV文件,HASHED FILE主要是为了加快检索效率,而替代DB控件的一种比较好的选择,这两种控件可用于输入或输出。

3.处理控件
主要的处理空间有TRANSFORMERAGGREGATOR, TRANSFORMER是负责数据转换的关键控件,在该控件中可以调用一些自定义函数,AGGREGATOR是用于统计的控件,非常类似于SQL中的 GROUP BY,也提供COUNTMAXMINSUM的统计操作,还支持如FIRSTLASTAVERAGE等操作。

DATASTAGEETL JOB分类:
1. SERVER JOB
最为常用的JOB类型,JOB可以组合使用,SERVER JOBJOB的最小单位。

2. JOB SEQUENCE
JOB SEQUENCE
主要用于JOB间的协作工作控制,如各JOB的实行流程,出错处理,文件监控等。
3. JOB CONTROL
JOB CONTROL
是一种特殊的SERVER JOB,这种SERVER JOB不是通过DESIGNER来设计的,而是直接通过DATASTAGE内嵌支持的BASIC语言来开发,因此方式更为灵活,完全可以利用JOB CONTROL替代JOB SEQUENCE,至少在出错处理和LOG输出等方面要灵活很多。(我参与开发的一个项目中完全用JOB CONTROL替代了JOB SEQUENCE,做出了更为详细的LOG输出)

(3) DATASTAGE MANAGER
DATASTAGE MANAGER
主要用来管理项目资源。一个项目可能包含多个ETL JOB,可以用DATASTAGE MANAGER把一个项目里面的ETL JOB导出来。然后再用DATASTAGE MANAGER导入到另外一个项目中去,利用这个功能一方面可以实现ETL JOB的备份,另一方面就是可以在多个项目之间来重复使用开发好的ETL JOB。在DATASTAGE MANAGER里面可以把数据库中的表结构直接导入到项目中来,供这个项目中的所有ETL JOB使用。DATASTAGE DESIGNER也提供了从数据库中直接导入表结构的功能。

(4) DATASTAGE DIRECTOR
DATASTAGE DIRECTOR
主要有以下两个功能:
1
. 监测ETL JOB的运行状态
ETL JOB
DATASTAGE DESIGNER中编译好后,可以通过DATASTAGE DIRECTOR来运行它。前面在介绍DATASTAGE DESIGNER的时候提到在DATASTAGE DESIGNER中也可以运行ETL JOB,但是如果要监测ETL JOB的运行情况还是要登陆到DATASTAGE DIRECTOR中。在这里,你可以看到ETL JOB运行的详细的日志文件,还可以查看一些统计数据,比如ETL JOB每秒所处理的数据量。

2. 设置何时运行ETL JOB
ETL JOB
开发完成后,我们可能希望ETL JOB在每天的某个时间都运行一次。DATASTAGE DIRECTOR为这种需求提供了解决方案。在DATASTAGE DIRECTOR中可以设置在每天、每周或者每月的某个时间运行ETL JOB(WINDOWS平台下需要打开的TASK SCHEDULER服务,此外,UNIX等平台下,更常用的是用CRON结合DSJOB命令来定时运行ETL JOB)

五.命令行形式的运行:
ETL JOB支持在DATASTAGE SERVER侧用命令行形式的调用,可以用DSADMIN命令来管理DATASTAGEPROJECT,包括PROJECT的新建,删除以及一些环境变量的增删(DATASTAGE 7.5.1下未能通过DSADMIN来设置全局NLS和一些项目属性)。使用DSJOB命令,能够同步或非同步的运行DATASTAGEJOB,并传递需要的JOB参数,能够检查JOB运行的状态,并能恢复JOB的运行状态。

. DATASTAGE的不足:
以上都是说DATASTAGE优点,但实际上DATASTAGE也有不少缺点和不足,这些不足点,会直接影响到能否采用DATASTAGE来达到我们的客户或设计要求。下面就谈一下,最近利用DATASTAGE7.5.1来开发一个项目中遇到的问题。
1
.缺点:
存在一个BUG,在利用DB控件的参照功能时,如果指定的SQL文有错误的话,那可能会直接造成DATASTAGE出错,然后客户端会和服务端直接断开,需要关闭客户端,重新连接服务端,并且更为严重的是,DB连接将不会被释放(可能是服务器端的执行进程并没有停掉的缘故)
DATASTAGE
的表定义的使用,可以通过PLUGIN的方式导入,但是导入后基本就只起一个模版的作用,当表结构发生改变而需要修改表定义时,使用该表定义的地方并不能同步,需要手动修改,容易出现遗漏。
2
.不足:
一些高级控件的功能不够全面,在实际应用时,会出现不能完全利用DATASTAGE提供的控件来满足要求,如:SYBASEBCP DATASTAGESYBASE BCP控件只支持导出,无法支持导入。当然这些不足,后来我都使用JAVA API来实现了SYBASE BCPSYBASE IQ LOAD
错误处理功能不够,DATASTAGE对业务错误,如:检索0件等错误,很难捕获和处理。
某些应用要求无法满足,如需要对DB某表的某数据进行状态监视,这时,由于DATASTAGE只有监视文件的功能,DB访问也只有DB控件才可以,因此该应用最后也是用JAVA来实现。

责任编辑:朱莉   
 
  • 上一篇文章: 没有了

  • 下一篇文章:
  • 发表评论】【加入收藏】【告诉好友】【打印此文】【关闭窗口
    ChinaBI版权、投稿与免责申明:
    1)凡本网署名文字、图片和音视频稿件,版权均属中国商业智能网所有。任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经本网协议授权的媒体、网站,在下载使用时必须注明稿件来源:中国商业智能网,违者本网将依法追究责任。
    2)本网注明“本站来源处不写本站原创”的文章均为转载稿,本网转载出于传递更多信息之目的。如本网转载稿涉及版权等问题,请作者速来电或来函与本网联系。
      网友评论:(只显示最新10条。评论内容只代表网友观点,与本站立场无关!)
    最新热点
    娱乐资讯
    最新推荐
    网站合作、内容监督、商务咨询、投诉建议 电话:0512-62861389  邮箱:chianbi@126.com
    Copyright 2004-2014 中国商业智能网版权所有   |    苏 ICP 备 13004727 号