ETL数据库
ETL，是英文 Extract-Transform-Load 的缩写，用来描述将数据历来源端通过抽取（extract）、转换（transform）、加载（load）至目的端的过程。ETL一词较经常使用在数据仓库，但其对象并不限于数据仓库。服务器
ETL是构建数据仓库的重要一环，用户从数据源抽取出所需的数据，通过数据清洗,最终按照预先定义好的数据仓库模型，将数据加载到数据仓库中去。架构
ETL在转化的过程当中，主要体如今如下几方面:性能
- 空值处理：可捕获字段空值，进行加载或替换为其余含义数据，并可根据字段空值实现分流加载到不一样目标库。
- 规范化数据格式：可实现字段格式约束定义，对于数据源中时间、数值、字符等数据，可自定义加载格式。
- 拆分数据：依据业务需求对字段可进行分解。例，主叫号 861082585313-8148，可进行区域码和电话号码分解。
- 验证数据正确性：可利用Lookup及拆分功能进行数据验证。例如，主叫号861082585313-8148，进行区域码和电话号码分解后，可利用Lookup返回主叫网关或交换机记载的主叫地区，进行数据验证。
- 数据替换：对于因业务因素，可实现无效数据、缺失数据的替换。
- Lookup：查获丢失数据 Lookup实现子查询，并返回用其余手段获取的缺失字段，保证字段完整性。
- 创建ETL过程的主外键约束：对无依赖性的非法数据，可替换或导出到错误数据文件中，保证主键惟一记录的加载。
ETL架构的优点：优化
- ETL能够分担数据库系统的负载（采用单独的硬件服务器）
- ETL相对于EL-T架构能够实现更为复杂的数据转化逻辑
- ETL采用单独的硬件服务器。.
- ETL与底层的数据库数据存储无关.
ELTspa
在ELT架构中，ELT只负责提供图形化的界面来设计业务规则，数据的整个加工过程都在目标和源的数据库之间流动，ELT协调相关的数据库系统来执行相关的应用，数据加工过程既能够在源数据库端执行，也能够在目标数据仓库端执行（主要取决于系统的架构设计和数据属性）。当ETL过程须要提升效率，则能够经过对相关数据库进行调优，或者改变执行加工的服务器就能够达到。通常数据库厂商会力推该种架构，像Oracle和Teradata都极力宣传ELT架构。架构设计
ELT架构的优点：设计
- ELT主要经过数据库引擎来实现系统的可扩展性（尤为是当数据加工过程在晚上时，能够充分利用数据库引擎的资源）
- ELT能够保持全部的数据始终在数据库当中，避免数据的加载和导出，从而保证效率，提升系统的可监控性。
- ELT能够根据数据的分布状况进行并行处理优化，并能够利用数据库的固有功能优化磁盘I/O。
- ELT的可扩展性取决于数据库引擎和其硬件服务器的可扩展性。
- 经过对相关数据库进行性能调优，ETL过程得到3到4倍的效率提高通常不是特别困难。