大数据技术之kettle(2)——练习三个基本操做

1、同一数据库两表数据关联更新java

  实现效果:把stu1的数据按id同步到stu2stu2有相同id则更新数据mysql

  步骤:sql

  1.mysql中建立两张表:数据库

    mysql>create database kettle;测试

 

    mysql>use kettle;spa

 

    mysql>create table stu1 (id int ,name varchar(20),age int);3d

 

    mysql>create table stu2 (id int ,name varchar(20));code

 

  2.往两张表中插入一些数据:orm

    mysql>insert into stu1 values(1001,’zhangsan’,20),(1002,’lisi’,18),(1003,’wangwu’,23);对象

    mysql>insert into stu2 values(1001,’wukong’);

  3.kettle中新建转换,点击左上角文件—新建—转换到核心对象界面,点击输入,找到表输入拖拽到中间

    

 

    

   4.双击表输入,在数据库链接中配置mysql数据库链接(注意jarmysql-connector-java-5.1.34-bin.jar要放在kettlelib文件夹中)

 

    

 

 

    输入完信息后点击测试,显示正确链接。

 

    

    5.sql语句中输入select * from stu1;

 

    

    点击预览能够看到数据

 

 

    

 

 

 

 

    6.在输出中找到插入/更新组件拖拽到中间,点住表输入shift+鼠标左键链接到插入/更新组件上

 

     

 

 

     

    双击插入/更新,点击目标表浏览,选择stu2

    

 

    点击获取字段获取到3个字段

 

 

     

 

    因为stu1stu2经过id关联,故删除name和age字段,而后点击编辑映射,编辑2个表之间的映射

    

 

 

 

 

     肯定后如图:

       

    更新处,修改id的属性为n,肯定。而后保存运行,到数据库中查看结果。

 

 

    

 

 

 

 

     最后生成了一个文件,以下:

    

 

 

 

 

 

 

 

 

2、使用做业执行生成的转换文件

    实现效果:使用做业执行“一”中的转换,而且额外在表stu2中添加一条数据

    步骤:

    新建一个做业

    

 

   点击通用将start拖拽到做业中

    

 

 

     将转换拖拽过来,将start与转换相链接

 

     

 

    

    双击转换,选择以前作好的job

    

    左侧脚本中选择sql组件拖拽过来并链接

     

 

 

 

    新建链接配置mysql数据库,并写插入sql语句

       

    肯定,保存job并执行

 

 

 

3、将A数据库中的a表通过ETL过程导入B数据库中

  sql语句地址:https://pan.baidu.com/s/1Eba9TEO3UO9Fjaz522VONw

  实现效果:hr数据库中的employees表,通过ETL过程,导入到scott数据库中;将列FIRST_NAMELAST_NAME相连,中间用空格隔开,取名为“NAME”;将列PHONE_NUMBER中的区号加上括号(例如515.123.4567改成(515)123.4567),列名不变;在scott数据库中,该表的列名不变,表名改成dw_dim_employees

  实现步骤:

  1.双击桌面的 图标进入到kettleTransformation界面,双击转换切换到操做界面

   在核心对象目录树下找到输入,点击前面的展开三角,找到表输入组件拖入到右侧工做区

      一样的在输出中,找到表输出拖入到右侧工做区;在转换中找到字段选择拖入到右侧工做区。

 

  2.将这3个组件链接起来,先选中表输入,Shift+鼠标左键拖拽到字段选择上,再选中字段选择一样的Shift+鼠标左键拖拽到表输出上并选定为主输出步骤。

 

 

  3.双击表输入,数据库链接处点击新建,链接名称填写hr,链接类型选择mysql。。。与“上边一中的操做一致”

 

  4.点击下面测试,弹出正确链接数据库hr,点击肯定保存设置

 

 

 

在表输入的SQL框中输入以下SQL语句

 

SELECT EMPLOYEE_ID, CONCAT(FIRST_NAME, ' ', LAST_NAME) AS NAME , EMAIL , CONCAT('(', SUBSTR(PHONE_NUMBER, 1, 3), ')', SUBSTR(PHONE_NUMBER, 5)) AS PHONE_NUMBER , HIRE_DATE, JOB_ID, SALARY, COMMISSION_PCT, NAGER_ID , DEPARTMENT_ID FROM employees

 

 

  点击预览数据,确认无误后点击肯定关闭

 

  5.双击字段选择,点击获取选择的字段,获得10个字段后点击肯定关闭

 

     双击表输出,依然在数据库链接处点击新建

 

     在数据库链接界面填入以下信息:回到表输出界面,在目标表中填写表名:dw_dim_employees,勾选指定数据库字段,点击下面数据库字段点击获取字段。

 

     点击右下角SQL按钮,点击启动

 

          弹出保存提示,选择是,找到一个文件路径(如桌面/项目脚本),为job起个名字

 

     运行成功

相关文章
相关标签/搜索