一、实验背景

1.1 实验目的

        本次实验旨在通过实际操作,熟悉助睿零代码数据集成平台(ETL 平台)的核心功能与操作方法,培养使用零代码工具完成数据加工任务的能力,具体包括:

  • 掌握新建转换、添加组件、执行转换等基本操作流程
  • 熟悉表输入、记录集连接、字段选择、过滤记录、Excel 输出等常用组件的配置方法
  • 理解多表关联、数据过滤与分流处理的 ETL 设计思路

        通过本次实验,学生能够独立使用助睿平台完成常见的数据加工任务,为后续更复杂的数据处理场景打下基础。

1.2 实验环境

  • 零代码在线实验平台:本次实验使用助睿数智(Uniplore)作为一站式数据科学平台。该平台覆盖从数据接入、ETL 处理、机器学习建模到可视化展示的全链路零代码功能,适用于数据分析教学与企业数据加工场景。产品官网为 https://www.uniplore.com/ ,本次实验的访问地址为 https://lab.guilian.cn/ 。
  • 数据库:MySQL(含订单数据和产品信息表)
  • 数据准备:订单表(business_anaylsis.order_detail)、产品表(business_anaylsis.product)

1.3 业务场景

        在企业经营分析中,经常需要将多张表关联起来计算利润,并按利润正负对订单进行分类存储,以便后续分别制定盈利产品的推广策略和亏损产品的改进方案。本实验以订单利润分流为例,通过零代码拖拽方式完成这一数据处理任务。

1.4 数据加工流程

        订单明细表与产品信息表进行左外连接,移除重复字段,按利润是否大于等于零进行分流,最后分别输出盈利订单和亏损订单到两个 Excel 文件。

图1-1 数据加工流程图

二、实验步骤

2.1 登录实验平台

        在贵兰在线对应的课程学习页面,点击[实验课1:助睿ETL入门实验],

2-1 课程学习页面入口

        点击课程实训说明中的[大数据实训平台],即可前往实验地址 https://lab.guilan.cn/

        从贵兰在线进入实验平台可以自动登录,登录成功后进入实验平台首页。

图2-2 登录成功后的平台首页

2.2 基本概念了解

        助睿一站式大数据平台中的数据集成平台,通过可视化方式做数据 ETL(抽取、转换、加载)。核心概念如下:

概念

说明

Pipeline(转换)

面向数据流,处理数据的一个功能单元,由多个 Transform 组成

Workflow(作业)

面向任务,完成一件完整的事,由多个 Action 组成,必须包含开始项

Transform(步骤)

转换内的最小单元,如[Excel输入][字段选择],每个步骤独立线程运行

Action(任务项)

作业的执行单位,如[启动]、[发送邮件]

Hops(节点连接)

数据传输通道,连接步骤或任务项

2-3 转换工作流与作业工作流示意图

2.3 团队管理

        在该环节,每个小组的组长可以创建该小组的团队,方便团队实验作业的管理。进入实验平台后,选择[数据集成/ETL],进入数据集成页面。

图2-4 数据集成页面

操作步骤:

  • 点击[团队管理]菜单,并点击[新增团队]
  • 在弹出的窗口中输入团队名称和团队描述,点击[确认]

图2-5 新增团队窗口

  • 创建成功后,点击团队卡片右上角的[更多],选择[添加成员]
  • 输入手机号查询组员,勾选后点击[添加]即可

图2-6 添加成员操作

2.4 创建实验项目

        平台提供默认项目,可以使用默认项目进行实验,但为了方便管理,可以为课程创建专属项目。选择创建的项目所属团队为[商业数据分析小组1](也可以是个人)。

操作步骤:

  • 点击[新建项目]
  • 输入项目名称后点击[确定]
  • 创建成功后即可在数据集成页面看到新创建的项目

图2-7 新建项目操作

图2-8 项目创建成功页面

2.5 同步数据源

项目创建成功后点击该项目右上角的[...],点击[打开项目]。

在项目页面,可以看到左侧有3个菜单:资源库、文件、元数据。

资源库用于对工作流的管理,包括新建、删除、修改、查看工作流的信息;导出导入工作空间;调度管理等操作。

文件库用于保存工作流中需要用到的文件和工作流产生的文件。

元数据管理是数据集成的重要基石,可以为工作流定义[运行配置]、[数据库]、[flink集群]等配置。

本次实验主要用到资源库和文件库。

图2-9 项目页面三个菜单(资源库、文件、元数据)

        同步数据源操作:点击[元数据],右键根[关系数据库],点击[同步数据源]。

图2-10 同步数据源操作

        切换[文件库]菜单再切换回到元数据,可以看到成功同步的数据库[线上公共数据源(Readonly)]。

图2-11 同步成功后的数据库显示

2.6 新建转换流

        本次实验将创建[订单利润分流处理]转换流,实现订单数据与产品信息的关联,并根据利润正负将数据分流为盈利订单和亏损订单,分别输出到两个 Excel 文件。

        整体逻辑:订单明细表 -> 左外连接产品信息表 -> 移除重复 ID 字段 -> 按利润>=0 分流 -> 盈利订单/亏损订单分别输出

组件

作用

表输入(订单/产品)

读取原始数据

记录集连接

按产品 ID 关联两表

字段选择

移除重复的 ID 字段

过滤记录

根据利润正负分流

Excel 输出

分别输出盈利/亏损订单

        新建转换流具体操作:切换到资源库,右键根目录,点击[新建转换流],创建成功后进入转换流设计页面。

图2-12 新建转换流操作

输入转换流名字[订单利润分流处理],点击[确定]。

图2-13 命名转换流窗口

        转换流设计页面每次打开都是锁定状态,需要解锁后才可编辑转换流,点击解锁图标进行解锁。

2-14 转换流设计页面(锁定状态)

2.7 添加组件

        在建立转换任务后,可添加相应操作组件到转换任务中。以订单数据(business_anaylsis.order_detail)和产品信息数据(business_anaylsis.product)生成盈利订单数据和亏损订单数据为例来构建转换任务,按如下顺序向转换中添加组件:

(1)添加表输入组件

        本次实验需要将两类数据进行合并计算,所以需要添加2个表输入组件,读取2个不同表的数据。点击[组件库],通过关键字搜索快速获取组件。在搜索输入框中输入[表输入],即可查询到[表输入]组件。将表输入组件拖拽至画布中,重复操作添加第二个表输入组件。

图2-15 搜索表输入组件

图2-16 拖拽表输入组件至画布

        右键表输入组件,点击[编辑组件],修改步骤名称。第一个修改为[订单_详细订单],第二个修改为[订单_产品信息]。

图2-17 编辑表输入组件名称

图2-18 两个表输入组件命名完成

(2)添加记录集连接组件

        使用表输入组件读取数据后,需要通过记录集连接组件将表输入组件的数据进行关联。在搜索框中输入[记录集连接],将记录集连接组件拖拽至画布中。创建两个表输入组件到记录集连接组件的连接线。在建立连接线时,会出现[排序需要]的提示,这是由于记录集连接组件是按接收数据的顺序进行记录关联的,如果接收的数据是无序的,可能会造成记录连接结果出错。

图2-19 记录集连接组件及连接线

(3)添加字段选择组件

        两个表数据进行连接后,会出现重复的字段[产品ID]。我们可以通过[字段选择]组件移除这个多余字段。在搜索框中输入[字段选择],将字段选择组件拖拽至画布中。将字段选择组件名字修改为[移除产品ID_1字段]。创建记录集连接组件到字段选择组件的连接线。

图2-20 字段选择组件命名

图2-21 记录集连接到字段选择的连接线

(4)添加过滤记录组件

        本次实验是根据订单的利润情况对订单进行分流。使用[过滤记录]组件可以根据记录中某个字段的值进行记录分流。在搜索框中输入[过滤记录],将过滤记录组件拖拽至画布中。创建字段选择组件到过滤记录组件的连接线。在选择连接线的弹窗中点击[主输出步骤],因为在进行字段选择操作时,可能有记录不满足要求,导致记录被标记为错误,主输出步骤表示满足要求的记录通过该连接线传输数据。

2-22 过滤记录组件及连接线

(5)添加 Excel 输出组件

        记录经过[过滤记录]组件后会被分成2个记录流。在本次实验中,我们选择将记录输出到 Excel 文件中。在搜索框中输入[excel输出],将2个 Excel 输出组件拖拽至画布中。2个 excel 输出组件分别命名为[盈利订单]和[亏损订单],并创建过滤记录组件到两个 Excel 输出组件的连接线,在选择连接线类型的弹窗中分别选择[True输出]和[False输出]。[True输出]表示满足过滤条件的记录输出,[False输出]表示不满足过滤条件的记录输出。图2-23 两个Excel输出组件及连接线

至此,一个完整的转换任务流程构建完毕。

图2-24 完整的转换任务流程图(全景)

2.8 配置组件信息

        组件添加完成后需要对其进行相应配置。

2.8.1 表输入组件配置

        双击[订单_详细订单]表输入组件,弹出组件配置页面。在数据库连接下拉框中选择已同步的[线上公共数据源(Readonly)],点击[获取SQL查询语句],自动生成 SQL 查询语句。图2-25 订单_详细订单表输入配置

        点开[线上公共数据源(Readonly)]-[表]目录,下滑找到[business_anaylsis.order_detail]并点击它,再点击[确定],

图2-26 选择数据库中的订单表

        在系统提示弹窗中点击[确认]。系统自动填写了完整的 SQL 查询语句,点击[确认]。

图2-27 SQL查询语句自动生成

        同理,另一个[订单_产品信息]表输入也参考上述配置,获取[business_anaylsis.product]的 SQL 查询语句。

图2-28 订单_产品信息表输入配置

2.8.2 记录集连接组件配置

        双击记录集连接组件,在下拉列表中选择需要连接的数据来源。第一个 Transform 选择[订单_详细订单],第二个 Transform 选择[订单_产品信息],连接类型选择 LEFT OUTER。图2-29 记录集连接组件配置(选择Transform和连接类型)

        点击第一个 Transform 的连接字段中的[获得连接字段]按钮,获取订单_详细订单的字段。

2-30 获取第一个Transform的连接字段

        同理获取第二个 Transform 的连接字段。

图2-31 获取第二个Transform的连接字段

        第一个 Transform 字段保留 produc_id,第二个 Transform 的字段保留 id,连接类型选择 LEFT OUTER,表示使用订单_详细订单的字段 produc_id 与订单_产品信息的字段 id 进行左外连接。删除各自保留字段外的其他字段,点击[确认]。

图2-32 删除多余字段后的配置结果

2.8.3 字段选择组件配置

        通过记录集连接后,字段 produc_id 与字段 id 内容相同,只需要保留一个。双击[移除产品ID_1字段]字段选择组件,点击[移除],并点击[获取字段]。在获取的字段中选中除[id]字段以外的字段,右键点击[删除选中的行]。可以看到字段[id]已被删除,点击[确认]。

图2-33 字段选择组件配置(获取字段)

图2-34 删除id字段后确认

2.8.4 过滤记录组件配置

        双击[过滤记录]组件,在弹窗中的下拉列表中选择将结果发送给不同的后续处理步骤。

图2-35 过滤记录组件配置(选择字段)

        选择字段利润(profit)来作为判断字段,选中[profit(Number)]后点击[确定]。设置判断条件为 >=0:点击[=],在函数中选择[>=],点击[确定]。

图2-36 设置过滤条件 >=0

        点击[value],值类型选择[Integer],值输入[0],点击[确定]。至此过滤条件已配置完成,点击[确认]。

图2-37 设置比较值 0

2.8.5 Excel 输出组件配置

        双击[盈利订单] Excel 表输出组件,在配置弹窗中,文件名修改为[盈利订单],选择文件拓展名[xlsx (Excel 2007 and above)]。[亏损订单]的 Excel 组件也进行同样的设置,文件名修改为[亏损订单]。

图2-38 Excel输出组件配置(文件名和拓展名)

        点击[输出字段],在空白表格处右键点击[获取字段],字段获取后,点击[确认]。

图2-39 Excel输出字段配置

2.9 执行转换

        组件配置完成后,可执行转换任务。点击启动按钮,在弹出的窗口中点击[启动]。执行成功后平台显示成功状态。

图2-40 点击启动按钮执行转换

图2-41 转换执行成功

2.10 查看执行日志

        任务执行过程中,会将相关操作记录到日志中。任务执行完毕后,可查看执行结果及日志。

图2-42 执行日志面板

2.11 查看结果

        点击[文件库],右键根目录刷新,可以看到转换任务的输出结果:盈利订单和亏损订单,可以右键下载查看。

图2-43 文件库中导出结果展示

三、实验结果

输出文件

内容

说明

盈利订单.xlsx

profit >= 0 的订单

可进一步分析高利润产品

亏损订单.xlsx

profit < 0 的订单

可用于亏损原因追踪

        实验成功实现了订单数据从多表关联到按利润正负分流的完整 ETL 处理流程,输出的盈利订单和亏损订单数据文件结构清晰、字段完整,为后续分别开展盈利产品深度分析和亏损原因追踪提供了规范的数据基础。

图2-44盈利订单导出结果展示

图2-45亏损订单导出结果展示

四、核心组件说明

组件

作用

本实验配置要点

表输入

读取数据库表

配置数据源和 SQL,自动获取字段

记录集连接

多表关联

选择连接类型和连接字段

字段选择

字段筛选与重命名

移除重复的 id 字段

过滤记录

按条件分流

设置 profit >= 0

Excel 输出

导出结果

配置文件名和输出字段

五、问题与解决

        在实验过程中主要遇到以下两个问题,通过排查与分析均已解决:

问题1Excel 输出获取不到字段

解决方法:配置 Excel 输出时点击[获取字段]没有反应。原因是过滤记录到 Excel 输出的连接线类型选错了,盈利订单应连接[True输出],亏损订单应连接[False输出]。重新创建连接线并正确选择后恢复正常。

问题2Excel 输出组件因文件名相同导致执行报错

解决方法:配置完两个 Excel 输出组件后执行转换,系统报错。检查发现两个组件的默认输出文件名都是[file],没有修改。两个输出步骤使用了相同的文件名,导致平台无法区分。将盈利订单和亏损订单的[文件名]分别修改为[盈利订单]和[亏损订单]后,重新执行正确。

六、实验总结

        通过本次实验,全面熟悉了助睿零代码 ETL 平台的基本操作方法,涵盖项目创建、数据源同步、转换流构建、组件配置、任务执行以及结果查看等全流程。掌握了表输入、记录集连接、字段选择、过滤记录、Excel 输出等常用组件的配置方法,理解了多表关联和条件分流在数据处理中的应用。

        相比传统编写 SQL 脚本或代码的数据处理方式,助睿平台提供的零代码可视化操作界面更加直观高效,组件之间的数据流向清晰可见,便于实时调试和快速定位问题。对于初学者而言,这种拖拽式交互方式显著降低了数据处理的学习门槛,能够快速上手并完成常见的企业数据加工任务。

        零代码 ETL 平台为数据分析工作提供了高效便捷的工具支持,后续可在此基础上进一步开展数据挖掘与可视化分析,深入洞察企业经营状况。

Logo

一站式 AI 云服务平台

更多推荐