助睿实验作业1-订单利润分流数据加工
《订单利润分流数据加工实验报告》 摘要:本实验基于助睿零代码ETL平台,完成了订单利润分流的数据加工任务。实验通过表输入组件读取MySQL中的订单和产品数据,利用记录集连接组件进行左外关联,经字段选择组件去除冗余字段后,使用过滤记录组件按利润正负值分流,最终输出为盈利/亏损两个Excel文件。实验过程中解决了连接线类型错误、文件名冲突等典型问题,验证了可视化ETL工具在数据清洗、多表关联和条件分流
助睿实验作业1-订单利润分流数据加工
一、实验背景
1.1 实验目的
本次实验旨在熟悉助睿零代码数据集成平台(ETL平台)的核心功能和操作方法,具体包括:
- 掌握新建转换、添加组件、执行转换等基本操作流程
- 熟悉表输入、记录集连接、字段选择、过滤记录、Excel输出等常用组件的配置方法
- 理解多表关联、数据过滤与分流处理的ETL设计思路
通过本次实验,学生能够独立使用助睿平台完成常见的数据加工任务,为后续更复杂的数据处理场景打下基础。
1.2 实验环境
零代码在线实验平台:本次实验使用助睿数智(Uniplore)作为一站式数据科学平台。该平台覆盖从数据接入、ETL处理、机器学习建模到可视化展示的全链路零代码功能,适用于数据分析教学与企业数据加工场景。产品官网为 https://www.uniplore.com/ ,本次实验的访问地址为 https://lab.guilian.cn/ 。
数据库:MySQL(含订单数据和产品信息表)
数据准备:订单表(business_anaylsis.order_detail)、产品表(business_anaylsis.product)
1.3 业务场景
在企业经营分析中,经常需要将多张表关联起来计算利润,并按利润正负对订单进行分类存储。本实验以订单利润分流为例,通过零代码拖拽方式完成这一数据处理任务。
1.4 数据加工流程
订单明细表与产品信息表进行左外连接,移除重复字段,按利润是否大于等于零进行分流,最后分别输出盈利订单和亏损订单到两个Excel文件。

二、实验步骤
3.1 登录实验平台
在贵兰在线对应的课程学习页面,点击"实验课1:助睿ETL入门实验"
点击课程实训说明中的"大数据实训平台",即可前往实验地址 https://lab.guilian.cn/
从贵兰在线进入实验平台可以自动登录,登录成功后进入实验平台首页
3.2 基本概念了解
是什么:助睿一站式大数据平台中的数据集成平台,通过可视化方式做数据ETL(抽取、转换、加载)。
|
概念 |
说明 |
|
Pipeline(转换) |
面向数据流,处理数据的一个功能单元,由多个Transform组成 |
|
Workflow(作业) |
面向任务,完成一件完整的事,由多个Action组成,必须包含开始项 |
|
Transform(步骤) |
转换内的最小单元,如"Excel输入"、"字段选择",每个步骤独立线程运行 |
|
Action(任务项) |
作业的执行单位,如"启动"、"发送邮件" |
|
Hops(节点连接) |
数据传输通道,连接步骤或任务项 |
3.3 团队管理
在该环节,每个小组的组长可以创建该小组的团队方便团队实验作业的管理
进入实验平台后,选择数据集成/ETL,进入数据集成页面
点击"团队管理"菜单,并点击"新增团队"

在弹出的窗口中团队名称和团队描述,点击"确认"
创建成功后,点击团队卡片右上角的"更多",选择"添加成员"
输入手机号查询组员,勾选后点击"添加"即可
3.4 创建实验项目
平台提供默认项目,可以使用默认项目进行实验,但为了方便管理,可以为课程创建专属项目。
选择创建的项目所属团队为"商业数据分析小组1"(也可以是个人)
点击"新建项目"
输入项目名称后点击"确定"

创建成功后即可在数据集成页面看到新创建的项目
3.5 同步数据源
项目创建成功后点击该项目右上角"...",点击"打开项目"
在项目页面,可以看到左侧有3个菜单:资源库、文件、元数据

资源库用于对工作流的管理,包括新建、删除、修改、查看工作流的信息;导出导入工作空间;调度管理等操作
文件库用于保存工作流中需要用到的文件和工作流产生的文件
元数据管理是数据集成的重要基石,可以为工作流定义"运行配置"、"数据库"、"flink集群"等配置
本次实验主要用到资源库和文件库
首先获取本次的实验数据集:点击"元数据",右键根"关系数据库",点击"同步数据源
"

切换"文件库"菜单再切换回到元数据,可以看到成功同步的数据库"线上公共数据源(Readonly)"

3.6 新建转换流
本次实验将创建"订单利润分流处理"转换流,实现订单数据与产品信息的关联,并根据利润正负将数据分流为盈利订单和亏损订单,分别输出到两个Excel文件。
整体逻辑:订单明细表 → 左外连接产品信息表 → 移除重复ID字段 → 按利润≥0分流 → 盈利订单/亏损订单分别输出
各组件作用:
|
组件 |
作用 |
|
表输入(订单/产品) |
读取原始数据 |
|
记录集连接 |
按产品ID关联两表 |
|
字段选择 |
移除重复的ID字段 |
|
过滤记录 |
根据利润正负分流 |
|
Excel输出 |
分别输出盈利/亏损订单 |
新建转换流具体操作如下:
切换到资源库,同样右键根目录,点击"新建转换流"
输入转换流名字"订单利润分流处理",点击"确定"

创建成功后进入转换流设计页面
转换流设计页面每次打开都是锁定状态,需要解锁
后才可编辑转换流,点击��图标进行解锁
3.7 添加组件
在建立转换任务后,可添加相应操作组件到转换任务中。
下面以订单数据(business_anaylsis.order_detail)和产品信息数据(business_anaylsis.product)生成盈利订单数据和亏损订单数据为例来构建转换任务,按如下顺序向转换中添加组件:
(1)添加表输入组件
本次实验需要将两类数据进行合并计算,所以需要添加2个表输入组件,读取2个不同表的数据。
点击"组件库",由于组件库的组件数量较多,可以通过关键字搜索快速获取
在搜索输入框中输入"表输入",即可查询到"表输入"组件

将表输入组件拖拽至画布中
[图片]
再次拖拽表输入组件拖拽至画布中,即拖拽2个表输入组件至画布
右键表输入组件,点击"编辑组件"

修改步骤名称中为订单_详细订单,点击"确认",此时画布中的对应表输入组件被命名为"订单_详细订单"

同样的,另一表输入组件修改为订单_产品信息

(2)添加记录集连接组件
使用表输入组件读取数据后,需要通过记录集连接组件将表输入组件的数据进行关联。
在搜索输入框中输入"记录集连接",将记录集连接组件拖拽至画布中

创建两个表输入组件到记录集连接组件的连接线

在建立连接线时,会出现"排序需要"的提示。这是由于记录集连接组件是按接收数据的顺序进行记录关联的,如果接收的数据是无序的,可能会造成记录连接结果出错。

(3)添加字段选择组件
两个表数据进行连接后,会出现重复的字段"产品ID"。我们可以通过"字段选择"组件移除这个多余字段。
在搜索输入框中输入"字段选择",将字段选择组件拖拽至画布中
将字段选择组件名字修改为"移除产品ID_1字段"

创建记录集连接组件到字段选择组件的连接线
(4)添加过滤记录组件
本次实验是根据订单的利润情况对订单进行分流。使用"过滤记录"组件可以根据记录中某个字段的值进行记录分流。
在搜索输入框中输入"过滤记录",将过滤记录组件拖拽至画布中

创建字段选择组件到过滤记录组件的连接线

在选择连接线的弹窗中点击"主输出步骤"。由于在进行字段选择操作时,可能有记录不满足要求,导致记录被标记为错误。主输出步骤表示满足要求的记录通过该连接线传输数据。
(5)添加 excel 输出组件
记录经过"过滤记录"组件后会被分成2个记录流。我们可以根据业务需求将2个记录流输出到指定位置(文件、数据库表)。在本次实验中,我们选择将记录输出到 Excel 文件中。
在搜索输入框中输入"excel 输出",将2个表输出组件拖拽至画布中

2个excel 输出组件分别命名为"盈利订单"和"亏损订单",并创建过滤记录组件到两个excel 输出组件的连接线,在选择连接线类型的弹窗中分别选择"True输出"和"False输出"
"True输出"表示满足过滤条件的记录输出。
"False输出"表示不满足过滤条件的记录输出。

至此,一个完整的转换任务流程构建完毕,如下图所示:

3.8 配置组件信息
3.8.1 表输入组件配置
双击订单_详细订单表输入组件,弹出组件配置页面。在数据库连接下拉框中选择已同步的"线上公共数据源(Readonly)"如下图所示:

点击"获取SQL查询语句",自动生成SQL查询语句。

点开"线上公共数据源(Readonly)"-"表"目录
下滑找到"business_anaylsis.order_detail"并点击它,再点击"确定"
在系统提示弹窗中点击"确认"
系统自动填写了完整的SQL查询语句,点击"确认"。当自动生成的SQL语句无法满足业务需求时,也可以通过在文本框输入自定义SQL语句。表输入组件的其他配置参数保持默认即可,

另一个订单_产品信息表输入也参考上述配置,获取"business_anaylsis.product"的SQL查询语句



3.8.2 记录集连接组件配置
双击记录集连接组件,在下拉列表中选择需要连接的数据来源
第一个Transform选择订单_详细订单,第二个Transform选择订单_产品信息,连接类型选择LEFT OUTER

点击第一个Transform的连接字段中的"获得连接字段"按钮,即可获取表输入组件在订单_详细订单的查询到的字段
同样的,获取第二个Transform的连接字段
第一个Transform字段保留 produc_id,第二个Transform的字段保留 id,连接类型选择LEFT OUTER,表示使用订单_详细订单的字段 produc_id 与订单_产品信息的字段 id 进行左外连接
第一个Transform字段中除了 produc_id 外的其他字段,右键点击"删除选中的行",第一个Transform字段中除了id 外的其他字段,右键点击"删除选中的行"

删除完后,点击"确认",若删除错误,可重新获取连接字段再进行删除
[

3.8.3 字段选择组件配置
通过记录集连接后,我们可以发现,字段 produc_id 与字段id 内容相同,只需要保留一个,因此,需要使用"移除产品ID_1字段"字段选择组件的移除选项移除字段 id,具体操作如下:
双击"移除产品ID_1字段"字段选择组件,点击"移除",并点击"获取字段"

在获取的字段中选中除"id"字段以外的字段,右键点击"删除选中的行"

可以看到,字段"id"已被删除,点击"确认"


3.8.4 过滤记录组件配置
根据业务需求需要将盈利订单和亏损订单分开存储,两个订单可以使用字段利润来区分
双击"过滤记录"组件,在弹窗中的下拉列表中选择将结果发送给不同的后续处理步骤

选择字段利润(profit)来作为判断字段,选中"profit(Number)"后点击"确定"

>=0 作为判断条件,点击"=",在函数中选择">="",点击"确定"

点击"value",值类型选择"Integer",值输入"0"点击"确定"

至此,过滤条件已配置完成,点击"确认"

3.8.5 Excel 输出组件配置
将接收到的结果写入到Excel表中,双击"盈利订单"excel表输出组件,在配置弹窗中,文件名修改为"盈利订单",选择文件拓展名"xlsx [Excel 2007 and above]"

在配置弹窗中点击"输出字段",在空白表格处右键点击"获取字段"

字段获取后,点击"确认"
"亏损订单"的excel组件也进行同样的设置

3.9 执行转换
组件配置完成后,可执行转换任务,点击启动按钮

在弹出的窗口中点击"启动"
执行成功

3.10 查看执行日志
任务执行过程中,会将相关操作记录到日志中,任务执行完毕后,可查看执行结果及日志

3.11 查看结果
点击"文件库",右键根目录刷新,可以看到转换任务的输出结果:盈利订单和亏损订单,可以右键下载查看


三、实验结果
|
输出文件 |
内容 |
说明 |
|
盈利订单.xlsx |
profit ≥ 0 的订单 |
可进一步分析高利润产品 |
|
亏损订单.xlsx |
profit < 0 的订单 |
可用于亏损原因追踪 |
实验成功实现了订单数据的关联与分流处理,为后续的盈利分析提供了规范的数据基础。
四、核心组件说明
|
组件 |
作用 |
本实验配置要点 |
|
表输入 |
读取数据库表 |
配置数据源和SQL,自动获取字段 |
|
记录集连接 |
多表关联 |
选择连接类型和连接字段 |
|
字段选择 |
字段筛选与重命名 |
移除重复的id字段 |
|
过滤记录 |
按条件分流 |
设置profit ≥ 0 |
|
Excel输出 |
导出结果 |
配置文件名和输出字段 |
五、问题与解决
问题1:过滤记录到Excel输出的连接线类型选择错误,导致字段获取失败
在配置Excel输出组件时,点击"获取字段"按钮没有任何响应,无法读取上游传递的字段信息。经排查发现,从"过滤记录"组件到两个Excel输出组件的连接线类型选择有误。过滤记录组件会产生两条数据流——一条是满足过滤条件的数据("匹配"步骤),另一条是不满足条件的数据("不匹配"步骤)。最初创建连接线时未区分这两种类型,导致Excel输出组件无法正确接收到字段元数据。将盈利订单对应的连接线重新选择为"匹配"输出,亏损订单选择为"不匹配"输出后,字段获取功能恢复正常。
问题2:两个Excel输出组件文件名冲突,转换执行报错
完成所有组件配置后点击启动执行,系统报错中断。检查日志后发现,两个Excel输出组件的默认输出文件名均为系统自动生成的同名文件,平台在并行写入时无法区分两个输出目标,产生文件名冲突。手动将盈利订单的输出文件名修改为"盈利订单"、亏损订单修改为"亏损订单"后,重新执行转换,任务顺利完成。
问题3:记录集连接组件数据接收顺序不确定,关联结果可能异常
在建立表输入组件到记录集连接组件的连接线时,系统提示接收数据顺序可能影响关联结果。如果先连接产品信息表再连接订单明细表,左外连接的主表将变为产品表,导致订单表中无匹配产品的记录丢失,与业务需求不符。解决方法是确保订单_详细订单作为第一个输入(主表),产品信息作为第二个输入(从表),连接类型选择LEFT OUTER,保证左外连接以订单表为基准,不会遗漏任何订单记录。
六、实验总结
本次实验以"订单利润分流"为业务场景,基于助睿零代码数据集成平台完成了从数据接入、多表关联、字段清洗到条件分流输出的完整ETL流程。通过实际操作,我对平台的核心功能有了较为深入的理解:
在平台操作层面,掌握了项目创建与团队管理、数据源同步、转换流的新建与解锁编辑、组件的搜索添加与画布连线等基本操作流程。尤其是组件之间的Hops连接不仅是数据的物理通道,还承载了逻辑语义(如"匹配/不匹配"输出),这一点在实际配置中容易被忽略但至关重要。
在ETL设计层面,本次实验涉及的核心组件——表输入、记录集连接、字段选择、过滤记录、Excel输出——构成了一个典型的数据加工管道。记录集连接组件的左外连接保证了以订单为主表的数据完整性;字段选择组件消除了连接后产生的冗余字段;过滤记录组件实现了基于利润值的条件分流。这一系列操作体现了ETL中"抽取-转换-加载"的完整思路。
在问题排查层面,连接线类型错误和文件名冲突两个问题的解决过程让我认识到,可视化ETL虽然降低了编程门槛,但组件之间的逻辑关系仍然需要使用者准确理解。每一个连接选项、每一个参数配置都可能影响最终的执行结果,盲目使用默认值容易埋下隐患,配置完成后应逐项核查再执行。
总体而言,助睿平台的拖拽式操作确实让数据加工流程变得直观可追溯,数据流向在画布上一目了然,便于理解和调试。但对于初学者而言,仍需在理解每个组件功能原理的基础上进行操作,才能有效避免配置失误,真正发挥零代码平台的优势。
#助睿数智 #商业数据分析 #ETL数据加工 #数据实验
更多推荐




所有评论(0)