一、实验背景​

1.1 实验目的​

本次实验旨在熟悉助睿零代码数据集成平台(ETL平台)的核心功能和操作方法,具体包括:​

  • 掌握新建转换、添加组件、执行转换等基本操作流程​
  • 熟悉表输入、记录集连接、字段选择、过滤记录、Excel输出等常用组件的配置方法​
  • 理解多表关联、数据过滤与分流处理的ETL设计思路​

通过本次实验,学生能够独立使用助睿平台完成常见的数据加工任务,为后续更复杂的数据处理场景打下基础。​

1.2 实验环境​

  • 零代码在线实验平台:本次实验使用助睿数智(Uniplore)作为一站式数据科学平台。该平台覆盖从
    数据接入、ETL处理、机器学习建模到可视化展示的全链路零代码功能,适用于数据分析教学与企业数据加工场景。产品官网为
    https://www.uniplore.com/ 本次实验的访问地址为
    https://lab.guilian.cn/
  • 数据库:MySQL(含订单数据和产品信息表)​
  • 数据准备:订单表(business_anaylsis.order_detail)、产品表(business_anaylsis.product)​

1.3 业务场景​

在企业经营分析中,经常需要将多张表关联起来计算利润,并按利润正负对订单进行分类存储。本实验以订单利润分流为例,通过零代码拖拽方式完成这一数据处理任务。

1.4 数据加工流程​

订单明细表与产品信息表进行左外连接,移除重复字段,按利润是否大于等于零进行分流,最后分别输出盈利订单和亏损订单到两个Excel文件。
在这里插入图片描述

二、实验步骤​

2.1 登录实验平台

此处点击贵兰在线进入PC端登录界面,完成登录注册后,找到右上角个人头像,点击我的学习进入当前页面,再点击实训平台即可进入实验平台首页
在这里插入图片描述
在这里插入图片描述

2.2 基本概念了解​

是什么:助睿一站式大数据平台中的数据集成平台,通过可视化方式做数据ETL(抽取、转换、加载)。
助睿平台核心概念说明表

概念 说明
Pipeline(转换) 面向数据流,处理数据的一个功能单元,由多个 Transform 组成
Workflow(作业) 面向任务,完成一件完整的事,由多个 Action 组成,必须包含开始项
Transform(步骤) 转换内的最小单元,如 “Excel 输入”、“字段选择”,每个步骤独立线程运行
Action(任务项) 作业的执行单位,如 “启动”、“发送邮件”
Hops(节点连接) 数据传输通道,连接步骤或任务项

在这里插入图片描述

2.3 团队管理​

在该环节,每个小组的组长可以创建该小组的团队方便团队实验作业的管理​
进入实验平台后,选择数据集成/ETL,进入数据集成页面
在这里插入图片描述
若是组长,则点击“团队管理”菜单,并点击“新增团队”,填入相关信息后即可点击确认
在这里插入图片描述
创建成功后,点击团队卡片右上角的“更多”,选择“添加成员”,并根据手机号搜素成员并添加
在这里插入图片描述
若为成员,查看是否被添加团队即可
在这里插入图片描述

2.4 创建实验项目​

平台提供默认项目,可以使用默认项目进行实验,但为了方便管理,可以为课程创建专属项目。​
选择创建的项目所属团队为“商业数据分析小组1”(也可以是个人)
在这里插入图片描述
点击“新建项目”,输入项目名称后点击“确定”
在这里插入图片描述
创建成功后可看到该项目
在这里插入图片描述

2.5 同步数据源​

项目创建成功后点击该项目右上角“…”,点击“打开项目”
在这里插入图片描述
在项目页面,可以看到左侧有3个菜单:资源库、文件、元数据​
资源库用于对工作流的管理,包括新建、删除、修改、查看工作流的信息;导出导入工作空间;调度管理等操作​
文件库用于保存工作流中需要用到的文件和工作流产生的文件​
元数据管理是数据集成的重要基石,可以为工作流定义“运行配置”、“数据库”、“flink集群”等配置​
本次实验主要用到资源库和文件库
在这里插入图片描述
首先获取本次的实验数据集:点击“元数据”,右键根“关系数据库”,点击“同步数据源”,后会弹出“同步成功”的提示
在这里插入图片描述
在这里插入图片描述
切换“文件库”菜单再切换回到元数据,可以看到成功同步的数据库“线上公共数据源(Readonly)”
在这里插入图片描述

2.6 新建转换流​

本次实验将创建“订单利润分流处理”转换流,实现订单数据与产品信息的关联,并根据利润正负将数据分流为盈利订单和亏损订单,分别输出到两个Excel文件。​
整体逻辑:订单明细表 → 左外连接产品信息表 → 移除重复ID字段 → 按利润≥0分流 → 盈利订单/亏损订单分别输出​
各组件作用

组件 作用
表输入(订单 / 产品) 读取原始数据
记录集连接 按产品 ID 关联两表
字段选择 移除重复的 ID 字段
过滤记录 根据利润正负分流
Excel 输出 分别输出盈利 / 亏损订单

新建转换流具体操作如下:​
切换到资源库,同样右键根目录,点击“新建转换流”
在这里插入图片描述
输入转换流名字“订单利润分流处理6”,点击“确定”
在这里插入图片描述
创建成功后进入转换流设计页面​

在这里插入图片描述
转换流设计页面每次打开都是锁定状态,需要解锁后才可编辑转换流,点击🔒图标进行解锁
在这里插入图片描述

2.7 添加组件​

在建立转换任务后,可添加相应操作组件到转换任务中。​
下面以订单数据(business_anaylsis.order_detail)和产品信息数据(business_anaylsis.product)生成盈利订单数据和亏损订单数据为例来构建转换任务,按如下顺序向转换中添加组件:​
(1)添加表输入组件​
本次实验需要将两类数据进行合并计算,所以需要添加2个表输入组件,读取2个不同表的数据。​
点击“组件库”,由于组件库的组件数量较多,可以通过关键字搜索快速获取​
在搜索输入框中输入“表输入”,即可查询到“表输入”组件
在这里插入图片描述
将表输入组件拖拽至画布中
在这里插入图片描述
再次拖拽表输入组件拖拽至画布中,即拖拽2个表输入组件至画布中
在这里插入图片描述
右键表输入组件,点击“编辑组件”
在这里插入图片描述
修改步骤名称中为订单_详细订单,点击“确认”,此时画布中的对应表输入组件被命名为“订单_详细订单”
在这里插入图片描述
同样的,另一表输入组件修改为订单_产品信息
在这里插入图片描述
(2)添加记录集连接组件​
使用表输入组件读取数据后,需要通过记录集连接组件将表输入组件的数据进行关联。​
在搜索输入框中输入“记录集连接”,将记录集连接组件拖拽至画布中​

在这里插入图片描述
创建两个表输入组件到记录集连接组件的连接线,如下图:
在这里插入图片描述

在建立连接线时,会出现“排序需要”的提示。这是由于记录集连接组件是按接收数据的顺序进行记录关联的,如果接收的数据是无序的,可能会造成记录连接结果出错。
在这里插入图片描述
(3)添加字段选择组件​
两个表数据进行连接后,会出现重复的字段“产品ID”。我们可以通过“字段选择”组件移除这个多余字段。​
在搜索输入框中输入“字段选择”,将字段选择组件拖拽至画布中
在这里插入图片描述
将字段选择组件名字修改为“移除产品ID_1字段”
在这里插入图片描述
创建记录集连接组件到字段选择组件的连接线,如下图:
在这里插入图片描述
(4)添加过滤记录组件​
本次实验是根据订单的利润情况对订单进行分流。使用“过滤记录”组件可以根据记录中某个字段的值进行记录分流。​
在搜索输入框中输入“过滤记录”,将过滤记录组件拖拽至画布中
在这里插入图片描述
创建字段选择组件到过滤记录组件的连接线,在选择连接线的弹窗中点击“主输出步骤”。由于在进行字段选择操作时,可能有记录不满足要求,导致记录被标记为错误。主输出步骤表示满足要求的记录通过该连接线传输数据。如下图:
在这里插入图片描述
(5)添加 excel 输出组件​
记录经过“过滤记录”组件后会被分成2个记录流。我们可以根据业务需求将2个记录流输出到指定位置(文件、数据库表)。在本次实验中,我们选择将记录输出到 Excel 文件中。​
在搜索输入框中输入“excel 输出”,将2个表输出组件拖拽至画布中
在这里插入图片描述
2个excel 输出组件分别命名为“盈利订单”和“亏损订单”,并创建过滤记录组件到两个excel 输出组件的连接线,在选择连接线类型的弹窗中分别选择“True输出”和“False输出”​
“True输出”表示满足过滤条件的记录输出。​
“False输出”表示不满足过滤条件的记录输出。
在这里插入图片描述
在这里插入图片描述
至此,一个完整的转换任务流程构建完毕,如下图所示:
在这里插入图片描述

2.8 配置组件信息​

组件添加完成后需要对其进行相应配置。​

2.8.1 表输入组件配置​

双击订单_详细订单表输入组件,弹出组件配置页面。在数据库连接下拉框中选择已同步的“线上公共数据源(Readonly)”如下图所示:
在这里插入图片描述
点击“获取SQL查询语句”,自动生成SQL查询语句。​
在这里插入图片描述
点开“线上公共数据源(Readonly)”-“表”目录
在这里插入图片描述

下滑找到“business_anaylsis.order_detail”并点击它,再点击“确定”
在这里插入图片描述
在系统提示弹窗中点击“确认”
在这里插入图片描述
系统自动填写了完整的SQL查询语句,点击“确认”。当自动生成的SQL语句无法满足业务需求时,也可以通过在文本框输入自定义SQL语句。表输入组件的其他配置参数保持默认即可,
在这里插入图片描述

另一个订单_产品信息表输入也参考上述配置,获取“business_anaylsis.product”的SQL查询语句

在这里插入图片描述

2.8.2 记录集连接组件配置​

双击记录集连接组件,在下拉列表中选择需要连接的数据来源​
第一个Transform选择订单_详细订单,第二个Transform选择订单_产品信息,连接类型选择LEFT OUTER
在这里插入图片描述
点击第一个Transform的连接字段中的“获得连接字段”按钮,即可获取表输入组件在订单_详细订单的查询到的字段。同样的,获取第二个Transform的连接字段
在这里插入图片描述
第一个Transform字段保留 produc_id,第二个Transform的字段保留 id,连接类型选择LEFT OUTER,表示使用订单_详细订单的字段 produc_id 与订单_产品信息的字段 id 进行左外连接​
第一个Transform字段中除了 produc_id 外的其他字段,右键点击“删除选中的行”,第一个Transform字段中除了id 外的其他字段,右键点击“删除选中的行”
删除完后,点击“确认”,若删除错误,可重新获取连接字段再进行删除
在这里插入图片描述

2.8.3 字段选择组件配置​

通过记录集连接后,我们可以发现,字段 produc_id 与字段 id 内容相同,只需要保留一个,因此,需要使用“移除产品ID_1字段”字段选择组件的移除选项移除字段 id,具体操作如下:​
双击“移除产品ID_1字段”字段选择组件,点击“移除”,并点击“获取字段”
在这里插入图片描述

在获取的字段中选中除“id”字段以外的字段,右键点击“删除选中的行”
在这里插入图片描述
可以看到,字段“id”已被删除,点击“确认”
在这里插入图片描述

2.8.4 过滤记录组件配置​

根据业务需求需要将盈利订单和亏损订单分开存储,两个订单可以使用字段利润来区分​
双击“过滤记录”组件,在弹窗中的下拉列表中选择将结果发送给不同的后续处理步骤,如下图:

在这里插入图片描述
选择字段利润(profit)来作为判断字段,选中“profit(Number)”后点击“确定”
在这里插入图片描述
将>=0 作为判断条件,点击“=”,在函数中选择“>=”,点击“确定”
在这里插入图片描述
点击“value”,值类型选择“Integer”,值输入“0”点击“确定”
在这里插入图片描述
至此,过滤条件已配置完成,点击“确认”即可

2.8.5 Excel 输出组件配置​

将接收到的结果写入到Excel表中,双击“盈利订单”excel表输出组件,在配置弹窗中,文件名修改为“盈利订单”,选择文件拓展名“xlsx [Excel 2007 and above]”

在这里插入图片描述
在配置弹窗中点击“输出字段”,在空白表格处右键点击“获取字段”
在这里插入图片描述
字段获取后,点击“确认”
在这里插入图片描述
“亏损订单”的excel组件也进行同样的设置

2.4 执行转换任务​

组件配置完成后,可执行转换任务,点击启动按钮
在这里插入图片描述
在弹出的窗口中点击“启动”
在这里插入图片描述
执行成功
在这里插入图片描述

2.5 查看执行结果和日志​

任务执行过程中,会将相关操作记录到日志中,任务执行完毕后,可查看执行结果及日志,如下所示
在这里插入图片描述
在这里插入图片描述

2.6 查看输出结果文件​

点击“文件库”,右键根目录刷新,可以看到转换任务的输出结果:盈利订单和亏损订单,可以右键下载查看

在这里插入图片描述
在这里插入图片描述

三、实验结果

3.1 实验执行状态

本次订单利润分流处理转换任务执行成功,平台返回运行正常、无报错、无数据丢失的执行状态,数据流完整通过所有组件,未出现字段缺失、连接失败、过滤异常等问题。

3.2 数据处理结果

  • 表数据读取:成功读取order_detail订单明细表与product产品表全部数据,无数据遗漏。
  • 多表关联:通过左外连接按product_id完成两表关联,保留订单表全部记录,匹配对应产品信息。
  • 字段清洗:使用字段选择组件移除重复id字段,字段结构清晰、无冗余。
  • 数据分流:按profit ≥ 0完成精准分流:
    盈利订单:利润≥0 的订单数据,输出至盈利订单.xlsx
    亏损订单:利润 < 0 的订单数据,输出至亏损订单.xlsx

3.3文件输出结果

  • 盈利订单.xlsx:包含所有盈利订单的完整字段与明细
    在这里插入图片描述

  • 亏损订单.xlsx:包含所有亏损订单的完整字段与明细
    在这里插入图片描述

文件可正常下载、打开,数据格式规范,无乱码、空值、错位问题。

四、问题与解决

4.1 实验核心流程分析

本次实验完整实现ETL 全流程:

  1. 抽取(Extract):通过表输入组件从 MySQL 读取订单与产品数据
  2. 转换(Transform):记录集连接→字段清洗→条件过滤
  3. 加载(Load):分流输出至 Excel 文件

流程符合企业经营分析中多表关联、利润计算、数据分类的真实业务场景。

4.2 关键组件作用分析

  • 表输入:稳定读取数据库源数据,是 ETL 起点
  • 记录集连接:实现多表关联,是数据整合核心
  • 字段选择:清理冗余字段,优化数据结构
  • 过滤记录:按业务规则分流,实现数据分类输出
  • Excel 输出:完成结果落地,满足数据导出需求

4.3 实验问题与解决

  1. 问题:记录集连接提示排序需要

    解决:按平台提示确认,保证关联字段有序,不影响结果。

  2. 问题:连接后出现重复id字段

    解决:用字段选择组件的移除功能精准删除冗余字段。

  3. 问题:过滤条件配置错误导致分流异常

    解决:重新配置profit ≥ 0,确保字段、运算符、数值正确。

4.4 实验收获

  • 熟练掌握平台全流程操作

能够独立完成助睿零代码 ETL 平台的数据源同步、项目创建、转换流新建、组件拖拽配置、任务启动执行、日志查看、结果文件下载等全流程操作,熟悉界面布局与功能入口。

  • 深入理解 ETL 设计思路

真正理解多表关联、字段清洗、数据过滤、分类输出的核心逻辑,掌握从业务需求到数据流设计的转化方法,能够根据不同场景规划数据处理链路。

  • 具备独立完成数据任务能力

可以自主完成从数据库读取数据→多表关联整合→字段清洗优化→条件分流处理→输出 Excel 文件的完整数据加工任务,能够独立处理常见 ETL 需求。

  • 熟悉企业级应用场景

理解零代码 ETL 在企业经营分析、订单处理、利润统计、数据报表等场景的实际价值,认识到零代码工具对提升数据分析效率、降低技术门槛的重要作用。

  • 建立数据处理规范意识

在实验中养成先配置再连接、先检查再执行、先验证再输出的良好习惯,具备基本的数据质量意识与流程优化意识,为后续更复杂的数据处理项目打下扎实基础。

五、实验总结

5.1 收获

本次实验让我熟练掌握了助睿零代码 ETL 平台的全流程操作,理解了多表关联、字段清洗、条件分流的核心设计思路,能够独立完成从数据库读取到文件输出的完整数据任务,也提升了问题排查与工程化思维能力。

5.2 对平台的整体评价

助睿零代码 ETL 平台拖拽式操作简单易上手,功能覆盖了 ETL 全链路核心需求,稳定性好,非常适合作为入门教学工具,帮助我们快速理解数据处理流程。

附:

平台全称:助睿数智(Uniplore)一站式数据科学实验平台​
平台定位:覆盖数据接入、ETL处理、机器学习建模到可视化分析的全链路Agentic零代码数据智能​
产品官网:https://www.uniplore.com/​ 实验平台地址:https://lab.guilian.cn/

Logo

一站式 AI 云服务平台

更多推荐