3.数据表的创建

3.1 创建用户和数据库  

 （1）创建test用户

#进入mysql
mysql -h hadoop1 -P 9030 -uroot -p 
#创建test用户，密码为test
create user 'test' identified by 'test';

（2）创建数据库

create database test_db;

（3）用户授权

grant all on test_db to test;

（4）验证

#退出MySQL-client
quit;
#使用进入mysql-client
mysql -h hadoop102 -P 9030 -utest -p;
#使用test_db数据库
use databases; 
show tables;

3.2 数据基本概念

3.2.1 Row&Column

        这个行(Row)和列(Column)与我们在mysql数据表中的行和列是一样的，Row就是用户的一行数据，Column就是一行数据中的各个字段。

        *默认模型，Column只分为排序列和非排序列。存储引擎会按照排序对数据进行排序存储，并建立稀疏索引，以便在排序数据上进行快速查找。

        *聚合模型，Column可以分为两大类：Key和Value。从业务角度，key和value可以看作就是维度列和指标列。从聚合模型的角度来说，key列相同的行，会聚合成一行。其中Value列聚合方式由用户在建表时指定。

        举例说明一下维度列和指标列，计算某一学科的平均分，学科就是维度列，平均分就是指标列。

3.2.2 分区和分桶

        在 Doris 的存储引擎中，用户数据首先被划分成若干个分区（Partition），划分的规则通常是按照用户指定的分区列进行范围划分，比如按时间划分。而在每个分区内，数据被进一步的按照 Hash 的方式分桶，分桶的规则是要找用户指定的分桶列的值进行 Hash 后分桶。
每个分桶就是一个数据分片（Tablet），也是数据划分的最小逻辑单元。
        *Tablet 之间的数据是没有交集的，独立存储的。Tablet 也是数据移动、复制等操作的最小物理存储单元。
        * Partition 可以视为是逻辑上最小的管理单元。数据的导入与删除，都可以或仅能针对一个 Partition 进行。

3.3 建表示例

3.3.1 建表语法

        使用的命令：CREATE TABLE

CREATE TABLE 表名

        CREATE TABLE 表名

HELP CREATE TABLE

CREATE [EXTERNAL] TABLE [IF NOT EXISTS] [database.]table_name 建表的表名

(column_definition1[, column_definition2, ...] 对于列的定义 id int 之类的

[, index_definition1[, index_definition12,]]) 定义索引

[ENGINE = [olap|mysql|broker|hive]] 引擎 可选四种

[key_desc] 指定key列

[COMMENT "table comment"]; 表的注释

[partition_desc] 分区

[distribution_desc] 分桶

[rollup_index] 上卷

[PROPERTIES ("key"="value", ...)] 表的属性

[BROKER PROPERTIES ("key"="value", ...)]; broker属性

        Doris的建表是一个同步命令，命令返回成功，就代表建表成功

        Doris支持单分区和复合分区两种建表方式

1）复合分区：既有分区也有分桶

        第一级称之为Partition，即分区。用户可以指定某一维度列作为分区列（当前只支持整型类型和时间类型的列），并指定每个分区的取值范围。

        第二级称之为Distribution，即分桶。用户可以指定一个或者多个维度以及桶数对数据进行HASH分布。

2）单分区：只做HASH分布，即只做分桶

3.3.2 字段类型

 

注：聚合模型在定义字段类型后，可以指定字段的 agg_type 聚合类型，如果不指定，则该列为 key 列。否则，该列为 value 列, 类型包括：SUM、MAX、MIN、REPLACE。

个人理解：

        针对聚合模型的字段，我们可以理解为这个字段是会变化的，就是如果我们指定了一个字段是聚合类型是sum的类型，就是可以说明这个字段是算的一个累计的值，就比如说有这么一个字段是累计消费，然后我们把这个字段的聚合类型设置成sum字段，然后对这个字段就是会计算累计的消费，max是计算该字段某一维度的最大值，min就是计算该字段的某一维度的最小值，replace就是计算该字段的最新的值进行替换。

 3.3.3 建表示例

我们以一个建表操作来说明 Doris 的数据划分。

示例一：按照时间分区，按照user_id做分桶

CREATE TABLE IF NOT EXISTS example_db.expamle_range_tbl 
( 
 `user_id` LARGEINT NOT NULL COMMENT "用户 id", 
 `date` DATE NOT NULL COMMENT "数据灌入日期时间", 
 `timestamp` DATETIME NOT NULL COMMENT "数据灌入的时间戳", 
 `city` VARCHAR(20) COMMENT "用户所在城市", 
 `age` SMALLINT COMMENT "用户年龄", 
 `sex` TINYINT COMMENT "用户性别", 
 `last_visit_date` DATETIME REPLACE DEFAULT "1970-01-01 
00:00:00" COMMENT "用户最后一次访问时间", 
 `cost` BIGINT SUM DEFAULT "0" COMMENT "用户总消费", 
 `max_dwell_time` INT MAX DEFAULT "0" COMMENT "用户最大停留时间", 
 `min_dwell_time` INT MIN DEFAULT "99999" COMMENT "用户最小停留时间" 
)
ENGINE=olap 
AGGREGATE KEY(`user_id`, `date`, `timestamp`, `city`, `age`, `sex`) 
PARTITION BY RANGE(`date`) 
( 
 PARTITION `p201701` VALUES LESS THAN ("2017-02-01"), 
 PARTITION `p201702` VALUES LESS THAN ("2017-03-01"), 
 PARTITION `p201703` VALUES LESS THAN ("2017-04-01") 
) 
DISTRIBUTED BY HASH(`user_id`) BUCKETS 16 
PROPERTIES 
( 
 "replication_num" = "3", 
 "storage_medium" = "SSD", 
 "storage_cooldown_time" = "2018-01-01 12:00:00" 
); 

示例二：

        按照城市做分区

CREATE TABLE IF NOT EXISTS example_db.expamle_list_tbl 
( 
 `user_id` LARGEINT NOT NULL COMMENT "用户 id", 
 `date` DATE NOT NULL COMMENT "数据灌入日期时间", 
 `timestamp` DATETIME NOT NULL COMMENT "数据灌入的时间戳", 
 `city` VARCHAR(20) COMMENT "用户所在城市", 
 `age` SMALLINT COMMENT "用户年龄", 
 `sex` TINYINT COMMENT "用户性别", 
 `last_visit_date` DATETIME REPLACE DEFAULT "1970-01-01 
00:00:00" COMMENT "用户最后一次访问时间", 
 `cost` BIGINT SUM DEFAULT "0" COMMENT "用户总消费", 
 `max_dwell_time` INT MAX DEFAULT "0" COMMENT "用户最大停留时间", 
 `min_dwell_time` INT MIN DEFAULT "99999" COMMENT "用户最小停留时
间" 
) 
ENGINE=olap 
AGGREGATE KEY(`user_id`, `date`, `timestamp`, `city`, `age`, `sex`) 
PARTITION BY LIST(`city`) 
( 
 PARTITION `p_cn` VALUES IN ("Beijing", "Shanghai", "Hong Kong"), 
 PARTITION `p_usa` VALUES IN ("New York", "San Francisco"), 
 PARTITION `p_jp` VALUES IN ("Tokyo") 
) 
DISTRIBUTED BY HASH(`user_id`) BUCKETS 16 
PROPERTIES 
( 
 "replication_num" = "3", 
 "storage_medium" = "SSD", 
 "storage_cooldown_time" = "2018-01-01 12:00:00" 
); 

 3.3.4 数据的划分

         以 AGGREGATE KEY 数据模型为例进行说明。更多数据模型参阅 Doris 数据模型。
        列的基本类型，可以通过在 mysql-client 中执行 HELP CREATETABLE; 查看。
        AGGREGATE KEY 数据模型中，所有没有指定聚合方式（SUM、REPLACE、MAX、MIN）的列视为 Key 列。而其余则为 Value 列。
        定义列时，可参照如下建议：
➢ Key 列必须在所有 Value 列之前。
➢ 尽量选择整型类型。因为整型类型的计算和查找比较效率远高于字符串。
➢ 对于不同长度的整型类型的选择原则，遵循够用即可。
➢ 对于 VARCHAR 和 STRING 类型的长度，遵循 够用即可。
➢ 所有列的总字节长度（包括 Key 和 Value）不能超过 100KB。

3.3.5 分区与分桶

分区

        Doris 支持两层的数据划分。第一层是 Partition，支持 Range 和 List 的划分方式。第二层是 Bucket（Tablet），仅支持 Hash 的划分方式。

        也可以仅使用一层分区。使用一层分区时，只支持 Bucket 划分。

1） Range 分区

分区列通常为时间列，以方便的管理新旧数据。不可添加范围重叠的分区。

Partition 指定范围的方式

* VALUES LESS THAN (...) 仅指定上界，系统会将前一个分区的上界作为该分区的下界，生成一个左闭右开的区间。分区的删除不会改变已存在分区的范围。删除分区可能出现空洞。

* VALUES [...) 指定同时指定上下界，生成一个左闭右开的区间。

        通过 VALUES [...) 同时指定上下界比较容易理解。这里举例说明，当使用 VALUES LESS THAN (...) 语句进行分区的增删操作时，分区范围的变化情况：

         （1）如上 expamle_range_tbl 示例，当建表完成后，会自动生成如下 3 个分区：

p201701: [MIN_VALUE, 2017-02-01)

p201702: [2017-02-01, 2017-03-01)

p201703: [2017-03-01, 2017-04-01)

         （2）增加一个分区 p201705 VALUES LESS THAN ("2017-06-01")，分区结果如下：

p201701: [MIN_VALUE, 2017-02-01)

p201702: [2017-02-01, 2017-03-01)

p201703: [2017-03-01, 2017-04-01)

p201705: [2017-04-01, 2017-06-01)

        （3）此时删除分区 p201703，则分区结果如下： 

p201701: [MIN_VALUE, 2017-02-01)

p201702: [2017-02-01, 2017-03-01)

p201705: [2017-04-01, 2017-06-01)

注意到 p201702 和 p201705 的分区范围并没有发生变化，而这两个分区之间，出现了

一个空洞：[2017-03-01, 2017-04-01)。即如果导入的数据范围在这个空洞范围内，是无法导

入的。

        （4）继续删除分区 p201702，分区结果如下：

p201701: [MIN_VALUE, 2017-02-01)

p201705: [2017-04-01, 2017-06-01)

        （5）现在增加一个分区 p201702new VALUES LESS THAN ("2017-03-01")，分区结果如下：

p201701: [MIN_VALUE, 2017-02-01)

p201702new: [2017-02-01, 2017-03-01)

p201705: [2017-04-01, 2017-06-01)

         （6）现在删除分区 p201701，并添加分区 p201612 VALUES LESS THAN ("2017-01-01")，

分区结果如下：

p201612: [MIN_VALUE, 2017-01-01)

p201702new: [2017-02-01, 2017-03-01)

p201705: [2017-04-01, 2017-06-01)

         即出现了一个新的空洞：[2017-01-01, 2017-02-01)

2）List 分区

        分区 列支 持 BOOLEAN, TINYINT, SMALLINT, INT, BIGINT, LARGEINT, DATE,DATETIME, CHAR, VARCHAR 数据类型，分区值为枚举值。只有当数据为目标分区枚举值其中之一时，才可以命中分区。不可添加范围重叠的分区。

        Partition 支持通过 VALUES IN (...) 来指定每个分区包含的枚举值。下面通过示例说明，进行分区的增删操作时，分区的变化。

（1）如上 example_list_tbl 示例，当建表完成后，会自动生成如下 3 个分区：

p_cn: ("Beijing", "Shanghai", "Hong Kong")

p_usa: ("New York", "San Francisco")

p_jp: ("Tokyo")

（2）增加一个分区 p_uk VALUES IN ("London")，分区结果如下：

p_cn: ("Beijing", "Shanghai", "Hong Kong")

p_usa: ("New York", "San Francisco")

p_jp: ("Tokyo")

p_uk: ("London")                          

（3）删除分区 p_jp，分区结果如下： 

p_cn: ("Beijing", "Shanghai", "Hong Kong")

p_usa: ("New York", "San Francisco")

p_uk: ("London")

分桶 

（1）如果使用了 Partition，则 DISTRIBUTED ... 语句描述的是数据在各个分区内的划分规则。如果不使用 Partition，则描述的是对整个表的数据的划分规则。
（2）分桶列可以是多列，但必须为 Key 列。分桶列可以和 Partition 列相同或不同。
（3）分桶列的选择，是在 查询吞吐 和 查询并发 之间的一种权衡：
        ① 如果选择多个分桶列，则数据分布更均匀。
        如果一个查询条件不包含所有分桶列的等值条件，那么该查询会触发所有分桶同时扫描，这样查询的吞吐会增加，单个查询的延迟随之降低。这个方式适合大吞吐低并发的查询场景。
        ② 如果仅选择一个或少数分桶列，则对应的点查询可以仅触发一个分桶扫描。
        此时，当多个点查询并发时，这些查询有较大的概率分别触发不同的分桶扫描，各个查询之间的 IO 影响较小（尤其当不同桶分布在不同磁盘上时），所以这种方式适合高并发的点查询场景。
（4）分桶的数量理论上没有上限。

3.3.6 使用复合分区的场景

以下场景推荐使用复合分区

（1）有时间维度或类似带有有序值的维度，可以以这类维度列作为分区列。分区粒度可以根据导入频次、分区数据量等进行评估。

（2）历史数据删除需求：如有删除历史数据的需求（比如仅保留最近 N 天的数据）。使用复合分区，可以通过删除历史分区来达到目的。也可以通过在指定分区内发送 DELETE语句进行数据删除。

（3）解决数据倾斜问题：每个分区可以单独指定分桶数量。如按天分区，当每天的数据量差异很大时，可以通过指定分区的分桶数，合理划分不同分区的数据,分桶列建议选择区分度大的列。

3.3.7 多列分区

        Doris支持指定多列作为分区列，示例如下：

1）Range 分区

PARTITION BY RANGE(date, id)
(
PARTITION p201701_1000 VALUES LESS THAN ("2017-02-01", "1000"),
PARTITION p201702_2000 VALUES LESS THAN ("2017-03-01", "2000"),
PARTITION p201703_all VALUES LESS THAN ("2017-04-01")
)

        指定 `date`(DATE 类型) 和 `id`(INT 类型) 作为分区列。以上示例最终得到的分区如下：

p201701_1000: [(MIN_VALUE, MIN_VALUE), ("2017-02-01", "1000") )

p201702_2000: [("2017-02-01", "1000"), ("2017-03-01", "2000") )

p201703_all: [("2017-03-01", "2000"), ("2017-04-01", MIN_VALUE))

注意，最后一个分区用户缺省只指定了 `date` 列的分区值，所以 `id` 列的分区值会默认填充`MIN_VALUE`。当用户插入数据时，分区列值会按照顺序依次比较，最终得到对应的分区。举例如下：

数据 --> 分区

2017-01-01, 200 --> p201701_1000

2017-01-01, 2000 --> p201701_1000

2017-02-01, 100 --> p201701_1000

2017-02-01, 2000 --> p201702_2000

2017-02-15, 5000 --> p201702_2000

2017-03-01, 2000 --> p201703_all

2017-03-10, 1 --> p201703_all

2017-04-01, 1000 --> 无法导入

2017-05-01, 1000 --> 无法导入 

判断分区逻辑如下:

        首先我们对该逻辑进行一个总结，就是首先我们对我们的第一个分区的条件的第一个条件进行判断，如果符合就本划分到第一个分区，如果不符合就会和第二个条件进行对比，符合就还是会在第一个分区

        就类似与这个

if(第一个分区第一个条件||第二个分区第二个条件……){
    
}else if(第二个分区第一个条件||第二个分区第一个条件……){
    
}……

2）List 分区

PARTITION BY LIST(`id`, `city`) 
( 
 PARTITION `p1_city` VALUES IN (("1", "Beijing"), ("1", "Shanghai")), 
 PARTITION `p2_city` VALUES IN (("2", "Beijing"), ("2", "Shanghai")), 
 PARTITION `p3_city` VALUES IN (("3", "Beijing"), ("3", "Shanghai")) 
) 

        指定 `id`(INT 类型) 和 `city`(VARCHAR 类型) 作为分区列。最终得到的分区如下：

p1_city: [("1", "Beijing"), ("1", "Shanghai")]

p2_city: [("2", "Beijing"), ("2", "Shanghai")]

p3_city: [("3", "Beijing"), ("3", "Shanghai")]

        当用户插入数据时，分区列值会按照顺序依次比较，最终得到对应的分区。举例如下： 

数据 ---> 分区

1, Beijing ---> p1_city

1, Shanghai ---> p1_city

2, Shanghai ---> p2_city

3, Beijing ---> p3_city

1, Tianjin ---> 无法导入

4, Beijing ---> 无法导入

 3.3.8 表属性（PROPERTIES)

        每个tablet的副本数量，默认就是3，在建表语句中，所有的Partition中的Tablet副本数量统一指定的，在增加新的分区的时候，可以单独指定新分区中Tablet的副本数量。

        副本数量可以运行时修改，官方建议保持奇数。

        最大副本数却决于集群独立IP数量（不是BE的数量）Doris 中副本分布的原则是，不允许同一个 Tablet 的副本分布在同一台物理机上，而识别物理机即通过 IP。

ENGINE

        本示例中，ENGINE 的类型是 olap，即默认的 ENGINE 类型。在 Doris 中，只有这个ENGINE 类型是由 Doris 负责数据管理和存储的。其他 ENGINE 类型，如 mysql、broker、es 等等，本质上只是对外部其他数据库或系统中的表的映射，以保证 Doris 可以读取这些数据。而 Doris 本身并不创建、管理和存储任何非 olap ENGINE 类型的表和数据。