分桶表
分区提供一个隔离数据和优化查询的便利方式。不过,并非所有的数据集都可形成合理的分区。对于一张表或者分区,Hive 可以进一步组织成桶,也就是更为细粒度的数据范围划分。分桶是将数据集分解成更容易管理的若干部分的另一个技术。分区针对的是数据的存储路径;分桶针对的是数据文件。
1. 创建分桶表
create table stu_buck(id int, name string)
clustered by(id)
into 4 buckets
row format delimited fields terminated by '\t';
2. 创建分桶表
hive (default)> desc formatted stu_buck;
Num Buckets: 4
3. 导入数据到分桶表中
load 的方式
hive (default)> load data inpath '/student.txt' into table stu_buck;
insert 方式将数据导入分桶表
hive(default)>insert into table stu_buck select * from student_insert;
4.查看创建的分桶表中是否分成 4 个桶
5.查询分桶的数据
hive(default)> select * from stu_buck;
6. 分桶规则:
根据结果可知:Hive 的分桶采用对分桶字段的值进行哈希,然后除以桶的个数求余的方式决定该条记录存放在哪个桶当中
7. 分桶表操作需要注意的事项:
(1)reduce 的个数设置为-1,让 Job 自行决定需要用多少个 reduce 或者将 reduce 的个数设置为大于等于分桶表的桶数
(2)从 hdfs 中 load 数据到分桶表中,避免本地文件找不到问题
3)不要使用本地模式