我会尝试解释一下我所知道的。
执行计划是对查询所需任务、执行顺序以及每个任务的一些详细信息的描述。
要查看查询的执行计划,您可以执行此操作,在查询前添加关键字EXPLAIN
,然后运行它。
执行计划可能又长又复杂。
充分理解它们需要深入了解MapReduce
.
Example
EXPLAIN CREATE TABLE flights_by_carrier AS
SELECT carrier, COUNT(flight) AS num
FROM flights
GROUP BY carrier;
这个查询是一个CTAS statement
创建一个名为 Flights_by_Carrier 的新表,并用以下结果填充它:SELECT query
.
The SELECT query
按承运商对航班表的行进行分组,并返回每个承运商以及该承运商的航班数。
Hive 的输出EXPLAIN
该示例的语句如下所示
+----------------------------------------------------+--+
| Explain |
+----------------------------------------------------+--+
| STAGE DEPENDENCIES: |
| Stage-1 is a root stage |
| Stage-0 depends on stages: Stage-1 |
| Stage-3 depends on stages: Stage-0 |
| Stage-2 depends on stages: Stage-3 |
| |
| STAGE PLANS: |
| Stage: Stage-1 |
| Map Reduce |
| Map Operator Tree: |
| TableScan |
| alias: flights |
| Statistics: Num rows: 61392822 Data size: 962183360 Basic stats: COMPLETE Column stats: NONE |
| Select Operator |
| expressions: carrier (type: string), flight (type: smallint) |
| outputColumnNames: carrier, flight |
| Statistics: Num rows: 61392822 Data size: 962183360 Basic stats: COMPLETE Column stats: NONE |
| Group By Operator |
| aggregations: count(flight) |
| keys: carrier (type: string) |
| mode: hash |
| outputColumnNames: _col0, _col1 |
| Statistics: Num rows: 61392822 Data size: 962183360 Basic stats: COMPLETE Column stats: NONE |
| Reduce Output Operator |
| key expressions: _col0 (type: string) |
| sort order: + |
| Map-reduce partition columns: _col0 (type: string) |
| Statistics: Num rows: 61392822 Data size: 962183360 Basic stats: COMPLETE Column stats: NONE |
| value expressions: _col1 (type: bigint) |
| Reduce Operator Tree: |
| Group By Operator |
| aggregations: count(VALUE._col0) |
| keys: KEY._col0 (type: string) |
| mode: mergepartial |
| outputColumnNames: _col0, _col1 |
| Statistics: Num rows: 30696411 Data size: 481091680 Basic stats: COMPLETE Column stats: NONE |
| File Output Operator |
| compressed: false |
| Statistics: Num rows: 30696411 Data size: 481091680 Basic stats: COMPLETE Column stats: NONE |
| table: |
| input format: org.apache.hadoop.mapred.TextInputFormat |
| output format: org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat |
| serde: org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe |
| name: fly.flights_by_carrier |
| |
| Stage: Stage-0 |
| Move Operator |
| files: |
| hdfs directory: true |
| destination: hdfs://localhost:8020/user/hive/warehouse/fly.db/flights_by_carrier |
| |
| Stage: Stage-3 |
| Create Table Operator: |
| Create Table |
| columns: carrier string, num bigint |
| input format: org.apache.hadoop.mapred.TextInputFormat |
| output format: org.apache.hadoop.hive.ql.io.IgnoreKeyTextOutputFormat |
| serde name: org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe |
| name: fly.flights_by_carrier |
| |
| Stage: Stage-2 |
| Stats-Aggr Operator |
| |
+----------------------------------------------------+--+
阶段依赖性
该示例查询将在四分钟内执行stages
,阶段 0 到阶段 3。
每个stage
可能是一个MapReduce
工作,一个HDFS
行动,一个metastore
动作,或执行的一些其他动作Hive server
.
编号并不意味着执行顺序或依赖关系。
阶段之间的依赖关系决定了它们必须执行的顺序,并且Hive
在开头明确指定这些依赖关系EXPLAIN
结果。
根阶段(如本示例中的 Stage-1)没有依赖项,可以先自由运行。
非根阶段在其所依赖的阶段完成之前无法运行。
舞台计划
输出的阶段计划部分显示阶段的描述。
为了Hive
,从顶部开始然后向下阅读。
Stage-1 被确定为MapReduce
job.
查询计划显示该作业包括map phase
(由映射运算符树描述)和reduce phase
(由Reduce算子树描述)。
在里面map phase
,地图任务读取航班表并选择承运商和航班列。
该数据被传递到reduce phase
,其中reduce任务按承运商对数据进行分组,并通过计算航班来聚合数据。
Stage-1 之后是 Stage-0,这是一个HDFS
行动(移动)。
在这个阶段,Hive
将前一阶段的输出移动到 HDFS 仓库目录中的新子目录。
这是新表的存储目录,该表将命名为 Flights_by_Carrier。
Stage-0 之后是 Stage-3,这是一个metastore
action:
创建表.
在这个阶段,Hive
在fly 数据库中创建一个名为flights_by_rier 的新表。
该表有两列:STRING
列名为载体和BIGINT
名为 num 的列。
最后阶段,第二阶段,收集统计数据.
最后阶段的细节并不重要,但它会收集诸如表中的行数、存储表数据的文件数等信息。HDFS
,以及表中每列中唯一值的数量。
这些统计数据可用于优化Hive
查询。