在 Hive 中获取空值 使用 REGEX 创建和加载查询

我有一个日志文件，我需要在其中使用 REGEX 存储数据。我尝试了下面的查询，但加载了所有 NULL 值。我已经检查了 REGEXhttp://www.regexr.com/ http://www.regexr.com/，它对我的​​数据工作正常。

CREATE EXTERNAL TABLE IF NOT EXISTS avl(imei STRING,packet STRING)                        
ROW FORMAT SERDE 'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'
WITH SERDEPROPERTIES (                                             
"input.regex" = "(IMEI\\s\\d{15} (\\b(\\d{15})([A-Z0-9]+)) )",          
"output.format.string" = "%1$s %2$s"                              
)
STORED AS TEXTFILE;

LOAD DATA INPATH 'hdfs:/user/user1/data' OVERWRITE INTO TABLE avl;

请在这里纠正我。

样本日志：

[INFO_|01/31 07:19:29]  IMEI 356307043180842 
[INFO_|01/31 07:19:33]  PacketLength = 372
[INFO_|01/31 07:19:33]  Recv HEXString : 0000000000000168080700000143E5FC86B6002F20BC400C93C6F000FF000E0600280007020101F001040914B34238DD180028CD6B7801C7000000690000000143E5FC633E002F20B3000C93A3B00105000D06002C0007020101F001040915E64238E618002CCD6B7801C7000000640000000143E5FC43FE002F20AA800C9381700109000F06002D0007020101F001040915BF4238D318002DCD6B7801C70000006C0000000143E5FC20D6002F20A1400C935BF00111000D0600270007020101F001040916394238B6180027CD6B7801C70000006D0000000143E5FBF5DE002F2098400C9336500118000B0600260007020101F0010409174D42384D180026CD6B7801C70000006E0000000143E5FBD2B6002F208F400C931140011C000D06002B0007020101F001040915624238C018002BCD6B7801C70000006F0000000143E5FBAF8E002F2085800C92EB10011E000D06002B0007020101F0010409154C4238A318002BCD6B7801C700000067000700005873

Thanks.

根据您当前的表定义，任何正则表达式都无法满足您的要求。原因是你的 file_format 设置为TEXTFILE，按行分割输入文件（\r, \n, or \r\n），在数据到达 SerDe 之前。

然后将每一行单独传递到正则表达式串行器，与您的正则表达式匹配，任何不匹配的返回NULL。因此，多行正则表达式将无法使用STORED AS TEXTFILE。这也是您收到全部的原因NULLrows：因为没有任何一行输入与您的整个正则表达式匹配。

这里的一种解决方案可能是预处理数据，使每条记录仅位于输入文件中的一行，但这不是您所要求的。

在 Hive 中执行此操作的方法是使用不同的 file_format：

STORED AS INPUTFORMAT 'org.apache.hadoop.mapred.TextInputFormat'

TextInputFormat 从当前配置中读取名为的配置变量文本输入格式.记录.分隔符。如果您正在使用文本输入格式，此变量告诉 Hadoop 和 Hive 一条记录的结束位置和下一条记录的开始位置。

因此，将此值设置为类似EOR意味着输入文件被分割EOR，而不是按行。分割生成的每个块将作为整个块、换行符等传递给 RegexSerDe。

您可以在多个位置设置此变量，但如果这是仅此（以及会话中的后续）查询的分隔符，那么您可以执行以下操作：

SET textinputformat.record.delimiter=EOR;

CREATE EXTERNAL TABLE ...
...
ROW FORMAT SERDE 'org.apache.hadoop.hive.contrib.serde2.RegexSerDe'
WITH SERDEPROPERTIES (
   "input.regex" = ...
   "output.regex" = ...
)
STORED AS INPUTFORMAT 'org.apache.hadoop.mapred.TextInputFormat'
          OUTPUTFORMAT 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat'
LOCATION ...;

在你的具体场景中，我不知道你可能会用什么textinputformat.record.delimiter代替EOF，因为我们只给出了一个示例记录，并且我无法根据您的正则表达式判断您要尝试捕获第二个字段。

如果您能提供这两项（具有 >1 条记录的示例数据，以及您要捕获的内容packet)，也许我能帮上更多忙。就目前情况而言，您的正则表达式与您提供的示例数据不匹配——甚至不匹配您链接的网站 http://regexr.com/3cogg.