Spark - scala - 如何检查配置单元中是否存在表

2024-05-11

我必须使用 Spark(1.6.2) scala 检查配置单元中是否存在表

如果没有,我必须创建一个空数据框并将其保存为配置单元表。

如果存在,则覆盖现有表。

我需要一个返回布尔值的函数,基于该函数我可以做出上述决定(是否创建新表或覆盖现有表)


1.x:

def tableExists(table: String, sqlContext: SQLContext) =
  sqlContext.tableNames.contains(table)

2.x:

def tableExists(table: String, spark: SparkSession) =
  spark.catalog.tableExists(table)

2.1.x 或更高版本。

您可以使用spark.catalog.tableExists。积分转到侯赛因·奥克泰 https://stackoverflow.com/users/394863/huseyin-oktay for 指出这一点 https://stackoverflow.com/questions/46477270/spark-scala-how-can-i-check-if-a-table-exists-in-hive/46477521?noredirect=1#comment87375102_46477521.

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Spark - scala - 如何检查配置单元中是否存在表 的相关文章

随机推荐