我正在使用 Scala 2.12(使用 SBT 构建)构建 Spark (3.0.0) 流应用程序。鉴于所有用于执行此操作的库均适用于 Scala
EDIT:我尝试使用库构建时得到的示例输出:
object twitter is not a member of package org.apache.spark.streaming
[error] import org.apache.spark.streaming.twitter.TwitterUtils
为了进口spark-streaming-twitter
到 Scala 2.12 中,您需要在导入中指定 Scala 版本:
resolvers += "twitter_2" at "https://mvnrepository.com/artifact/org.apache.spark/spark-streaming-twitter"
libraryDependencies += "org.apache.spark" % "spark-streaming-twitter_2.11" % "1.6.3"
此调用强制从artifactory 获取scala 2.11 版本。可能尝试过的导入是:
libraryDependencies += "org.apache.spark" %% "spark-streaming-twitter" % "1.6.3"
The sbt
搜索spark-streaming-twitter_2.12
如果你的 scala 构建版本是 2.12,它确实存在于Maven 工件 https://mvnrepository.com/artifact/org.apache.spark/spark-streaming-twitter.
话虽如此,您需要了解scala 版本的二进制兼容性 https://docs.scala-lang.org/overviews/core/binary-compatibility-of-scala-releases.html,在你做这样的事情之前。
导入后您可以调用:
import org.apache.spark.streaming.twitter.TwitterUtils
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)