为什么提交作业失败并显示“NoSuchMethodError: scala.runtime.VolatileObjectRef.zero()Lscala/runtime/VolatileObjectRef;”?

2024-01-03

我正在尝试提交 Spark 作业

它是这样开始的:

import javax.xml.parsers.{SAXParser, SAXParserFactory}

import org.apache.spark
import org.apache.spark.graphx.{Graph, Edge, VertexId}
import org.apache.spark.rdd.{PairRDDFunctions, RDD}
import org.apache.spark.storage.StorageLevel
import org.apache.spark.{SparkContext, SparkConf}
import scala.util.Try
import org.apache.log4j.{Level, Logger}


object MyApp {

  def main(args: Array[String]) {

    val sparkConf = new SparkConf().setAppName("MyApp")
    val sc = new SparkContext(sparkConf)

当我启动它时,出现以下错误:

App > Exception in thread "main" java.lang.NoSuchMethodError: scala.runtime.VolatileObjectRef.zero()Lscala/runtime/VolatileObjectRef;
App > at MyApp$.main(MyApp.scala)
App > at MyApp.main(MyApp.scala)
App > at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
App > at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
App > at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
App > at java.lang.reflect.Method.invoke(Method.java:606)
App > at org.apache.spark.deploy.SparkSubmit$.launch(SparkSubmit.scala:328)
App > at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:75)
App > at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)

我究竟做错了什么?

EDIT:包括完整的堆栈跟踪。 使用 Scala 2.10 和 Spark 1.2.0。 奇怪的是,在我的罐子里,我有两个课程。当我触发提交一个作业时,它可以工作(这是一个 4 行的虚拟作业),但是当我运行较长的作业(大约 40 行)时,如果失败并出现上述错误


zero() on scala.runtime.VolatileObjectRef已在Scala 2.11中引入 您可能有一个针对 Scala 2.11 编译并在 Scala 2.10 运行时上运行的库。

See

  • v2.10: https://github.com/scala/scala/blob/2.10.x/src/library/scala/runtime/VolatileObjectRef.java https://github.com/scala/scala/blob/2.10.x/src/library/scala/runtime/VolatileObjectRef.java
  • v2.11: https://github.com/scala/scala/blob/2.11.x/src/library/scala/runtime/VolatileObjectRef.java https://github.com/scala/scala/blob/2.11.x/src/library/scala/runtime/VolatileObjectRef.java
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

为什么提交作业失败并显示“NoSuchMethodError: scala.runtime.VolatileObjectRef.zero()Lscala/runtime/VolatileObjectRef;”? 的相关文章

随机推荐

  • 为什么 WPF 设计器无法加载调用非托管 DLL 的库?

    我正在使用 Visual Studio 2008 NET 3 5 SP1 并且有一个包含以下模块的测试应用程序 一个 C DLL 使用 1 的 C CLI DLL 使用 2 的 C WPF 应用程序 当我尝试使用 2 中的类作为 WPF X
  • 根据组合框选择过滤列表框

    我有两个表 Person 和 Shift Person 有一个查找字段 它与 Shift 是一对多的关系 我想创建一个表单 其中显示 Person 记录的列表框根据包含 Shift 记录的组合框的选择进行过滤 换句话说 我想在组合框中选择
  • 如何解析本地文件中的json数据?

    我对 json 解析非常陌生 并尝试解析一个包含汽车列表的 json 文件 但是当我解析时 它给出 nil func jsonTwo let url Bundle main url forResource car list withExte
  • tkinter 与 matplotlib

    我读到可以在 tkinter 中嵌入 pyplot 但我遇到了问题 我需要显示一些框架 其中主 Tkinter 窗口框架中的 pyplot and它必须对我的按键做出反应 根据http matplotlib org examples use
  • NSFileManager 和 NSFilePosixPermissions

    我想对 NSFilePosixPermissions 使用八进制权限 用于 chmod 这是我现在所做的 NSFileManager manager NSFileManager defaultManager NSDictionary att
  • UI测试框架+持续集成?

    所以我有一个继承的应用程序 我想围绕它构建一个自动化测试套件 该应用程序在设计时并未考虑到可测试性 并且代码是一个 大泥球 我的计划是使用 UI 自动化测试框架 并在 UI 级别创建一套测试 直到我有足够的覆盖范围 让我能够充满信心地开始重
  • 类内声明的友元运算符中左手参数的隐式转换

    我正在使用 CRTP 向类提供依赖于模板参数的函数添加 在本例中添加operator and operator 使用模板类ImplAdd 对于前者 应该对两个参数执行隐式转换 这意味着我必须使用类内友元运算符 如下所示 template
  • 在多个程序中正确使用 Scikit 的 LabelEncoder

    我手头的基本任务是 a 读取一些制表符分隔的数据 b 进行一些基本的预处理 c 对于每个分类列使用LabelEncoder创建映射 这有点像这样 mapper Converting Categorical Data for x in cat
  • 需要使用hadoop原生

    我正在调用一个mapreduce我的java程序的工作 今天 当我设置mapreduce作业的输入格式为 LzoTextInputFormat The mapreduce作业失败 Could not load native gpl libr
  • python3.8 brotli brotli.error: BrotliDecompress failed?

    我的代码 python3 8 布罗特利 1 0 9 使用请求获取 url 标头使用 Accept Encoding br 我需要使用decode br 因为我认为使用accept encoding br更好 import brotli im
  • 如何让带有 HTML 标签的字符串在 React js 中渲染?

    我正在使用 Reactjs 和 Django 开发我的网站 我在 Django 管理中有 WYSIWYG 编辑器 所以当我发布带有文本装饰的帖子时 它会与 HTML 标签一起存储 在 React 中 我从 Django REST 框架获取
  • 获取日期和时间(以毫秒为单位)

    我想创建一个函数 用当前日期和时间填充结构 例如 typedef struct DateAndTime int year int month int day int hour int minutes int seconds int msec
  • 如何使用 COM OLE 对象进行 TDD

    我有一个 OLE COM 对象 试图为其编写包装器 我决定开始使用 TDD 为其编写代码 因为我相信这会让我对要编写的内容有更好的方向感 COM 对象有一个如下所示的接口 Interface Mapinfo Sub Do ByVal cmd
  • bassistance jQuery 表单验证插件 - 提交前电子邮件错误

    我正在使用这个插件 http bassistance de jquery plugins jquery plugin validation http bassistance de jquery plugins jquery plugin v
  • Python 3 CGI:如何输出原始字节

    我决定使用 Python 3 来制作我的网站 但我遇到了 Unicode 输出的问题 看似平淡print html html is astr应该可以工作 但事实并非如此 我明白了UnicodeEncodeError ascii codec
  • UIView动画改变按钮的大小

    我开始尝试从应用程序商店重新创建购买按钮 这需要两步点击才能购买东西 我设置按钮展开的动画 到目前为止我有这个 UIView beginAnimations nil context nil UIView setAnimationDurati
  • Flutter 中中间有文本的水平分隔线?

    Flutter 中是否有内置小部件来创建中间有文本的分隔线 有关于如何做的指南吗 像这样 水平线中间的 OR 文字 这是我想要实现的屏幕截图 https i stack imgur com VyJXx png 您可以尝试使用Row http
  • NSScanner 循环问题

    我有一个NSScanner扫描 HTML 文档中段落标签的对象 扫描仪似乎在找到的第一个结果处停止 但我需要数组中的所有结果 如何改进我的代码以浏览整个文档 NSArray getParagraphs NSString html NSSca
  • 如何在 YouCompleteMe 弹出菜单中使用 展开 UltiSnips 代码段?

    这个问题确实触动了我的神经 我两个都有你使我完整 https github com ycm core YouCompleteMe and 多功能剪 https github com sirver ultisnips安装在我的 vim 8 0
  • 为什么提交作业失败并显示“NoSuchMethodError: scala.runtime.VolatileObjectRef.zero()Lscala/runtime/VolatileObjectRef;”?

    我正在尝试提交 Spark 作业 它是这样开始的 import javax xml parsers SAXParser SAXParserFactory import org apache spark import org apache s