具有多个任务的分布式官方 Mongodb Kafka 源连接器无法正常工作

2023-12-03

我正在我的 Windows 机器上运行 Apache Kafka,有两个 Kafka-Connect-Workers(端口 8083、8084)和一个具有三个分区的主题(一个复制)。 我的问题是,每当我关闭其中一个 Kafka-Connect 工作程序时,我都能看到故障转移到其他 Kafka-Connect 工作程序,但没有发生负载平衡,因为任务数始终为 1。 我使用官方 MongoDB-Kafka-Connector 作为源(ChangeStream),tasks.max=6。 我尝试使用多个线程更新 MongoDB,以便它可以将更多数据推送到 Kafka-Connect 中,并且可能使 Kafka-Connect 创建更多任务。即使在数据量更大的情况下,任务数仍然为一。

我如何确认只有一项任务正在运行?这是通过 api "http://localhost:8083/connectors/mongodb-connector/status" : 回复: { "name":"mongodb-connector", "connector": { "state":"RUNNING", "worker_id":"xx.xx.xx.xx:8083" } "tasks": [ { "id": 0, "state": "RUNNING" "worker_id": "xx.xx.xx.xx:8083" } ], "type": "source" } 我在这里错过了什么吗?为什么没有创建更多任务?


这似乎是官方 MongoDB Kafka Source Connector 的行为。这是我在另一个论坛上从 Ross Lawley(MongoDB 开发人员)那里得到的答案:

在 1.2.0 之前,接收器连接器仅支持单个任务。 源连接器仍然只支持单个任务,这是因为它使用单个更改流游标。这足以观察和发布集群范围、数据库范围或单个集合的更改。

我提出了这张票:https://jira.mongodb.org/browse/KAFKA-121得到以下回复:源连接器只会生成一个任务。 这是设计使然,因为源连接器由变更流支持。更改流在内部使用与复制引擎使用的数据相同的数据,因此应该能够像数据库一样进行扩展。 没有计划允许多个游标,但是,如果您觉得这不能满足您的要求,那么您可以配置多个连接器,每个连接器都有自己的更改流游标。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

具有多个任务的分布式官方 Mongodb Kafka 源连接器无法正常工作 的相关文章

  • 带预览和进度栏的 Twitter Bootstrap 图像上传

    我如何使用 Twitter Bootstrap 上传带有预览和进度条的单个图像 目前 在保存图像之前 我看不到上传图像的任何预览或进度条 Jasny 的 Bootstrap 分支让您能够接近这一点 看文档 http jasny github
  • Javascript:在函数内调用函数时 window.location.href 不会重定向

    单击按钮时 window location href 会将浏览器重定向到 stackoverflow com 但在输入文本字段中按 Enter 键时不会将浏览器重定向到 stackoverflow com 尽管两个事件侦听器使用相同的函数
  • iOS:如何实现像Android的startActivityForResult这样的行为

    我是一名 Android 开发人员 正在开发我们应用程序的 iOS 版本 我需要知道如何在 Android 上实现类似于 startActivityForResult 的行为 我需要显示一个新的视图控制器 然后在新的视图控制器关闭时将控制权
  • AES 在 cryptojs 中加密并在 python Crypto.Cipher 中解密

    使用 js CryptoJS 加密并使用 python crypto Cipher 解密时出现问题 这是我在js中的实现 附加 iv 与加密消息并使用 base64 进行编码
  • 使用空的weak_ptr作为参数调用map::count安全吗?

    打电话安全吗map count http www cplusplus com reference map map count on an 未初始化因此为空weak ptr http en cppreference com w cpp mem
  • 如何在 Scala Play 框架中进行 Twitter 反向身份验证?

    我正在编写一个 play 应用程序 在 scala 中 并且正在尝试执行 twitter 此处概述的反向身份验证步骤 https dev twitter com docs ios using reverse auth https dev t
  • 将同步 zip 操作转换为异步

    我们有一个现有的库 其中一些方法需要转换为异步方法 但是我不确定如何使用以下方法执行此操作 错误处理已被删除 该方法的目的是压缩文件并将其保存到磁盘 请注意 zip 类不公开任何异步方法 public static bool ZipAndS
  • 这种说法是否恰当。 if (0 != 表达式或变量) {} 在java中? [关闭]

    就目前情况而言 这个问题不太适合我们的问答形式 我们希望答案得到事实 参考资料或专业知识的支持 但这个问题可能会引发辩论 争论 民意调查或扩展讨论 如果您觉得这个问题可以改进并可能重新开放 访问帮助中心 help reopen questi
  • Adobe Illustrator 中的折线简化如何工作?

    我正在开发一个记录笔划的应用程序 您可以使用定点设备来绘制笔划 在上图中 我绘制了一个笔划 其中包含 453 个数据点 我的目标是大幅减少数据点的数量 同时仍然保持原始笔画的形状 对于那些感兴趣的人 上图笔画的坐标可以作为GitHub 上的
  • 扩展Android应用程序类

    当我正在寻找从远程设备获取错误报告的解决方案时 就像 iOS 中的试飞应用程序一样 我发现了acra适用于 Android 设备here http code google com p acra wiki BasicSetup 在基本设置中
  • Turbolinks 访问的页面中缺少 hubspot 聊天界面,但可用于全页面刷新

    我想将 hubspot 聊天界面集成到我的 Rails 4 Turbolinks 应用程序中 我已将 Google 跟踪代码管理器配置为在每个页面加载事件中显示支持聊天界面 该界面工作正常 GTM 标签 自定义 html PROBLEM 当
  • 如何从 python 中的字符串中删除 ANSI 转义序列

    这是包含我的字符串的片段 ls r n x1b 00m x1b 01 31mexamplefile zip x1b 00m r n x1b 01 31m 该字符串是从我执行的 SSH 命令返回的 我无法使用当前状态下的字符串 因为它包含 A
  • 具有重复值的 Sqlite 列

    就说专栏吧aSQLite 数据库的非常重复 始终有相同的 4 个值 其他值可能稍后出现 但不同值的数量将少于 1000 个 VALUES hello world it s a shame to store this str many tim
  • NHibernate:无状态会话错误消息无法获取代理

    我正在使用 nHibernate 无状态会话来获取对象 更新一个属性并将对象保存回数据库 我不断收到错误消息 无状态会话无法获取代理 我在其他地方有类似的代码 所以我不明白为什么这不起作用 有谁知道问题可能是什么 我正在尝试更新Screen
  • IIS 中的 WIX 和证书

    我正在尝试设置我的安装 以便使用 WIX 配置我的站点及其证书 我可以在 IIS 中查看证书并有权访问 cer 文件 这就是我对证书的了解 所以请简化任何答案 即我不知道我的 BinaryKey 是什么 该证书已安装在计算机上 理想情况下
  • 如何从我的 appDelegate 访问我的 viewController? iOS系统

    我有一个在 xCode 中创建为 基于视图的应用程序 的 iOS 应用程序 我只有一个 viewController 但它会自动显示 而且我没有看到任何将它与我的 appDelegate 关联的代码 我需要将数据从 appDelegate
  • 如何使用 Microsoft Graph API 更新 MailboxSettings

    我想从不同的日历更新邮箱设置 如何构建可以通过 Microsoft Graph 更新 MailboxSetting 的请求 这是我的代码示例 但有例外 代码示例 User obj GraphServiceClient Users roomC
  • AngularJS 中的全局模拟对象用于 jasmine/karma 测试

    我有一个正在模拟进行单元测试的对象 基本上在我的测试文件中 我将其模拟如下 var mockObject mockMethod1 function return true mockMethod2 function return true b
  • 如何在 Firefox 插件上使用 jQuery 1.5.2+?

    首先 我创建了一个接收参数并返回 jQuery 的函数 例如 function getjQuery window jquery code window return window jQuery 但后来我收到了一封评论电子邮件 他们告诉我必须
  • 在着色器中旋转法线

    我有一个场景 其中有多个具有各自位置和旋转的模型 给定法线 着色器对每个像素应用简单的双向照明 那是我的顶点着色器 version 150 in vec3 position in vec3 normal in vec2 texcoord o

随机推荐

  • 使用C#获取插入行的id

    我有一个查询要在表中插入一行 该表有一个名为 ID 的字段 该字段是使用列上的 AUTO INCRMENT 填充的 我需要为下一个功能获取这个值 但是当我运行以下命令时 它总是返回 0 即使实际值不为 0 MySqlCommand comm
  • iOS 上的自定义键盘:如何访问 UITextField?

    我有一个UIView我分配给文本字段的子类如下 self textField inputView HexKeyboard alloc initWithFrame CGRectMake 0 0 100 100 这有效 即键盘出现 然而 应该如
  • 提取以特定字符开头的几个单词EXCEL

    我有这个公式来提取以给定字符 开头的特定单词 它工作正常 但是 有更多以相同开头的单词 它只会提取第一个单词 如何让它全部提取出来 TRIM LEFT SUBSTITUTE MID B2 FIND B2 LEN B2 REPT 100 10
  • 为 n 维系统实现模块化 Runge-kutta 四阶方法

    我正在尝试使我的 runge kutta 四阶代码模块化 我不想每次使用它时都必须编写和声明代码 但是在 hpp和 cpp文件中声明它以分别使用它 但我遇到了一些问题 一般来说 我想求解 n 维方程组 为此 我使用两个函数 一个用于方程组
  • 如何在谷歌浏览器中创建侧边栏(右侧)?

    似乎这是不可能的 但如果有人提示如何在 google chrome 中创建右侧边栏 如 iframe 任何提示都会有所帮助 谢谢 截至目前 实验性侧边栏 API 已从 Chrome 文档中消失 因为不再有开发人员在处理它 对于现在可以实现的
  • 与循环相比,使用函数有什么优点?

    函数式迭代器似乎正在取代 JS 中 for 循环的使用 传递诸如此类的函数有什么好处map or reduce与 for while 循环相比 var numbers 1 4 9 var doubles numbers map functi
  • 我可以选择性地禁用软件包加载到 VS2010 中吗?

    继续问题来自 VS2010加载缓慢 我可以分析扩展程序各自的启动时间吗 查看日志文件后 发现有一些我没有太多使用的包 我认为 加载时间 包 2s Microsoft VisualStudio TeamArchitect DesignersC
  • 当值为 null 时使用 Thymeleaf

    我的数据库中有一些值 如果尚未输入 则这些值可能为空 但是当我在 html 中使用 Thymeleaf 时 它在解析 null 值时会出错 有什么办法可以处理这个问题吗 最短的方法是使用 操作员 如果您有嵌入地址实体的用户实体 以便访问地址
  • 在 bash 中使用 ${1:1}

    有人知道什么吗 1 1 在 bash 中意味着 例如 for i 0 i lt 1 1 i do addToList 2 done 那是一场狂欢参数扩展 具体来说 parameter offset parameter offset leng
  • 批处理中的 IF 语句导致问题。单独运行时有效吗?

    在工作中 我每天为新用户设置几台计算机 我使用的批处理文件提供了 3 个选项 1 添加新用户 2 更改电脑名称 3 两者皆有 当从自己的批处理文件运行时 它们都工作得很好 但是当将代码复制 粘贴到 IF 语句中时 只有 IF 语句 2 有效
  • JS FileReader 在 safari 中无法工作,但在 chrome 中工作正常

    我创建了显示图像的功能 如果您有任何替代解决方案 请提供帮助 admin previewImage function input selector if input files input files 0 var reader new Fi
  • 设置 PHP 应用程序的默认时区

    我想知道我们是否也可以使用init set 功能设置默认时间 a 我知道我们可以在编辑 php ini 时设置时区 b 在 PHP 上使用 Linux time 命令 c init set date timezone Europe Edin
  • 如何执行大量的承诺? [复制]

    这个问题在这里已经有答案了 我计划在 firebase 上运行大量查询 这些查询可能会增长到数十万甚至数百万的数量级 我一直在使用Promise all 解决我的大部分疑问 但随着请求的增长Promise all 似乎只是停止以随机数运行
  • 生成浮点随机值(也为负值)

    如何在 C 中生成浮点随机值 也消极 一般来说 要从任意分布生成随机数 您首先生成均匀随机数 然后将它们传递给累积分布函数的逆函数 例如 假设您想要在区间 10 0 10 0 上均匀分布的随机数 而您得到的只是 0 0 1 0 中的随机数
  • 如何使用宏为 Scala 案例类中的每个字段生成案例对象?

    我正在尝试生成case objects 代表每个case member每个孩子的case class具有密封特征 我能够在宏中生成代码 但我不知道如何在我的代码中使用它 示例用例 sealed trait Item sealed trait
  • 带有贝塞尔曲线路径的 SCNShape

    我想在 Scenekit iOS 中绘制一条 3d 线 我正在尝试使用下面的代码来绘制线 func path gt UIBezierPath var bPath UIBezierPath bPath moveToPoint CGPointM
  • Python、tkinter 中的多个窗口

    我正在尝试编写一个程序 您可以在其中打开一个单独的测试 调试窗口 例如 第二个窗口包含一些影响主窗口的按钮 我已经尝试了一些事情 我可以打开两个单独的窗口 但我想要绘制的任何内容都是在主窗口中绘制的 import tkinter as tk
  • TortoiseHg 更改默认 .hg 文件夹位置

    是否建议将默认的 hg 文件夹位置更改为中心位置 而不是将 hg 文件夹存储在工作目录下 因为我不小心删除了工作目录并丢失了所有提交历史记录 有没有办法更改 TortoiseHg 中默认的 hg 文件夹位置 或者有什么关于备份存储库的建议吗
  • 如何在 matlab 中以规范表示形式求解线性规划? [关闭]

    很难说出这里问的是什么 这个问题是含糊的 模糊的 不完整的 过于宽泛的或修辞性的 无法以目前的形式得到合理的回答 如需帮助澄清此问题以便重新打开 访问帮助中心 是否可以在matlab中输入这样的字符串 MAX 140 x1 160 x2 x
  • 具有多个任务的分布式官方 Mongodb Kafka 源连接器无法正常工作

    我正在我的 Windows 机器上运行 Apache Kafka 有两个 Kafka Connect Workers 端口 8083 8084 和一个具有三个分区的主题 一个复制 我的问题是 每当我关闭其中一个 Kafka Connect