还有一个“此 DAG 在网络服务器 DagBag 对象中不可用”

2024-04-11

这似乎是一个相当普遍的问题。我有一个 DAG,我不仅可以手动触发它airflow trigger_dag,但它甚至按照其时间表执行,但拒绝显示在 UI 中。

我已经多次重新启动网络服务器和调度程序,按“刷新”十亿次,然后运行它airflow backfill。有人还有其他想法吗?我可以提供其他相关信息吗?

我使用的是 Airflow 1.9.0。


在过去的几个小时里我一直在调试这个确切的问题。这似乎是由于 DAG 中的静默错误造成的。在这里为下一个可怜的灵魂留下我的笔记。

因此,就我而言,此错误是由于我的 DAG 中的以下代码块造成的:

这失败了:

def read_lakes_id_file_simple():
    LAKES_ID_FILE = "/home/airflow/gcs/data/lakes_to_monitor.json"
    with open(LAKES_ID_FILE) as json_file:
        data = json.load(json_file)
    return data

这通过:

def read_lakes_id_file_simple():
    try:
        LAKES_ID_FILE = "/home/airflow/gcs/data/lakes_to_monitor.json"
        with open(LAKES_ID_FILE) as json_file:
            data = json.load(json_file)
        return data
    except Exception as e:
        return 'LOTS OF LAKES'

所以我猜测当调度程序读取/检查时,第一个会以某种方式失败,也许是因为它找不到文件,或者诸如此类的东西,而第二个成功是因为它由工作人员在正确的路径中运行。 (或者可能是其他东西。)似乎很清楚的是,加载/运行 DAG 时有两种不同的运行和行为,其中一种默默失败,而另一种则成功。

这会导致奇怪的行为,例如 DAG 第一次运行良好,然后从 Airflow Web 界面中消失。

所以我给你的建议是添加try/except任何可能符合要求的东西,作为调试代码的一种方式。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

还有一个“此 DAG 在网络服务器 DagBag 对象中不可用” 的相关文章

随机推荐

  • 如何将时间值的 NSString 表示形式转换为包含小时和分钟的两个 NSInteger?

    我正在深入研究 iOS 开发和 Objective C 语言 并正在构建一个闹钟应用程序以熟悉 SDK 和语言 我有一个NSString代表时间的对象 其范围 1 00 am to 12 59 am 我需要转换这个NSString一分为二N
  • data-reactroot 与 React 中的 Hydro 函数相关吗?

    我试图理解两者之间有什么区别ReactDOMServer renderToString and ReactDOMServer renderToStaticMarkup 在 React 16 8 6 上 这是我的理解 renderToStat
  • nosql 是什么意思?有人可以用简单的话向我解释一下吗?

    在这篇文章中堆栈溢出架构 http highscalability com stack overflow architecture我读到了一些叫做 nosql 的东西 我不明白它的意思 我试图在谷歌上搜索 但接缝我无法确切地了解它是什么 谁
  • 拖动手势活动时未引发 JavaFX KeyEvent

    所以我的问题是这样的 我正在实现一个 UI 创建工具 需要使用边缘上的拖动手势来调整元素的大小 当在检查是否按下修饰键时执行此拖动 即实现统一缩放 时会出现问题 当拖动手势处于活动状态时 永远不会引发键事件 因此我无法在拖动期间激活 停用此
  • Python 内置函数“compile”。它是干什么用的?

    我遇到了一个内置函数compile http docs python org 2 7 library functions html compile今天 虽然我阅读了文档 但仍然不明白它的用法或适用的地方 请任何人都可以举例说明此功能的使用
  • Python + Twisted + sqlanydb = abort()

    我通过官方 sqlanydb 驱动程序将 Twisted 11 与 SQLAnywhere 12 一起使用 一般来说 它工作得很好 但有时应用程序会因第一个查询中止而崩溃 如果一个查询有效 那么接下来的所有查询也都有效 然而我的测试很少通过
  • 如何检查数组是否多次具有值

    我想看看一个数组是否多次具有相同的值 例如 array array val1 val2 val3 val1 如您所见 在上面的数组中 有 2 x val1 要搜索数组是否包含值 我可以使用 in array 来完成 search in ar
  • PHPMyAdmin / MySql - 添加 ID 字段并自动填充 ID 号

    我有一个非常大的数据库表 近 2000 万条记录 这些记录没有唯一的 ID 号 所以 我插入了新字段 现在 我想用 ID 号填充它 从第一个 ID 号 10 000 001 开始增加 1 仅供参考 我在本地计算机上使用 WAMP 并且我已将
  • 在 keyup 事件上跳过 Primefaces 输入文本的验证,但在提交时验证

    我对输入文本有两个要求 p inputText 的值应立即通过 keyup event 显示在屏幕上的 h outputText 中 该值在数据库中应该是唯一的 我正在使用 Primefaces 4 0 JSF 2 2 以及 Glassfi
  • 将 DBF 文件导入 Sql Server

    我需要一些帮助来解决这个问题 因为我是存储过程的新手 我正在尝试使用此存储过程将 DBF 表导入到 Sql Server 2008 中 CREATE PROCEDURE spImportDB Add the parameters for t
  • 使用异常映射器的 JAX-RS

    我读到我可以创建一个实现javax ws rs ext ExceptionMapper它将把抛出的应用程序异常映射到Response目的 我创建了一个简单的示例 如果在保留对象时电话长度大于 20 个字符 该示例将引发异常 我期望异常映射到
  • 如何调整flexdashboard中的表格高度?

    我有一个 Flexdasboard 其中一个页面包含 1 个绘图 然后在其下面有一个表格 该表当前已被压缩 因此虽然它显示 25 行 但它们都在滚动选项中 因此您一次只能查看其中 2 行 我怎样才能改变这个 我目前正在使用以下代码进行编码
  • FluidPage 中的框,基本闪亮

    是否可以在经典闪亮应用程序中使用 box 元素 作为经典应用程序 我的意思是不是闪亮的仪表板 是的 这是可能的 你可以使用使用Shinydashboard https www rdocumentation org packages shin
  • 如何设置rdlc或ssrs报告中表格的最小行数?

    假设我想在表中设置最小行 当我的数据在表中未满时 只需插入空白行即可完全填充它 这个问题看起来很简单 但找到解决方案确实很难 所以我需要在这里分享一下 1 在表格中设置标题和1个绑定明细行 2 在表中插入空白行 只要您想要填充该行 组外 3
  • TCP 套接字到 Websocket?

    那里有很多 websocket gt 套接字包装器 比如网络套接字 https github com kanaka websockify 但是有相反的可用吗 具体来说 我希望能够使用应用程序连接到 TCP 套接字 并将代理转换为 webso
  • 在其他类构造函数中使用参数化构造函数

    我担心这是一个非常基本的问题 但是我还无法解决它 我有一个class A classA h class ClassA public ClassA ClassA int foo private int foo classA cpp Class
  • 如何在KafkaStream应用程序中获取partitionId和TopicName

    我们如何从 KafkaStream 获取主题名称和分区 id 对于任何其他 Kafka 消费者 我们可以获得主题名称和分区 ID 如下所示 ConsumerRecords
  • Excel 添加从 1 开始的列,递增到 24,然后重置 [关闭]

    Closed 这个问题不符合堆栈溢出指南 help closed questions 目前不接受答案 这个问题似乎不是关于主要由程序员使用的特定编程问题 软件算法或软件工具 help on topic 如果您认为该问题与主题相关另一个 St
  • 数据溢出导致转换失败(数值)

    我试图将数据从 dbf 文件移动到 SQL Server 2008 中的表 但在多个数字列上收到以下错误 链接服务器 null 的 OLE DB 提供程序 MSDASQL 返回消息 多步 OLE DB 操作生成错误 检查每个 OLE DB
  • 还有一个“此 DAG 在网络服务器 DagBag 对象中不可用”

    这似乎是一个相当普遍的问题 我有一个 DAG 我不仅可以手动触发它airflow trigger dag 但它甚至按照其时间表执行 但拒绝显示在 UI 中 我已经多次重新启动网络服务器和调度程序 按 刷新 十亿次 然后运行它airflow