如何在日志中查看MySqlHook结果

2024-06-03

我在用MySqlHook建立连接气流数据库,并且我正在执行一些查询,但我需要在某处查看查询的结果(比如说日志),我怎样才能看到?

这是示例代码

t1 = MySqlOperator(
    task_id='basic_mysql',
    mysql_conn_id='airflow_db',
    sql="select * from xcom",
    dag=dag)

MySQL 运算符当前(撰写本文时为airflow 1.10.1)不支持在 XCom 中返回任何内容,因此目前的修复方法是自己编写一个小运算符。您可以直接在 DAG 文件中执行此操作:

from airflow.operators.python_operator import PythonOperator
from airflow.operators.mysql_operator import MySqlOperator
from airflow.hooks.mysql_hook import MySqlHook

class ReturningMySqlOperator(MySqlOperator):
    def execute(self, context):
        self.log.info('Executing: %s', self.sql)
        hook = MySqlHook(mysql_conn_id=self.mysql_conn_id,
                         schema=self.database)
        return hook.get_records(
            self.sql,
            parameters=self.parameters)

t1 = ReturningMySqlOperator(
    task_id='basic_mysql',
    mysql_conn_id='airflow_db',
    sql="select * from xcom",
    dag=dag)

def get_records(**kwargs):
    ti = kwargs['ti']
    xcom = ti.xcom_pull(task_ids='basic_mysql')
    string_to_print = 'Value in xcom is: {}'.format(xcom)
    # Get data in your logs
    logging.info(string_to_print)

t2 = PythonOperator(
    task_id='records',
    provide_context=True,
    python_callable=get_records,
    dag=dag)

t1 >> t2
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

如何在日志中查看MySqlHook结果 的相关文章

  • 当上游跳过时气流“none_failed”跳过

    我有一个工作流程 其中有两个并行流程 sentinel run and sentinel skip 应根据条件运行或跳过 然后连接在一起 resolve 我需要直接下游的任务sentinel 任务具有级联跳过 但是当它到达resolve t
  • 如何从 JSON 文件中删除反斜杠

    我想创建一个像这样的 json 文件 946705035 4 946706692 4 我正在选取一个仅包含 Unix 时间戳的列并对它们进行分组 result data Last Modified Date unixtimestamp no
  • pip 安装在共享目录上(Windows)

    我尝试创建自己的 Pypi 存储库 尊重https www python org dev peps pep 0503 https www python org dev peps pep 0503 我的想法是将其放在共享目录中 我使用的是 W
  • 双“for”在列表理解中如何工作?

    因此 有关此问题出现的问题背景 请参阅此link https stackoverflow com questions 48049006 matching states and cities with possibly multiple wo
  • Thread 内调用协程

    是否可以使线程运行方法异步 以便它可以在其中执行协程 我意识到我正在混合范例 我正在尝试集成使用协程的第三方库 而我的项目使用线程 在考虑更新我的项目以使用协程之前 我想探索在线程中执行协程 下面是我的示例用例 其中我有一个线程 但我想从线
  • 如何将 python csv.DictReader 与二进制文件一起使用? (针对babel自定义提取方法)

    我正在尝试为 babel 编写一个自定义提取方法 以从 csv 文件中的特定列中提取字符串 我按照文档进行操作here http babel pocoo org en latest messages html writing extract
  • type: 定义一个只能是某些字符串的类型?

    我怎样才能使用typing模块 创建一个可以是某些字符串的类型 例如 假设我需要一个类型CondOperator 可以是以下任何字符串 gt lt gt lt lt gt 我本来希望CondOperator String gt lt gt
  • 用另一个列表替换列表的扩展切片

    我有一个清单s如下所示 s list range 1 11 我正在更换slice of s 使用下面的代码 s 1 4 0 0 0 0 print s Output 1 0 0 0 0 5 6 7 8 9 10 但是 当尝试分配相同的列表时
  • 如何根据列行拆分数据框

    我有一个 Excel 文件 数据框有 20 行 几行之后再次出现列名称行 我想根据列名称行划分数据帧 这是示例 x 0 1 2 3 4 x 23 34 5 6 预期输出是 df1 x 0 1 2 3 4 df2 x 23 34 5 6 考虑
  • Airflow 不会将日志写入 s3

    我尝试了不同的方法来配置 Airflow 1 9 以将日志写入 s3 但它只是忽略它 我发现很多人在这样做后阅读日志时遇到问题 但我的问题是日志仍然是本地的 我可以毫无问题地读取它们 但它们不在指定的 s3 存储桶中 我尝试的是首先写入ai
  • Python - 使用嵌套列表时奇怪的 IF 语句

    我不明白为什么else条件未通过 有人可以解释为什么吗 Python 3 4 list list of list list append Test list append This list of list append list list
  • 熊猫不工作:DataFrameGroupBy;面板分组依据

    我刚刚升级了 python 但无法让 pandas 正常运行 请参见下文 似乎没有任何效果 回溯 最近一次调用最后一次 文件 Library Frameworks Python framework Versions 3 8 lib pyth
  • Python:kwargs.pop() 和 kwargs.get() 之间的区别

    我已经看到了这两种方法 但我不明白有什么区别以及我应该使用什么作为 最佳实践 def custom function kwargs foo kwargs pop foo bar kwargs pop bar def custom funct
  • AttributeError:尝试删除“/n”时“列表”对象没有属性“替换”

    我有一堆文件需要重命名 我在文本文件中按顺序排列了名称 并且需要删除读取文本文件时插入的换行符 但我不断收到此错误 AttributeError 尝试删除 n 时 列表 对象没有属性 替换 感谢任何和所有的帮助 我真的不知道我在做什么 fr
  • 如何构建可嵌入的 Python

    我想知道如何为 Windows 构建可嵌入的 Python 找不到该特定包的任何信息或构建配置 我问的原因是我可以在 Mac 和 Linux 上使用相同的变体 最近 我必须为 64 位 Python 3 5 6 构建一个可嵌入的 zip 因
  • Python:压平包含另一个生成器的生成器的函数

    我想知道如何编写 python 函数 它可以展平生成器 生成另一个生成器或可迭代对象 也可以生成另一个生成器 可迭代对象 可能是无限的 这是示例 gen gen 1 2 3 gen 4 5 6 7 8 9 gen 10 11 12 gen
  • 类型提示、链式赋值和多重赋值

    我想这两个问题是相关的 所以我将它们放在一起 1 是否可以在链式赋值中放置类型提示 这两次尝试都失败了 gt gt gt def foo a int b int c int a File
  • 在 Python 中计算稀疏 Gram 矩阵的最快方法是什么?

    格拉姆矩阵是结构矩阵X X T这当然是对称的 当处理稠密矩阵时 numpy dot产品实现足够智能 可以识别自乘以利用对称性 从而加快计算速度 请参阅this https stackoverflow com a 50734430 14440
  • 调用 close() 后大文件没有立即刷新到磁盘?

    我正在使用 python 脚本创建大文件 超过1GB 实际上有 8 个 在创建它们之后 我必须创建将使用这些文件的进程 该脚本如下所示 This is more complex function but it basically does
  • 我应该为 MySQL 使用什么 python 3 库? [关闭]

    Closed 此问题正在寻求书籍 工具 软件库等的推荐 不满足堆栈溢出指南 help closed questions 目前不接受答案 据我所知 MySQLdb 仍然没有移植到 Python 3 pypy 上似乎有另一个名为 PyMySQL

随机推荐

  • Prolog - 通过演绎减少知识库

    我需要创建一个规则来搜索与 my rule 匹配的事实 这些事实将用于改变知识库 my rule Conclusion Premise 我有这个知识库可以开始 dynamic is 2 is m1 house is m1 thing is
  • 如何制作可选的强参数键但过滤嵌套参数?

    我的控制器中有这个 params require item permit 让我们假设这个 rspec 规范 它按预期工作 put update id item id item name new name 然而 以下原因ActionContr
  • 如何使用 python-pptx 在 PPT 幻灯片的表格单元格中填充项目符号

    我正在尝试在有表格的 PPT 幻灯片中填充一些值 这些值位于列表中 并希望将它们显示为项目符号点 我正在使用 python pptx 模块进行编码 我怎样才能做到这一点 我尝试了下面的代码 该代码从具有表格占位符的现有布局创建幻灯片 Ins
  • ComboBox.SourceUpdated 事件未触发

    我的视图中有两个组合框 它们都绑定到两个不同的ObservableCollections在 ViewModel 中 当 ComboBox1 中的选定项发生更改时 ComboBox2 将使用不同的集合进行更新 绑定工作得很好 但是 我希望第二
  • string.IsNullOrEmpty() 与 string.NotNullOrEmpty()

    我很好奇是否有开发人员更频繁地使用 string IsNullOrEmpty 来表示负数而不是正数 e g if string IsNullOrEmpty 我99 的时间都是这样使用这个方法的 对此的设计决定是什么 因为 IsNullOrE
  • 如果从源目录导入,则捕获 python 'ImportError' [重复]

    这个问题在这里已经有答案了 当尝试导入模块时foo当在源目录中时 人们会感到相当困惑ImportError信息 ImportError No module named foo 我如何轻松捕获这种情况并返回更具信息性的消息 例如 请不要从源目
  • Git 子模块未在 Jenkins 构建中更新

    我在詹金斯的一个项目中有一个子模块 我已启用高级设置以递归更新子模块 当我运行构建时 我看到工作区包含子模块中的文件 问题是 它似乎是子模块的第一个修订版 当我推送更改 托管在 GitHub 上的存储库 时 Jenkins 似乎没有更新子模
  • 如何在Android中为很长的列表视图上方设置浮动操作按钮的固定位置?

    我正在开发一个 Android 应用程序 主要用于listview 但我在使用时遇到问题Floating Action Button和 一起Long ListView 我的问题如下 当列表视图只有几个项目时 Floating item看得到
  • 如何使用 JavaScript 验证表单? [关闭]

    很难说出这里问的是什么 这个问题是含糊的 模糊的 不完整的 过于宽泛的或修辞性的 无法以目前的形式得到合理的回答 如需帮助澄清此问题以便重新打开 访问帮助中心 help reopen questions 假设我有一个带有一些文本字段和一个提
  • 如何使一个 div 位于另外两个 div 的中间以跨越多行,就像表中的 rowspan 一样

    我已经有一段时间试图避免使用表格来布局元素了 因为我意识到它们并不是为此而设计的 并且像 div p 这样的普通容器元素以及 CSS 足以实现人们可能需要的任何布局 到目前为止 我已经取得了成功 但有一种情况我似乎无法独自克服 我基本上需要
  • 实体框架层次结构的代码优先映射

    我有一个看起来像这样的模型 public class Category public string Id get set public string Description get set public Category Parent ge
  • 如何使用 Python 获取 oauth2 access_token

    对于一个项目 有人给了我这些数据 我在 Postman 中使用这些数据进行测试 在邮递员中 这非常有效 验证网址 https api example com oauth access token https api example com
  • 如何在 UILabel 上创建强烈的红光效果

    我需要在 UILabel 或 CATextLayer 上实现外发光效果 如上所述 我知道要在文本上创建发光效果 我需要偏移量为 0 0 的阴影 我已经接触到quartz2D级别 以下是我正在使用的代码 backgroundDownLabel
  • 从 Splash 请求中读取 cookie

    我在使用 Splash 发出请求后尝试访问 cookie 以下是我构建请求的方式 script function main splash splash init cookies splash args cookies assert spla
  • Liquibase - 生成脚本而不将变更集应用于数据库

    在我当前的项目中 有一个数据库团队在将所有脚本应用于生产之前检查它们 我们使用 Liquibase 将变更集应用于开发 但对于生产 我们需要能够生成包含所有语句的 sql 文件 根据liquibase maven plugin的文档 upd
  • 使用 jQuery 在页面加载时将字符串添加到 url?

    我试图在页面加载时将此特定字符串添加到我的网址末尾 aa campaign f45632 http examplesite com test html http examplesite com test html 它用于营销和跟踪 我试过这
  • Python:如何从另一个程序窗口获取文本标签?

    我想使用 Python 从另一个程序读取文本标签 我想我必须使用 WM GETTEXT 但我不知道如何使用 并且在互联网上找不到任何内容 我的程序获取活动窗口 但不读取文本标签 所以我希望有人可以帮助我 编辑 我添加了缓冲区和 SendMe
  • 更新运行时添加的 JQuery 进度条

    我在更新 jquery 进度条时遇到一些问题 在页面加载期间 此进度条不在文档中 我只是在用户单击按钮时添加它 如下所示 this parent append div class progressbar div this parent ch
  • Apache:“AuthType 未设置!” 500错误

    我已经有一段时间没有使用 Apache httpd Web 服务器了 我正在为一个项目启动本地服务器 当我尝试请求 localhost index html 时 我收到 500 错误 并在错误日志中看到以下内容 Tue Jan 21 09
  • 如何在日志中查看MySqlHook结果

    我在用MySqlHook建立连接气流数据库 并且我正在执行一些查询 但我需要在某处查看查询的结果 比如说日志 我怎样才能看到 这是示例代码 t1 MySqlOperator task id basic mysql mysql conn id