知识图谱最新权威综述论文解读:时序知识图谱部分

2023-05-16

从最近一两年有关知识图谱的顶会论文中可以发现,越来越多的国内外研究者开始关注动态时序知识图谱,可见时序知识图谱已经成为了一大研究趋势,相信之后会有更多相关研究出来。因此,这期我们对综述论文的时序知识图谱部分接着进行解读,同时泽宇给出一些时序知识图谱的研究现状。

当前的知识图谱的研究主要集中在事实不随时间变化的静态知识图谱上,而知识图谱的时序动态性则很少被研究。但是,时间对于表示知识非常重要,因为结构化知识仅在特定时期内有效,事实的发展遵循时间顺序。最近的一些研究开始将时间信息纳入知识图谱表示学习和知识图谱补全中。为了同时学习时间和实体关系的嵌入,已经进行了一些研究工作。

 

1 时序信息嵌入

通过将常见的形式为(h,r,t)的三元组扩展为(h,r,t,τ)的时序四元组,可以在时间感知嵌入中考虑时间信息,其中τ提供有关何时事实能够成立的额外时间信息。Leblay和Chekol [1] 研究了带时间标注的三元组的时间范围预测,并简单地扩展了现有的嵌入方法,例如,定义了基于向量的TTransE算法:

时间范围内的四元组通过添加时间范围[τs,τe]来扩展三元组,其中τs和τe代表三元组有效期的开始和结束时间点,然后,如果给定了静态子图Gτ,则可以从动态知识图谱得出特定时间戳τ。HyTE [2] 将时间戳表示为超平面wτ并将实体和关系表示投影在超平面上得到新的表示为

时序投影后的打分函数为:

这时,我们的期望约束条件为:

Garc´ıa-Duran等 [3] 将谓词序列token和时间序列token进行了拼接,并使用LSTM编码拼接后的时间感知谓词序列。LSTM的最后一个隐层状态作为时间感知的关系嵌入表示rtemp 。进一步,设计扩展的TransE和DistMult的打分函数分别为

通过将一个实体e的上下文定义为一个包含e的事实的集合,Liu等人[4] 提出了上下文选择机制以捕捉有用的上下文信息,并测量其与选定的上下文信息的时间一致性。

 

2 动态实体

现实发生的事件会改变实体的状态,并因此影响对应的关系。为了提高时序推理能力,上下文时序轮廓模型[5] 将时序问题建模为状态变化检测,并且使用上下文信息来学习状态和状态变化向量。Knowl-evolve[6] 是一个深度演化知识网络,能够发掘实体和关系的知识演化趋势。一个多多元时间点过程被用来建模事件的发生,并且提出一个新的循环神经网络来学习非线性时序演化的表示。为了取得节点之间的交互,RENET [7] 利用基于RNN的事件编码器和邻居聚合器建模了事件序列。具体来说,RNN用于捕捉动态实体交互,并发交互可以由邻域聚合器聚合得到。

 

3 时序关系的依存

根据时间线,关系链条中存在时序依存的特性,例如,wasBornIn →graduateFrom → workAt → diedIn这样一个关系链条,其中的关系由于存在时序依存约束所以需要满足一定的先后顺序。Jiang 等人 [8], [9] 提出时间感知的嵌入,这是一种考虑时序正则约束的联合学习框架,为了能够结合时间的次序和一致性信息。研究者定义了一个时序打分函数

这里

是一个能够编码时序关系对的对称矩阵。并且作者能够将不相交、有序和跨度这三个时间一致性约束进一步通过整形线性规划应用在时序关系的建模中。

 

4 时序逻辑推理

逻辑规则也能够用于时序推理。Chekol 等人[10] 在不确定性时序知识图谱上将马尔可夫逻辑网和概率软逻辑用于时序推理。RLvLR-Stream模型[11] 考虑时序封闭路径规则,能从知识图谱的时序变化中学习规则的结构并用于推理。

 

5 时序知识图谱Github项目

泽宇发现GitHub上也有一些比较好的时序知识图谱相关的项目,在这里分享给大家:

时序知识图谱补全综述:

https://github.com/woojeongjin/dynamic-KG

时序与演化知识图谱综述:

https://github.com/shengyp/Temporal-and-Evolving-KG

HyTE:

https://github.com/malllabiisc/HyTE

Know-Evolve:

https://github.com/rstriv/Know-Evolve

RENET:

https://github.com/INK-USC/RE-Net

 

参考文献

[1] J. Leblay and M. W. Chekol,“Deriving validity time in knowledge graph,” in WWW, 2018, pp. 1771–1776.

[2] S. S. Dasgupta, S. N. Ray, andP. Talukdar, “Hyte: Hyperplanebased temporally aware knowledge graphembedding,” in EMNLP, 2018, pp. 2001–2011.

[3] A. Garc´ıa-Duran, S. Duman´cic, and M. Niepert, “Learning sequence encoders for temporal knowledge graph completion,” in EMNLP, 2018, pp. 4816–4821.

[4] Y. Liu, W. Hua, K. Xin, and X.Zhou, “Context-aware temporal knowledge graph embedding,” in WISE, 2019, pp.583–598.

[5] D. T. Wijaya, N. Nakashole, andT. M. Mitchell, “CTPs: Contextual temporal profiles for time scoping factsusing state change detection,” in EMNLP, 2014, pp. 1930–1936.

[6]R. Trivedi, H. Dai, Y. Wang,and L. Song, “Know-evolve: Deep temporal reasoning for dynamic knowledge graphs,” in ICML, 2017, pp. 3462–3471.

[7] W. Jin, C. Zhang, P. Szekely,and X. Ren, “Recurrent event network for reasoning over temporal knowledge graphs,” in ICLR RLGM Workshop, 2019.

[8] T. Jiang, T. Liu, T. Ge, L.Sha, B. Chang, S. Li, and Z. Sui, “Towards time-aware knowledge graph completion,” in COLING, 2016, pp. 1715–1724.

[9] T. Jiang, T. Liu, T. Ge, L.Sha, S. Li, B. Chang, and Z. Sui, “Encoding temporal information for time-aware link prediction,” in EMNLP, 2016, pp. 2350–2354.

[10] M. W. Chekol, G. Pirro, J.Schoenfisch, and H. Stuckenschmidt, “Marrying uncertainty and time in knowledge graphs,” in AAAI, 2017, pp. 88–94.

[11] P. G. Omran, K. Wang, and Z.Wang, “An embedding-based approach to rule learning in knowledge graphs,” IEEE TKDE, pp. 1–12, 2019.

 

往期精选:

年末巨制:知识图谱嵌入方法研究总结

速览EMNLP 2020上录取的知识图谱相关论文

介绍一些知识图谱的实际应用类项目

知识图谱最新权威综述论文解读:知识表示学习部分

手把手教你搭建一个中式菜谱知识图谱可视化系统

 

如果对文章感兴趣欢迎关注知乎专栏“人工智能遇上知识图谱“,也可以扫描下方二维码关注同名微信公众号人工智能遇上知识图谱”,让我们一起学习并交流讨论人工智能与知识图谱技术。

                                            

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

知识图谱最新权威综述论文解读:时序知识图谱部分 的相关文章

随机推荐

  • R 实现熵权法计算权重

    按照信息论基本原理的解释 xff0c 信息是系统有序程度的一个度量 xff0c 熵是系统无序程度的一个度量 xff1b 根据信息熵的定义 xff0c 对于某项指标 xff0c 可以用熵值来判断某个指标的离散程度 xff0c 其信息熵值越小
  • R实现KMeans聚类算法教程

    本文和你一起学习无监督机器学习算法 kmeans算法 xff0c 并在R中给详细的实现示例和步骤 什么是k means聚类算法 聚类是从数据集中对观测值进行聚类的机器学习方法 它的目标是聚类相似观测值 xff0c 不同类别之间差异较大 聚类
  • 使用gopsutil获取OS信息

    生产环境通常需要掌握主机硬盘 CPU 内存 进程等资源使用情况 xff0c 可以执行系统命令获得 xff0c 通过os exec执行命令 xff0c 如 xff1a ps cd top xff0c 然后解析命令执行结果 对于linux操作系
  • gcc工具小结

    关于 l和 Wall选项的解析 xff1a Wall 打开gcc的所有警告 l参数就是用来指定程序要链接的库 xff0c l参数紧接着就是库名 xff0c 那么库名跟真正的库文件名有什么关系呢 xff1f 就拿数学库来说 xff0c 他的库
  • 如何在Java中调用Python

    Python语言有丰富的系统管理 数据处理 统计类软件包 xff0c 因此从java应用中调用Python代码的需求很常见 实用 DataX 是阿里开源的一个异构数据源离线同步工具 xff0c 致力于实现包括关系型数据库 MySQL Ora
  • ClickHouse 基于角色访问控制(RBAC)最佳实践

    本文介绍ClickHouse RBAC访问控制模型 包括如何启用SQL管理 xff0c 创建管理员用户 xff0c 创建角色 xff0c 授权 xff0c 细粒度列和行级授权 并通过示例进行验证实现过程 启用RBAC 在users xml中
  • R语言中mean函数

    mean函数是求算术平均值 用法 xff1a mean x trim 61 0 na rm 61 FALSE x是数值型 逻辑向量 trim表示截尾平均数 xff0c 0 0 5之间的数值 xff0c 如 xff1a 0 10表示丢弃最大1
  • 使用Spring @DependsOn控制bean加载顺序

    使用Spring 64 DependsOn控制bean加载顺序 spring容器载入bean顺序是不确定的 xff0c spring框架没有约定特定顺序逻辑规范 但spring保证如果A依赖B 如beanA中有 64 Autowired B
  • 使用R中merge()函数合并数据

    使用R中merge 函数合并数据 在R中可以使用merge 函数去合并数据框 xff0c 其强大之处在于在两个不同的数据框中标识共同的列或行 如何使用merge 获取数据集中交叉部分 merge 最简单的形式为获取两个不同数据框中交叉部分
  • 介绍java中Pair

    介绍java中Pair 在这篇文章中 xff0c 我们讨论了一个非常有用的编程概念 xff0c 配对 Pair 配对提供了一种方便方式来处理简单的键值关联 xff0c 当我们想从方法返回两个值时特别有用 在核心Java库中可以使用配对 Pa
  • python numpy 中linspace函数

    python numpy 中linspace函数 numpy提供linspace函数 有时也称为np linspace 是python中创建数值序列工具 与Numpy arange函数类似 xff0c 生成结构与Numpy 数组类似的均匀分
  • Spring框架学习重点概要笔记(一)

    spring框架的注解实现 xff1a xff08 1 xff09 首先在spring的核心配置文件中开启注解配置 xff1a xff08 2 xff09 64 Component 目前Spring中提供了四个注解 xff0c 相当于时Co
  • 做个爱读书的程序员

    很多时候我们抱怨工作过于忙碌 xff0c 疲于应付各种事情 但是往往即使有时间也总是会无所事事地浪费掉 xff0c 我们可以找很多理由去给自己解脱 xff0c 固然是想在忙碌之外给自己放松一下 xff0c 大多却是过于可惜的时候 今天跟一个
  • xming Error: Can‘t open display:

    运行 xclock xhost 报错 xff1a xming Error Can 39 t open display 需要安装xorg x11 xauth在运行 xclock 或 xhost root 64 stone yum y inst
  • onItemClickListener不起作用解决办法2(原创)

    写这边文章之前 xff0c 犹豫再三 xff0c 不知道会不会冒犯一位朋友 xff0c 他给我之前的一篇文章提出的意见 但我声明真心无意 xff0c 只是想把问题拿出来分析一下 xff0c 希望获得理解 listview在android开发
  • 关于STM32系列串口打印乱码原因解析

    STM32打印串口乱码 xff0c 如果你的配置确认没有问题 xff0c 那么最有可能是 HSE VALUE 这个值不对 xff0c 你可能使用的是一份demo程序 xff0c 而demo程序的时钟晶振和你的时钟晶振不一定都是一样 xff0
  • node.js提取html中的内部引入css和js代码,并修改为外部引入

    前提 xff1a 配置好node环境 xff0c 能够使用终端 xff08 cmd或Windows PowerShell xff09 node命令运行js文件 nodejs安装教程 某位大佬整理的nodejs入门教程 node xxx sp
  • Ffplay视频播放流程

    背景说明 FFmpeg是一个开源 xff0c 免费 xff0c 跨平台的视频和音频流方案 xff0c 它提供了一套完整的录制 转换以及流化音视频的解决方案 而ffplay是有ffmpeg官方提供的一个基于ffmpeg的简单播放器 学习ffp
  • 统计机器学习方法 for NLP:基于LSA的主题模型

    前言 最近在重刷李航老师的 统计机器学习方法 尝试将其与NLP结合 xff0c 通过具体的NLP应用场景 xff0c 强化对书中公式的理解 xff0c 最终形成 统计机器学习方法 for NLP 的系列 这篇将介绍潜在语义分析LSA xff
  • 知识图谱最新权威综述论文解读:时序知识图谱部分

    从最近一两年有关知识图谱的顶会论文中可以发现 xff0c 越来越多的国内外研究者开始关注动态时序知识图谱 xff0c 可见时序知识图谱已经成为了一大研究趋势 xff0c 相信之后会有更多相关研究出来 因此 xff0c 这期我们对综述论文的时