【知识图谱解耦系列】DisenE: Disentangling Knowledge Graph Embeddings

DisenE: Disentangling Knowledge Graph Embeddings

论文来源:未知

论文地址:https://arxiv.org/pdf/2010.14730v1.pdf

代码地址:https://github.com/1599144219/DisenE

1. argue的问题

  • 目前的知识图谱嵌入方法学习到的表示都是不可解释的

2. motivation的来源

  • 实体携带了丰富的信息,这应该被划分为多个组件
  • 不同的关系对实体的表示有不同的影响

在这里插入图片描述

3. contribution有哪些

  • 提出了一个新的视角(解耦)来解决KGE的可解释性问题

4. model framework

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

  • 上述公式的相关解释:

    • 第一行的公式:
      a k 表 示 该 三 元 组 的 形 成 是 因 为 第 k 个 组 件 的 权 重 值 , α k 就 是 在 前 面 的 基 础 上 计 算 一 个 s o f t m a x , 常 规 操 作 a^k表示该三元组的形成是因为第k个组件的权重值,\alpha^k就是在前面的基础上计算一个softmax, 常规操作 akkαksoftmax

    • 第二行的公式:就是普通的知识图谱嵌入的打分公式,文章可能在TransE部分的打分公式写错了

    • 第三行的公式:利用第一行计算出的注意力系数,将K个组件按照权重相加

5. loss function

在这里插入图片描述

在这里插入图片描述

  • 文章中还有一个亮点的地方,是在于提出了两个正则化:目的是让每个组件的表示相互独立

在这里插入图片描述

  • 最终的loss如下:

在这里插入图片描述

. dataset

  • FB15K-237
  • WN18RR

7. result analysis

  • FB15K-237结果的提升大于WN18RR的原因:
    • 可能是因为FB包含更多的关系
  • 这里说利用T-SNE可视化,发现DisenE将关系解耦为了多个独立的组件,我觉得文章没有对关系进行解耦,一直都是在说实体解耦

猜你喜欢

转载自blog.csdn.net/qq_42397330/article/details/119342490
今日推荐