DisenE: Disentangling Knowledge Graph Embeddings
论文来源:未知
论文地址:https://arxiv.org/pdf/2010.14730v1.pdf
代码地址:https://github.com/1599144219/DisenE
1. argue的问题
- 目前的知识图谱嵌入方法学习到的表示都是不可解释的
2. motivation的来源
- 实体携带了丰富的信息,这应该被划分为多个组件
- 不同的关系对实体的表示有不同的影响
3. contribution有哪些
- 提出了一个新的视角(解耦)来解决KGE的可解释性问题
4. model framework
-
上述公式的相关解释:
-
第一行的公式:
a k 表 示 该 三 元 组 的 形 成 是 因 为 第 k 个 组 件 的 权 重 值 , α k 就 是 在 前 面 的 基 础 上 计 算 一 个 s o f t m a x , 常 规 操 作 a^k表示该三元组的形成是因为第k个组件的权重值,\alpha^k就是在前面的基础上计算一个softmax, 常规操作 ak表示该三元组的形成是因为第k个组件的权重值,αk就是在前面的基础上计算一个softmax,常规操作 -
第二行的公式:就是普通的知识图谱嵌入的打分公式,文章可能在TransE部分的打分公式写错了
-
第三行的公式:利用第一行计算出的注意力系数,将K个组件按照权重相加
-
5. loss function
- 文章中还有一个亮点的地方,是在于提出了两个正则化:目的是让每个组件的表示相互独立
- 最终的loss如下:
. dataset
- FB15K-237
- WN18RR
7. result analysis
- FB15K-237结果的提升大于WN18RR的原因:
- 可能是因为FB包含更多的关系
- 这里说利用T-SNE可视化,发现DisenE将关系解耦为了多个独立的组件,我觉得文章没有对关系进行解耦,一直都是在说实体解耦