《用于实体对齐的多视角知识图谱嵌入》 Multi-view Knowledge Graph Embedding for Entity Alignment

相关博客：
【自然语言处理】【知识图谱】利用属性、值、结构来实现实体对齐
【自然语言处理】【知识图谱】基于图匹配神经网络的跨语言知识图谱对齐
【自然语言处理】【知识图谱】使用属性嵌入实现知识图谱间的实体对齐
【自然语言处理】【知识图谱】用于实体对齐的多视角知识图谱嵌入
【自然语言处理】【知识图谱】MTransE：用于交叉知识对齐的多语言知识图谱嵌入
【自然语言处理】【知识图谱】SEU：无监督、非神经网络实体对齐超越有监督图神经网络？

一、简介

实体对齐(Entity Alignment)的目标是找出不同知识图谱中的相同实体，该任务在知识图谱构建、融合以及下游任务中扮演着重要的角色。

传统的实体对齐方法主要是基于字符串相似度来实现的，但是这种方法会面临图谱间语义异构性问题。最近的趋势，则是使用知识图谱嵌入的方式来解决这个问题。虽然，目前基于嵌入的实体对齐方法能够达到一个不错的效果，但是仍然面临着两大限制：

1. 实体特征利用不充分

   知识图谱中的实体有着各种各样的特征，但是目标基于嵌入的实体对齐方法仅利用了其中的1到2种。例如，MTransE、IPTransE和BootEA仅利用了图谱中的关系结构；而JAPE、KDCoE和AttrE则进一步利用了文本属性。事实上，实体不同类型的特征代表了实体的不同方面，将这些特征利用起来将能够改善准确率和健壮性。

2. 依赖种子对齐实体

   目前基于嵌入的实体对齐方法非常依赖种子对齐实体。然而，在实际中，种子对齐实体获取成本高昂。若能够从各种特征中学习到实体的嵌入向量，那么将能进一步减少对种子对齐实体的依赖。

为了解决上面2个限制，论文提出了一种基于多视角知识图谱嵌入的实体对齐框架，称为$\text{MultiKE}$。该框架的核心思想是，将知识图谱中的各种特征分割为多个子集，称为视角(view)。然后从每个视角来学习实体的嵌入向量并进行联合优化，实现对实体对齐任务的改善。

论文的主要贡献：

• 定义了名称、关系和属性三种视角，按三种视角对知识图谱进行划分，并使用合适的模型来分别学习对应视角的嵌入向量。
• 论文设计了2种交叉图谱身份推断方法，分别是：实体、关系和属性，其能够改善实体对齐的效果。
• 提出了三种将不同视角嵌入向量进行合并的策略。
• 实验证明$\text{MultiKE}$的效果好于已经的基于嵌入的实体对齐方法，并且交叉图谱身份推断和合并策略对最终效果均有贡献。

二、多视角知识图谱嵌入

1. 问题定义

论文为实体对齐设计了三种视角，分别为：名称视角(name view)、关系视角(relation view)和属性视角(attribute view)。其中

• 名称(name)描述了实体的基本且关键的信息，知识图谱中实体的名称通常是由$rdfs:label$或者实体URI的本地名称所确定的。
• 在知识图谱的元数据中定义了属性和关系，这两个特征能够丰富的描述实体内容和外在的信息。

基于三种视角的划分，论文将知识图谱形式化为7元组$\mathcal{G}=(\mathcal{E},\mathcal{R},\mathcal{A},\mathcal{V},\mathcal{N},\mathcal{X},\mathcal{Y})$，其中$\mathcal{E},\mathcal{R},\mathcal{A},\mathcal{V}$分别表示实体、关系、属性和属性值的集合，$\mathcal{N}\subseteq \mathcal{E}\times \mathcal{V}$表示实体的名称视角，$\mathcal{X}\subseteq \mathcal{E}\times \mathcal{R}\times \mathcal{E}$表示实体的关系视角，$\mathcal{Y}\subseteq \mathcal{E}\times \mathcal{A}\times \mathcal{V}$表示实体的属性视角。

给定一个源知识图谱${\mathcal{G}}_a=({\mathcal{E}}_a,{\mathcal{R}}_a,{\mathcal{A}}_a,{\mathcal{V}}_a,{\mathcal{N}}_a,{\mathcal{X}}_a,{\mathcal{Y}}_a)$和目标知识图谱${\mathcal{G}}_b=({\mathcal{E}}_b,{\mathcal{R}}_b,{\mathcal{A}}_b,{\mathcal{V}}_b,{\mathcal{N}}_b,{\mathcal{X}}_b,{\mathcal{Y}}_b)$，实体对齐任务的目标就是找到一组相同的实体 M = { ( e i , e j ) ∈ E a × E b ∣ e i ≡ e j } \mathcal{M}=\{(e_i,e_j)\in \mathcal{E_a\times E_b}|e_i\equiv e_j\} M={(ei​,ej​)∈Ea​×Eb​∣ei​≡ej​}，其中$\equiv$表示等价关系。

notation

论文使用黑体小写字母来表示实体的嵌入向量，黑体大写字母表示矩阵。嵌入向量的括号上标表示该向量来自哪个视角，${}^{(1)}{,}^{(2)}{,}^{(3)}$分别表示名称、关系、属性视角。

2. 属性值(Literal)嵌入

属性值通常是由token序列组成，其是其他视角进行嵌入的基础。令$l=(o_1,o_2,\dots ,o_n)$表示具有$n$个token的属性值，$LP(\cdot )$是一个将输入token映射为嵌入向量的函数。为了解决语义异构性、捕获语义本质，定义$LP$为
$$\text{LP}(o_i)=\{\begin{array}{l}\text{word\_embed}(o_i)，若o_i有词向量\\ \text{char\_embed}(o_i)，否则\end{array}$$
其中，$\text{word\_embed}(\cdot )$函数会返回给定token的词向量，$\text{char\_embed}(\cdot )$则返回给定token字符向量的平均值，而字符向量是在语料${\mathcal{V}}_a\cup {\mathcal{V}}_b$上是有Skip-gram训练所得。

基于每个单词的嵌入向量，使用$\varphi (\cdot )$表示将属性值映射为向量的函数
$$\varphi (l)=\text{encode}([\text{LP}(o_1);\text{LP}(o_2);\dots ;\text{LP}(o_n)])$$
其中，$\text{encode}(\cdot )$表示一个自编码器，用于压缩输入的向量；$[;]$表示向量拼接操作。

此外，实验中属性值的最大token数量为5，太长会被截断，太短会使用字面值进行填充。

3.名称视角嵌入

使用上面的属性值嵌入(literal embedding)直接嵌入实体的名称。给定实体$h$，其名称嵌入为：
$${\text{h}}^{(1)}=\varphi (name(h))$$
其中，$name(\cdot )$用于提取输入实体的名称。将姓名视角下的实体嵌入向量记为${\Theta }^{(1)}$。

4. 关系视角嵌入

关系视角描述了知识图谱的结构化信息，这里使用TransE来嵌入关系。

给定一个关系$(h,r,t)$，使用下面的函数来评估嵌入向量的正确性，
$$f_{rel}({\text{h}}^{(2)},\text{r},{\text{t}}^{(2)})=-||{\text{h}}^{(2)}+\text{r}-{\text{t}}^{(2)}||$$
其中，$||\cdot ||$表示$L_1$或者$L_2$范数。

三元组$(h,r,t)$为真实三元组的概率为

$${\mathcal{P}}_{rel}({\zeta }_{(h,r,t)}=1|{\Theta }^{(2)})=\text{sigmoid}(f_{rel}({\text{h}}^{(2)},\text{r},{\text{t}}^{(2)}))$$
其中，${\Theta }^{(2)}$表示在关系视角下的嵌入向量，${\zeta }_{(h,r,t)}$表示$(h,r,t)$是否是真实三元组的标签(1或-1)。

最小化下面的$\text{logistic loss}$来获得嵌入向量${\Theta }^{(2)}$，
$$\mathcal{L}({\Theta }^{(2)})=\sum _{(h,r,t)\in {\mathcal{X}}^{+}\cup {\mathcal{X}}^{-}}log(1-exp(-{\zeta }_{(h,r,t)}{f}_{rel}({\text{h}}^{(2)},\text{r},{\text{t}}^{(2)})))$$
其中，${\mathcal{X}}^{+}={\mathcal{X}}_a\cup {\mathcal{X}}_b$源和目标知识图谱中的真实三元组，${\mathcal{X}}^{-}$则是通过替换头和尾生成的假三元组。

5. 属性视角嵌入

对于属性视角，这里使用CNN来提取属性和值的特征。具体来说，将属性$a$和其取值$v$的向量表示拼接至一个矩阵中，即$⟨\text{a};\text{v}⟩\in {\mathbb{R}}^{2\times d}$。将这个矩阵输入到CNN中，获取压缩后的向量表示
$$\text{CNN}(⟨\text{a;v}⟩)=\sigma (vec(\sigma (⟨\text{a;v}⟩\ast \Omega ))\text{W})$$

• 其中，$\text{CNN}(\cdot )$表示卷积操作，其卷积核$\Omega$的尺寸为$2\times c(c<d)$。

• 由卷积操作获得的特征通过函数$vec(\cdot )$重塑为向量，然后通过参数矩阵$\text{W}$将其投影到知识图谱的嵌入空间中。

• $\sigma (\cdot )$是激活函数。

给定一个属性三元组$(h,a,v)$，可以定义下面的评分函数了度量其是否是真实三元组
$$f_{attr}({\text{h}}^{(3)},\text{a,v})=-||{\text{h}}^{(3)}-\text{CNN}(⟨\text{a;v}⟩)||$$
在上面的评分函数中，头实体$h$与其属性及取值越接近，则真实度越高。

通过下面的loss来实现这个目标
$$\mathcal{L}({\Theta }^{(3)})=\sum _{(h,a,v)\in {\mathcal{Y}}^{+}}log(1+exp(-f_{attr}({\text{h}}^{(3)},\text{a,v})))$$
其中，${\mathcal{Y}}^{+}={\mathcal{Y}}_a+{\mathcal{Y}}_b$表示源和目标知识图谱中的所有属性三元组。${\Theta }^{(3)}$表示在属性视角下的知识图谱嵌入。(这里不做负采样，因为并不会对实体对齐有改善作用)

三、用于实体对齐的交叉知识图谱训练

1. 实体身份推断

直觉：若两个关系三元组对齐，那么互换其中的实体并不会改变这两个三元组为真实三元组的概率。

具体来说，给定一个关系三元组$(h,r,t)$，若实体对$(h,\hat{h})$为种子对齐实体，那么计算下面的辅助概率
$${{\mathcal{P}}^{\prime }}_{rel}({\zeta }_{(h,r,t)}=1|{\Theta }^{(2)})=\text{sigmoid}(f_{rel}({\hat{\text{h}}}^{(2)},\text{r},{\text{t}}^{(2)}))$$
同理，若实体对$(t,\hat{t})$也是种子对齐实体，再计算下面的辅助概率
$${{\mathcal{P}}^{\prime \prime }}_{rel}({\zeta }_{(h,r,t)}=1|{\Theta }^{(2)})=\text{sigmoid}(f_{rel}({\text{h}}^{(2)},\text{r},{\hat{\text{t}}}^{(2)}))$$
最小化下面的loss，从而使关系视角嵌入满足直觉
$$\begin{gathered} {\mathcal{L}}_{CE}({\Theta }^{(2)})=\sum _{(h,r,t)\in {\mathcal{X}}^{\prime }}log(1+exp(-f_{rel}({\hat{\text{h}}}^{(2)},\text{r},{\text{t}}^{(2)}))) \\ +\sum _{(h,r,t)\in {\mathcal{X}}^{\prime \prime }}log(1+exp(-f_{rel}({\text{h}}^{(2)},\text{r},{\hat{\text{t}}}^{(2)}))) \end{gathered}$$
其中，${\mathcal{X}}^{\prime }$和${\mathcal{X}}^{\prime \prime }$表示头或者尾实体在种子对齐实体中的关系三元组集合。

在属性视角下的身份推断类似，最小化损失函数${\mathcal{L}}_{CE}({\Theta }^{(3)})$，
$${\mathcal{L}}_{CE}({\Theta }^{(3)})=\sum _{(h,a,v)\in {\mathcal{Y}}^{\prime }}log(1+exp(-f_{attr}({\hat{\text{h}}}^{(3)},\text{a,v})))$$
其中，${\mathcal{Y}}^{\prime }$表示头实体为种子等价实体的属性三元组。

2. 关系和属性身份推断

类似于实体身份推断，这里也为交叉图谱中的关系和属性身份推断添加了辅助函数。

先考虑关系，给定一个关系三元组$(h,r,t)$，其中关系对$(r,\hat{r})$构成了对齐关系，那么有
$${\mathcal{P}}_{rel}^{{}^{\prime \prime \prime }}({\zeta }_{(h,r,t)}=1|{\Theta }^{(2)})=\text{sigmoid}(f_{rel}({\text{h}}^{(2)},\hat{\text{r}},{\text{t}}^{(2)}))$$
不同于前面的实体身份推断，这里不假设种子对齐关系和种子对齐实体存在，而是提出一种软对齐方法来对齐关系和属性。

事实上，由于知识图谱元数据的异构性，要找出对齐的关系和属性要比实体更难。因此，软关系对齐通过下式进行计算
S r e l = { r , r ^ , s i m ( r , r ^ ) ∣ s i m ( r , r ^ ) ≥ η } \mathcal{S}_{rel}=\{r,\hat{r},sim(r,\hat{r})|sim(r,\hat{r})\geq\eta\} Srel​={r,r^,sim(r,r^)∣sim(r,r^)≥η}
其中，$r,\hat{r}$是来自不同知识图谱的关系，$sim(r,\hat{r})$表示相似关系间的相似度，$\eta$是一个介于$(0,1]$的阈值。

具体来说，这里的相似度是由两种相似度组成，分别是字符串相似度和嵌入向量相似度。合并这两种相似度
$$sim(r,\hat{r})={\alpha }_{1}cos(\varphi (name(r)),\varphi (name(\hat{r})))+{\alpha }_{2}cos(\text{r},\hat{\text{r}})$$
其中，${\alpha }_1,{\alpha }_2>0$为权重因子且${\alpha }_1+{\alpha }_2=1$；$cos(\cdot )$用于计算嵌入向量的相似度。

将得到的相似度作为平滑系数，减小不准确匹配的影响。并将其合并到实体身份推断的loss中，

$${\mathcal{L}}_{CRA}({\Theta }^{(2)})=\sum _{(h,r,t)\in {\mathcal{X}}^{\prime \prime \prime }}sim(r,\hat{r})log(1+exp(-f_{rel}({\text{h}}^{(2)},\hat{\text{r}},{\text{t}}^{(2)})))$$
${\mathcal{X}}^{\prime \prime \prime }$表示关系在集合${\mathcal{S}}_{rel}$中的三元组集合。

• 软关系对齐不是固定的，其会在$\text{MultiKE}$训练过程进行迭代的更新。

• 交叉图谱属性身份推断也可以使用类似的方法，由于篇幅的限制，这里省略了Loss函数${\mathcal{L}}_{CRA}({\Theta }^{(3)})$。

四、视角合并

1.加权平均合并

对不同视角下的嵌入向量进行平均。为了强调重要的视角，这里为不同视角下的嵌入向量分别不同的权重。

令$\tilde{\text{h}}$表示实体$h$合并后的嵌入向量。不失一般性，令$D$表示视角的数量，那么有
$$\tilde{\text{h}}=\sum _{i=1}^D{w}_i{\text{h}}^{(i)}$$
其中，$w_i$表示向量${\text{h}}^{(i)}$的权重，计算公式如下
$$w_i=\frac{cos({\text{h}}^{(i)},\bar{\text{h}})}{{\sum }_{j=1}^{D}cos({\text{h}}^{(j)},\bar{\text{h}})}$$
其中，$\bar{\text{h}}$表示多视角实体嵌入向量的平均值，即$\bar{\text{h}}=\frac{1}{D}{\sum }_{j=1}^D{\text{h}}^{(j)}$。直觉上，一个视角的嵌入向量距离平均嵌入向量较远，那么其权重也较小。

2. 共享空间学习

该合并策略的目标是找到一个正交映射矩阵，能够将每个视角下的嵌入向量映射至共享空间中。该策略的基本假设是多视角能够从共享隐藏视角中生成。

令$\tilde{\text{H}}$表示所有实体向量合并成的矩阵，其每一行对应一个实体。${\text{H}}^{(i)}$表示在第$i$个视角下的实体嵌入矩阵。优化下面的映射损失函数，

该合并策略的目标是寻找一个正交映射矩阵，将每个view的embedding空间映射到共享空间，该方法的假设是多view能够从共享隐藏view中生成。令$\tilde{\text{H}}$是所有实体的合并矩阵，其每一个行对应一个实体，${\text{H}}^{(i)}$是在第$i$个view下的实体嵌入矩阵。我们优化下面的映射Loss
$${\mathcal{L}}_{\text{SSL}}(\tilde{\text{H}},\text{Z})=\sum _{i=1}^D(||\tilde{\text{H}}-{\text{H}}^{(i)}{\text{Z}}^{(i)}|{|}_F^2+||\text{I}-{\text{Z}}^{(i)T}{\text{Z}}^{(i)}|{|}_F^2)$$

• 其中，$\text{Z}={\bigcup }_{i=1}^D{\text{Z}}^{(i)}$，${\text{Z}}^{(i)}$表示第$i$个视角的嵌入空间到共享空间的映射矩阵。
• $||\cdot |{|}_F$表示Frobenius范数。
• 公式第二项是对映射矩阵的正交约束，$\text{I}$是单位矩阵。
• 正交性能够保证具体视角的嵌入向量间距离不变。
• 通过优化上面的损失函数，能够学习到从多个视角映射到共享空间的映射矩阵。

3. 训练中合并

该策略不同于上面的策略，其会与其他视角的嵌入向量一体进行训练，这将会使多视角的嵌入向量相关收益。损失函数为
$${\mathcal{L}}_{ITC}(\tilde{\text{H}},\text{H})=\sum _{i=1}^D||t\tilde{\text{H}}-{\text{H}}^{(i)}|{|}_F^2$$
其中，$\text{H}={\bigcup }_{i=1}^D{\text{H}}^{(i)}$。

该损失函数会平衡共享空间嵌入向量$\tilde{\text{H}}$与其他视角下的嵌入向量，保证其一直性。

五、训练过程

算法1：$\text{MultiKE}$的合并训练过程

输入：${\mathcal{G}}_a,{\mathcal{G}}_b$,词向量，最大迭代数$Q$

过程：

1. 训练属性值嵌入向量(literal embedding)并得到名称嵌入向量；
2. for q=1,2,…,Q do
3. ​    在关系视角下最小化$\mathcal{L}({\Theta }^{(2)})$;
4. ​    在属性视角下最小化$\mathcal{L}({\Theta }^{(3)})$;
5. ​    if 使用训练中合并策略 then
6. ​       最小化${\mathcal{L}}_{ITC}(\tilde{\text{H}},\text{H})$
7. ​    最小化${\mathcal{L}}_{CE}({\Theta }^{(2)})$和${\mathcal{L}}_{CE}({\Theta }^{(3)})$;
8. ​    更新软对齐${\mathcal{S}}_{rel}$和${\mathcal{S}}_{attr}$;
9. ​    最小化${\mathcal{L}}_{CRA}({\Theta }^{(2)})$和${\mathcal{L}}_{CRA}({\Theta }^{(3)})$;
10. if 没有使用训练中合并策略 then
11. ​    运行加权平均合并策略或者共享空间学习策略
12. 在$\tilde{\text{H}}$中使用最近邻搜索来发现对齐实体。

完整的训练过程如算法1所示。参数采用Xavier初始化，优化采用AdaGrad。

• 首先，训练属性值嵌入如向量和字符嵌入向量；
• 直接获得实体的名称向量；
• 获得其他视角的嵌入向量；
• 执行交叉图谱身份推断，也就是优化损失函数名${\mathcal{L}}_{CE}$和${\mathcal{L}}_{CRA}$；
• 在训练中对关系和属性的软对齐进行迭代更新；
• 若没有使用训练中合并策略，则使用其他方法来合并多视角实体嵌入向量；
• 通过最近邻搜索来查找对齐的实体；
• 名称嵌入向量是直接检索的，不会随着训练过程更新；