玻璃化的英文翻译英语怎么说-点钞方法
2023年4月1日发(作者:伊朗 伊斯兰)
【⾃然语⾔处理】【知识图谱】知识图谱表⽰学习(三):SE、SME、LFM、
RESCAL、HOLE
知识图谱表⽰学习(三)
SE、SME、LFM、RESCAL、HOLE
⼀、符号
使⽤来表⽰完整的知识图谱,其中表⽰实体集合,表⽰关系集合,表
⽰三元组集合,和表⽰实体和关系的数量。
知识图谱以三元组的形式表⽰,其中表⽰头实体,表《过零丁洋》古诗 ⽰尾实体,表⽰和间的关系。
⼆、SE
会将每个实体投影⾄维向量空间。具体来说,会为每个关系设计两个矩阵,然
后使⽤者两个矩阵将头实体和尾实体投影⾄相同的语义空间并计算相似度。的评分函数定义为
其中,和都会被投影⾄相应的关系空间中。
不同于这样基于翻译的模型,会将实体建模为嵌⼊向量,关系建模为投影矩阵。
三、SME
不同于,会将实体和关系都看作是低维向量。对于任⼀三元组,和会被⼀个投影函
数合并为新嵌⼊向量,和也同样会被合并。然后,通过⼀个point-wise乘积将两个嵌⼊向量和进⾏合并,得到整个三元组
的评分。提出了两个不同的合并投影函数:
线性形式
其中,就是,是。
双线性形式
其中,是,是。
其中,是element-wise(Hadamard)积;是投影函数的权重矩阵,是偏置。
四女人看淡一切释然句子 、LFM
G=(E,R,T)E={e,e,…,e}12
∣E∣R={r,r,…,r}12
∣R∣T
∣E∣∣R∣
⟨h,r,t⟩h∈Et∈Er∈Rht
SE(StructuredEmbedding)dSEM,M∈r,1r,2Rdd
SE
E(h,r,t)=∥Mh−r,1Mt∥春寒料峭的拼音 r,2
1
ht
TransES白居易的诗歌主张 E
SESEM(SemanticMat儿童简短诗歌20首 chingEnergy)⟨h,r,t⟩hr
gIh,rtrIt,rIh,rIt,r
SMEg
E(h,r,t)=(Mh+1Mr+2b)(Mt+1
⊤
3Mr+4b)2
Mh+1Mr+2b1Ih,rMt+3Mr+4b2It,r
E(h,r,t)=((Mh⊙1Mr)+2b)((Mt⊙1
⊤
3Mr)+4b)2
(Mh⊙1Mr)+2b1Ih,r(Mt⊙3Mr)+4b2It,r
⊙M,M,M,M1234b,b12
是⽤于建模⼤型多关系数据集的。是双线性结构,其将实体建模为嵌⼊向量、关系建模为矩阵。该
⽅法在不同关系间共享相同的隐因⼦,从茱萸是什么 ⽽极⼤的降低计算复杂度。的评分函数为
其中,是关系的矩阵表⽰。
五、RESCAL
是⼀种基于矩阵分解的知识图谱表⽰学习。为了表⽰知识图谱中的所有三元组,提出了三维张量的⽅式
,其中是实体的维度,是关系的维度。在三维张量中,前两个mode分别表⽰头、尾实体,第三个mode表⽰关系。中的每个分量都
代表对应的三元组是否存在。例如,若三元组在训练集中存在则,否则。
为了捕获所有三元组的内在结构,提出⼀个称为的张量分量模型。设,那么对于每个slice,其秩分
解为
其中,是维的实体表念奴娇张孝祥 ⽰,则是第个关系个隐组件的交互。该分解的形式与⾮常类似,但是不但能优化正
三元组,也能同时优化不存在的三元组,即罗隐的诗全集 。
基于这个张量分量的假设,的损失函数定义为
其中,第2项是正则化项,是超参数
六、HOLE
LFM(LatentFactorModel)LFM
LFM
E(h,r,t)=hMt
⊤
r
Mrr
RESCALRESCAL∈XRddk
dkXX
⟨ithentity,mthrelation,jthentity⟩=Xijm1=Xijm0
RESCAL=X{X,…,X}1kXnr
X≈nARAn
⊤
A∈RdrrRnnrLFMRESCAL
=Xijm0
RESCAL
L=(∥
2
1
n
∑
X−nARA∥n
⊤
F)+(∥
2
1
A∥F
2
+∥n
∑
R∥nF
2)
虽然在多关系数据集上表现的很好,但是计算复杂度太⾼。为了提⾼的效率,提出了其增强版本
。
利⽤了⼀种称为“循环关联”(circularcorrelation)的操作来⽣成组合表⽰,其类似于联合存储中的holographic模型。循环关联
操作介于实体和之间
上图展⽰了这个操作的简单例⼦。
三元组的概率定义为
“循环关联”操作能够带来许多优点:(1)不同于乘或者卷积的操作,循环关联是不具有交换性的(例如),其能够建模知识
图谱中的⾮对称关系;(2)循环关联的计算复杂度低。此外,“循环关联“操作还能够利⽤快速傅⾥叶变换进⾏进⼀步的加速。
引⽤王观简介 ⽂献
[1].ZhiyuanLiu,entationLearningforNaturalLanguageProcessing.
RESCALRESCAL
HOLE(HolographicEmbeddings)
HOLE
★:RdR→dRdht
h★t=khti=0
∑d−1
i
(k+i)modd
⟨h,r,t⟩
P((h,t)=r1)=Sigmoid(r(h★t))
⊤天山雪莲果的正确吃法
h★t=t★h
更多推荐
LFM是什么意思在线翻译读音例句
发布评论