作者：livan

来源：数据python与算法

缘起

    AFM是基于Attention机制的FM模型，主要是在FM模型求和的过程中添加了一个权重因子，而这个权重因子是按照Attention机制计算出来的。

    我们可以先看一下AFM的公式：

    比较FM的公式：

    发现两个公式的主要差异在于第三项。

    AFM中第三项的计算方法为：

而对应的权重参数a_i,j即为通过Attention机制计算出的权重因子。

    Attention机制背后的数据公式为：

    从公式中可以看出模型使用了一个双层神经网络，通过XiXj特征关联计算出了各个特征关联对应的权重参数a，并融入到公式中。

    如下图为AFM模型的作者给出的完整图：

AFM的不足之处

    不难看出AFM只是在FM的基础上添加了Attention的机制，但是实际上，由于最后的加权累加，二次项并没有进行更深的网络去学习非线性交叉特征，所以AFM并没有发挥出DNN的优势，也许结合DNN可以达到更好的结果。

    性能方面，AFM表现出较好的优势，即使在AFM不使用dropout时，其效果仍大幅优于FM，说明Attention Network的有效性。

◆ ◆ ◆  ◆ ◆

麟哥新书已经在京东上架了，我写了本书：《拿下Offer-数据分析师求职面试指南》，目前京东正在举行100-50活动，大家可以用相当于原价5折的预购价格购买，还是非常划算的：

点击下方小程序即可进入购买页面：

---

数据森麟公众号的交流群已经建立，许多小伙伴已经加入其中，感谢大家的支持。大家可以在群里交流关于数据分析&数据挖掘的相关内容，还没有加入的小伙伴可以扫描下方管理员二维码，进群前一定要关注公众号奥，关注后让管理员帮忙拉进群，期待大家的加入。

管理员二维码：

猜你喜欢

● 麟哥拼了！！！亲自出镜推荐自己新书《数据分析师求职面试指南》

● 厉害了！麟哥新书登顶京东销量排行榜！

● 笑死人不偿命的知乎沙雕问题排行榜

● 用Python扒出B站那些“惊为天人”的阿婆主！

● 你相信逛B站也能学编程吗

点击阅读原文，即可参与京东100-50购书活动