深度学习推荐模型 DLRM

MIT
Python
跨平台
Facebook
2019-07-03
xplanet

DLRM(Deep Learning Recommendation Model)是深度学习推荐模型的实现,用于个性化推荐。

该模型输入有密集和稀疏的特性,前者是浮点值的向量,后者是嵌入表的稀疏索引列表,嵌入表由浮点值向量组成。所选择的矢量被传递到由三角形表示的 mlp 网络,在一些情况下,矢量通过操作符(Ops)进行交互。

output:
                    probability of a click
model:                        |
                             /\
                            /__\
                              |
      _____________________> Op  <___________________
    /                         |                      \
   /\                        /\                      /\
  /__\                      /__\           ...      /__\
   |                          |                       |
   |                         Op                      Op
   |                    ____/__\_____           ____/__\____
   |                   |_Emb_|____|__|    ...  |_Emb_|__|___|
input:
[ dense features ]     [sparse indices] , ..., [sparse indices]

更精确的模型层定义:

  1. 完全连接的 mlp 层

    z = f(y)

    y = Wx + b

  2. 嵌入查找(对于稀疏索引列表 p=[p1,...,pk])

    z = Op(e1,...,ek)

    obtain vectors e1=E[:,p1], ..., ek=E[:,pk]

  3. Operator Op 可以是以下之一

    Sum(e1,...,ek) = e1 + ... + ek

    Dot(e1,...,ek) = [e1'e1, ..., e1'ek, ..., ek'e1, ..., ek'ek]

    Cat(e1,...,ek) = [e1', ..., ek']'

    其中,' 表示转置操作

要求:

  • pytorch-nightly (6/10/19)
  • onnx (可选)
  • torchviz (可选)
的码云指数为
超过 的项目
加载中

评论(0)

暂无评论

Facebook 开源深度学习推荐模型 DLRM

Facebook 宣布推出深度学习推荐模型(DLRM)的开源版本,这是一种最先进的个性化推荐 AI 模型,并且可用于生产环境中。该模型的实现可用于 Facebook 的 PyTorch、Facebook 的分布式学习框架 ...

07/04 08:14

没有更多内容

加载失败,请刷新页面

没有更多内容

暂无问答

暂无博客

返回顶部
顶部