xdeepfm 是msra發表在kdd 2018上的一篇文章，用於ctr預估。
前面已經介紹過deep fm和deep & cross networks兩種模型，xdeepfm可以看成結合了這兩種模型的優點。dnn模型以bit-wise的形式把特徵進行交叉，而fm則以vector-wise的形式進行特徵交叉。deep&cross交叉的每一層和起始輸入x0其實都是乙個線性關係，而且交叉也是以bit-wise的形式，並不能有效發現高階組合特徵。結合deep fm和deep&cross的各自優點，提出xdeepfm這種結構。
上圖是xdeepfm的網路結構，類似deep fm和deep&cross，xdeepfm有linear單元，乙個dnn，再加乙個cin(compressed interaction network)組合而成，linear和dnn結構與deepfm和deep&cross一致，接下來簡單介紹下cin。
上圖是cin的結構，理解deepfm和deep&cross之後，這部分也很容易理解，初始輸入shape為(batch_size, field_num, dim) , field_num為field的個數(多少個feature)，dim為每個特徵的維度，因為是類fm結構，所以每個特徵的維度都必須是一樣的。由上圖(a)，把輸入根據最後一維進行split，形狀變為(dim, batch_size, field_num ,1 )， 然後兩個tensor再類似deep&cross那樣相乘，再做乙個conv1d的一維卷積，指定輸出的維度(由cross_layer指定)，最後把cross_layer的每一層結果做乙個concat，作為最後cin的輸出。詳細的過程可以具體看相應的*****。
xdeepfm模型的tensorflow**實現可以參考：
參考文獻：jianxun lian et all. 「xdeepfm: combining explicit and implicit feature interactions for recommender systems,」 in kdd,2018.
推薦系統CTR預估模型之Deep Cross
deep cross是google在2017年發表的一篇 其思想和wide deep基本一致，只是把wide deep中的wide部分變成cross層，來彌補dnn不能顯示的學習交叉特徵這一缺陷，一般情況下效果會好於wide deep，而且模型複雜度與與wide deep接近。模型結構如上圖，右邊的...
推薦系統CTR預估模型之DeepFM
deepfm是華為諾亞方舟實驗室和哈工大在2017年合作發表的一篇 思想和實現都很簡單，只是在wide deep的基礎上加乙個fm，其中fm和dnn共享原始的embedding特徵向量，由於fm計算的時間複雜度為o kn 其中k為field的個數，一般也很小，故deepfm實際計算的時間複雜度和dn...
推薦系統 CTR預估
問題描述 網際網路廣告有多種形式，包括展示廣告 競價排名 上下文廣告。對於按點選付費的廣告，乙個很重要的指標就是廣告點選率 使用者點選的次數 click 展示的次數 impression 本文主要討論的是上下文廣告的點選率預估問題。即，給定乙個網頁 page 和乙個廣告 ad page ad pai...