input是經過one-hot之後的資料,資料比較稀疏。
通過embedding layer將高維稀疏的資料，轉換為低維稠密的資料，這樣既有利於提高模型訓練時的時間效率，也有利於提高模型的準確度。
f的維度為m，w的維度為m*（endi-starti+1）。
di為第i個隱層引數的個數；m為embedding 後單個特徵的維度；n輸入特徵的個數。
圓圈點：任意一種運算。
z為線性變換部分，p為內積/外積部分。
z的維度為nm，p的維度為nn。
1）ipnn（內積）
內積原理：
假設θ的維度為n。
一階分解的效果。
高階分解的效果。
2）opnn（外積）
外積原理：
p的維度為m*m。
將product layer層的輸出線性變換和內積/外積變換的結果進行相加，再添上乙個偏置，最後經過rule函式進行啟用。
b的維度為d1。
將hidden layer1 層的輸出進行線性變換，再加上乙個偏置，最後經過rule函式進行啟用。
l1的維度為d1。
將hidden layer2 層的輸出進行線性變換，再加上乙個偏置，最後經過sigmoid函式進行啟用。輸出為輸出為0-1之間的乙個數值。
w的維度為1*d1；b的維度為1維；l的維度為d2。
使用交叉熵損失函式進行優化。
推薦系統架構 推薦系統（1） 業界推薦系統架構
1.1業界主流推薦系統架構 業界推薦系統通用架構 1.2使用者本身資料 1.3物品本身資料 1.4使用者行為資料 2.1基於離線訓練的推薦系統架構設計 常用演算法 邏輯回歸 logistics regression 梯度提公升決策樹 gbdt 和因式分解 fm 架構設計 2.2面向深度學習的推薦系統...
推薦系統（1） 推薦系統概述
推薦系統是主動從大量資訊中找到使用者可能感興趣的資訊的工具。推薦系統的核心問題是如何實現推薦個性化 如何向使用者推薦匹配度高的產品 商品 或專案,本質是通過一定的方式將使用者和專案聯絡起來。自從xerox palo alto研究中心於1992年研發出了基於協同過濾的實驗系統tapestry以來 主要...
推薦系統01推薦系統入門
這裡給出了三個主要原因 網際網路規模增長迅速，資料量資訊過載，人們很難獲得有效資訊 資料太多了，我看不過來 搜尋引擎的方式只能滿足有確切主題 知道如何描述的資訊，沒有辦法搜尋自己模糊不清的需求 人們需要個性化服務來減少不必要的工作。在這樣的背景下，推薦系統應運而生，推薦系統究竟實現了怎樣的工作，實際...