推薦系統與LSTM GRU

2021-08-17 10:05:43 字數 2004 閱讀 5563

最近在看深度學習與神經系統方面的文章,發現深度學習對推薦系統有很大的影響,特此進行下總結,為自己接下來的閱讀總結做參考。

1、自編碼器ae:通過乙個編碼和乙個解碼過程來重構輸入資料,學習資料的隱層表示。

多用於:評分**、文字推薦、影象推薦

2、受限玻爾茲曼機rbm:是一種生成式隨機神經網路,bm能夠學習複雜的規則,具有強大的無監督學習能力。rbm去除同層變數之間的所有連線,極大地提高了學習效率。

多用於:使用者評分**

3、深度信念網路dbn:由多層非線性變數連線組成的生成式模型。靠近可見層的部分是多個貝葉斯信念網路,最遠層可見部分則是rbm。dbn的訓練可採用一種貪婪逐層演算法。當前應用場景僅限於**推薦。

4、卷積神經網路cnn:是一種多層感知機,主要被用來處理二維資料影象。

多用於:影象、文字、**推薦

5、迴圈神經網路rnn:最大特點在於神經網路各隱層之間的結點是具有連線的,rnn能對過去的資訊進行記憶。

lstm(長短期記憶網路),gru(門限迴圈單元)

多用於:**評分、影象推薦、文字推薦、基於社交網路自己中的興趣點推薦

這裡主要總結rnn與推薦系統。

3、long and short-term recommendations with recurrent neural networks(2017)(作者同上)

第一篇文章提出了乙個基於lstms(長短期記憶)和引用推薦的神經網路方法,以更好地學習引文的含義並測量引號和上下文之間的相關性。。我們直接學習上下文和引用的分布式意義表示,然後根據意義表示來衡量相關性,特別是,我們試圖根據上下文、主題,甚至作者的引用偏好用特定的嵌入式來表示單詞的引用。首次將神經網路模型應用於引用推薦任務。

第二篇是由布魯塞爾自由大學的博士生在2023年提出來的,他提出將協作過濾看作是乙個序列**問題,並且在給出這種解釋的情況下,將長短期記憶(lstm)的遞迴神經網路應用於協作過濾。lstm在專案覆蓋率和短期**方面遠遠優於其他方法。經典的top-n推薦問題,是一種靜態的**,條目消耗的順序與推薦系統無關。我們建議,推薦不僅應該基於消費的專案,也應基於消費的順序。最後的實驗結果表明,lstm在movielens和netflix資料集上產生非常好的結果,並且在短期**和專案覆蓋方面特別好。

第三篇的作者和第二篇一樣,於2023年發表,在本片文章中,作者描述了許多協作過濾方法的完整短期/長期概要,並且我們展示了如何將迴圈神經網路引向更好的短期或長期**。我們還表明,rnn並不適用於基於會話的協作過濾,但它非常適合在密集資料集上進行協作過濾,因為它比傳統的專案推薦演算法更勝一籌。使用序列資訊可以補償使用者和專案之間記錄的互動的稀缺性。

使用者的動作順序確實存在很多資訊保留,它可能會揭示使用者喜好的演變,可能有助於確定哪些專案與當前使用者的興趣無關,哪些屬於消失興趣的一部分。

同時,本文提出了三種方法:dropout,shuffle sequences,multiple targets來達到improve長期**的效果,這些方法提供了乙個實用的調整機制,可以交換一些短期準確度以獲得更長期的準確性,從而使rnn成為協作過濾更通用的解決方案。

可以看出,lstm或者gru適合訓練帶有時間維度資料的演算法,也適用於自然語言處理(nlp),他連線了過去的資訊到當前任務上,為推薦系統提供了動態推薦的可能。實際應用中,也優於傳統的推薦方法。

關聯分析與推薦系統

什麼是關聯分析?通過關聯規則挖掘事物間存在的關係,從而總結出有意義的規律,進而指導我們的決策。典型應用 購物籃分析 首先,需要生產乙個頻繁項集。這個步驟,個人認為是為了促使結果更有可信度,而不是某個典型,也是為了推出最後的強規則。頻繁項集的 頻繁 用支援度來表示 而 頻繁 的標準則必須由乙個閾值,如...

推薦系統架構 推薦系統(1) 業界推薦系統架構

1.1業界主流推薦系統架構 業界推薦系統通用架構 1.2使用者本身資料 1.3物品本身資料 1.4使用者行為資料 2.1基於離線訓練的推薦系統架構設計 常用演算法 邏輯回歸 logistics regression 梯度提公升決策樹 gbdt 和因式分解 fm 架構設計 2.2面向深度學習的推薦系統...

推薦系統(1) 推薦系統概述

推薦系統是主動從大量資訊中找到使用者可能感興趣的資訊的工具。推薦系統的核心問題是如何實現推薦個性化 如何向使用者推薦匹配度高的產品 商品 或專案,本質是通過一定的方式將使用者和專案聯絡起來。自從xerox palo alto研究中心於1992年研發出了基於協同過濾的實驗系統tapestry以來 主要...