2024搜狗信息流算法

\h搜狗信息流推薦算法首先要進行一下NLP處理，它的作用就是對文章進行抽象，用有限的、關(guān)鍵的topic進行NLPNLP一級的是標簽，標簽是屬于一部分分類，它也是一個集合，比如說NBA這個標簽屬于體育FastTextFastTextcontenttitle中進行分類，分類效果還可以。后來通過研究之后發(fā)現(xiàn)對于文章來說，title和content的FastText93%。后續(xù)優(yōu)化的時候除FastTextTextCNNTextCNN分類模型和FastText模型不一樣，F(xiàn)astText對于一個文章只會對應(yīng)到一個分類當中，但是標簽不一樣，可以有多個標簽。TextCNN分類模型對進行了卷積計算，能在更因在于做測試集時一篇文章只會打一個標簽，人工評估可以分多個類別。fastText能達到75%，TextCNN能達到88%，然后采用“TextCNN+數(shù)據(jù)增強+多段結(jié)果預(yù)測”能達到是概率模型Skip-Gram+層次softMax，下面著重介紹概率模型。詞的轉(zhuǎn)換概率的建模。采用word2vecSkip-Gram思想，輸入的是文本空間，經(jīng)過embeddingsoftMax全連接，最后得出一個詞轉(zhuǎn)換為另一個詞的轉(zhuǎn)換概率，word2vec設(shè)選出概率最大的作為關(guān)鍵詞，最終準確率能夠達到89%。ldaCB召回是在用戶畫像維護一個用戶興趣的集合以及相應(yīng)的權(quán)重，線下會維護用戶興趣對應(yīng)CB第二種就是基于模型排序。我們在召回簡化為對CTR預(yù)測，使用的是LR模型。特征的選docdocdocdocdoc間的相關(guān)性，進而推薦相關(guān)的內(nèi)容。首先是維護每一個doc相關(guān)的文章排序，除此之外還querydoc1query，querydoc1趣，location協(xié)同，人口屬性也是類似。第一種效果最好，后面相對差一些，但是好處如CFitemitemitemuser度。而隱語模型將矩陣進行分解，變成兩個矩陣，將user與item轉(zhuǎn)化為同一個維度，就是對用戶點擊的分類，就可以直接計算item與user的相似度。目前用的比較多的就是隱語模型，主要用在電影評分領(lǐng)域，在推薦領(lǐng)域也是可以使用。還有一種方式是NCF，就是useritemembeddinguser與item統(tǒng)一到同一個向量空間，通過神經(jīng)網(wǎng)絡(luò)訓(xùn)練出各自的向量，最后得出用戶與item預(yù)估，最常用的點擊率預(yù)估模型，速度快，效果好，與人工規(guī)則相比，效果提升顯著。后LRFTRLLRLR果提升明顯。目前用的比較多的是基于深度學(xué)習，wide&deepFTRLWide&deeplearning邏輯回歸有一個記憶能力，deep層有泛化能力，wide和deep層的特征需要甄別，能夠時還需要做人工交叉，比如用戶興趣與內(nèi)容的匹配度，還會利用FM還做自動交叉。FM交叉也需要embedding，目前流行的用deepFM和deep層用同一層embeddingembedding，最后進行NLPNLPNLP合，人力也是一個挑戰(zhàn)；視頻在信息流產(chǎn)品比重越來越重，與圖像類似，目前基本以CTR乘以時