🧩 第4课：隐语义模型（LFM / BPR）

🎯 学习目标

🗂️ 课程定位

📖 核心理论

隐语义模型（Latent Factor Model, LFM）将用户和物品映射到同一隐因子空间，通过隐因子交互来预测偏好。与矩阵分解的关键区别在于：LFM专门针对隐式反馈（点击/未点击）建模，而矩阵分解主要用于显式评分。

隐式反馈的核心问题是负例不明确：用户没有点击某个物品，可能是不喜欢，也可能是没看到。负采样策略是解决此问题的关键。

📐 数学公式

💻 代码实现

import numpy as np
np.random.seed(42)
n_users,n_items,n_factors=30,25,8
P=np.random.randn(n_users,n_factors)*0.1
Q=np.random.randn(n_items,n_factors)*0.1
true_prefs=1/(1+np.exp(-(P@Q.T)))
interactions=(true_prefs>0.6).astype(float)
mask=np.random.random((n_users,n_items))<0.3
interactions=interactions*mask
print("="*60+"\n隐语义模型(LFM)推荐系统\n"+"="*60)
print(f"用户:{n_users} 物品:{n_items} 隐因子:{n_factors}")
print(f"交互数:{int(interactions.sum())} 密度:{interactions.mean():.4f}")
# LFM with negative sampling
def train_lfm(R,nf=8,lr=0.01,reg=0.1,epochs=50,neg_ratio=5):
    nu,ni=R.shape
    P=np.random.randn(nu,nf)*0.01;Q=np.random.randn(ni,nf)*0.01
    losses=[]
    for ep in range(epochs):
        loss=0
        for u in range(nu):
            pos=np.where(R[u]>0)[0]
            if len(pos)==0:continue
            neg=np.where(R[u]==0)[0]
            sn=np.random.choice(neg,size=min(len(pos)*neg_ratio,len(neg)),replace=False)
            for i in pos:
                pred=1/(1+np.exp(-P[u]@Q[i]));err=1-pred
                P[u]+=lr*(err*Q[i]-reg*P[u]);Q[i]+=lr*(err*P[u]-reg*Q[i])
                loss+=-np.log(max(pred,1e-10))
            for i in sn:
                pred=1/(1+np.exp(-P[u]@Q[i]));err=0-pred
                P[u]+=lr*(err*Q[i]-reg*P[u]);Q[i]+=lr*(err*P[u]-reg*Q[i])
                loss+=-np.log(max(1-pred,1e-10))
        losses.append(loss)
        if(ep+1)%10==0:print(f"  LFM Epoch{ep+1}:Loss={loss:.2f}")
    return P,Q,losses
print("\n--- 训练LFM ---")
P_lfm,Q_lfm,_=train_lfm(interactions)
preds=1/(1+np.exp(-(P_lfm@Q_lfm.T)))
t=0;ui=set(np.where(interactions[t]>0)[0])
rec=sorted([(i,preds[t,i])for i in range(n_items)if i not in ui],key=lambda x:-x[1])[:5]
print(f"\n用户U1 LFM推荐Top-5:")
for i,s in rec:print(f"  I{i+1}:{s:.4f}")
# BPR
print("\n--- BPR优化 ---")
P_bpr=np.random.randn(n_users,n_factors)*0.01
Q_bpr=np.random.randn(n_items,n_factors)*0.01
lr_bpr=0.01;reg_bpr=0.01
for ep in range(50):
    for _ in range(1000):
        u=np.random.randint(n_users)
        pos=np.where(interactions[u]>0)[0];neg=np.where(interactions[u]==0)[0]
        if len(pos)==0 or len(neg)==0:continue
        i=np.random.choice(pos);j=np.random.choice(neg)
        x_uij=P_bpr[u]@(Q_bpr[i]-Q_bpr[j])
        g=1/(1+np.exp(x_uij))
        P_bpr[u]+=lr_bpr*((Q_bpr[i]-Q_bpr[j])*g-reg_bpr*P_bpr[u])
        Q_bpr[i]+=lr_bpr*(P_bpr[u]*g-reg_bpr*Q_bpr[i])
        Q_bpr[j]+=lr_bpr*(-P_bpr[u]*g-reg_bpr*Q_bpr[j])
    if(ep+1)%10==0:
        auc_v=[]
        for u in range(min(10,n_users)):
            ps=np.where(interactions[u]>0)[0];ns=np.where(interactions[u]==0)[0]
            if len(ps)==0 or len(ns)==0:continue
            sp=P_bpr[u]@Q_bpr[ps].T;sn=P_bpr[u]@Q_bpr[ns].T
            auc_v.append(np.mean(sp[:,None]>sn[None,:]))
        print(f"  BPR Epoch{ep+1}:AUC={np.mean(auc_v):.4f}")
# 最终AUC
auc_v=[]
for u in range(min(20,n_users)):
    ps=np.where(interactions[u]>0)[0];ns=np.where(interactions[u]==0)[0]
    if len(ps)==0 or len(ns)==0:continue
    sp=P_bpr[u]@Q_bpr[ps].T;sn=P_bpr[u]@Q_bpr[ns].T
    auc_v.append(np.mean(sp[:,None]>sn[None,:]))
print(f"\nBPR最终AUC:{np.mean(auc_v):.4f}")
# 负采样比例影响
print("\n负采样比例影响:")
for nr in [1,3,5,10]:
    P_t,Q_t,_=train_lfm(interactions,neg_ratio=nr,epochs=30)
    auc_v=[]
    for u in range(min(10,n_users)):
        ps=np.where(interactions[u]>0)[0];ns=np.where(interactions[u]==0)[0]
        if len(ps)==0 or len(ns)==0:continue
        sp=1/(1+np.exp(-(P_t[u]@Q_t[ps].T)));sn=1/(1+np.exp(-(P_t[u]@Q_t[ns].T)))
        auc_v.append(np.mean(sp[:,None]>sn[None,:]))
    print(f"  neg_ratio={nr}:AUC={np.mean(auc_v):.4f}")

🔴 运行结果

✅ 验证通过

🔍 代码解读

💡 关键洞察

📝 本章小结

🧪 练习

📚 延伸阅读

💼 面试考点

🏭 工业案例