推荐系统 TOP K 评价指标

符号说明

\(top\_k\): 当前用户预测分最高的k个items,预测分由高到低排序

$pos$: 当前用户实际点击过的items

\(N\): 测试用户数量

示例数据

N = 4
| len(top_k & pos) | len(pos) | 预测中(四声)的item在top_k中的位置(1为预测中,长度为用户实际点击过的items长度)
| —- | —- | —- |
| 1 | 2 | 1 0
| 2 | 3 | 0 1 1
| 3 | 4 | 1 0 1 1
| 0 | 3 | 0 0 0

一、Hit Rate

网上有2种定义方式,不知道哪个更为正确的,有知道的人能不能麻烦告诉我一下?

第一种

对所有用户:我们真正喜欢的物品中,你给我们推荐了多少

hit = 0
total = 0
for i in users:
  top_k = 获取top_k的代码
  hit += len(top_k & pos)
  total += len(pos)

hit_rate = hit / total

\(hit\_rate = \frac{1 + 2 + 3 + 0}{2 + 3 + 4 + 5}\)

第二种

被推荐到喜欢物品的用户占总用户的比例

hit = 0
for i in users:
  top_k = 获取top_k的代码
  if top_k中有预测到pos中的item:
    hit += 1
hit_rate = hit / N

\(hit\_rate = \frac{1 + 1 + 1 + 0}{4}\)

二、Recall

对某个用户:我真正喜欢的物品中,你给我推荐了多少

recall = 0
for i in users:
  top_k = xxx(i)
  recall += len(top_k & pos) / len(pos)  # 用户i的recall
recall = mean(recall)

\(recall = (\frac{1}{2} + \frac{2}{3} + \frac{3}{4} + \frac{0}{3})\ /\ 4\)

三、NDCG

对某个用户:实际的折扣累计收益 DCG (Discounted Cumulative Gain) / 理想的DCG
DCG:考虑位置因素,希望用户喜欢的物品在top_k中排得越前越好
iDCG:归一化,解决【不同用户的DCG求和项数不同,不能进行比较】的问题

NDCG = 0
for i in users:
  DCG = 0
  iDCG = 0
  top_k = xxx(i)
  for rank in range(k):
    if top_k[rank] in pos:
      DCG += 1 / log2(rank + 2)
  for i in range(min(k, len(pos))):
    iDCG += 1 / log2(i + 2)
  NDCG_u = DCG / iDCG
  NDCG += NDCG_u
NDCG = mean(NDCG)