推荐算法手撕集合(持续更新)

推荐算法手撕集合(持续更新)

NDCG

NDCG 是一种位置敏感的排序指标,更关注在排序结果中,高相关的内容是否被排在越靠前的位置。

为什么需要NDCG?

在搜索 \ 推荐 \ 排序中:

用户只看前几条,位置越靠前,影响越大。

公式

NDCG@K = DCG@K IDCG@K \text{NDCG@K} = \frac{\text{DCG@K}}{\text{IDCG@K}} NDCG@K=IDCG@KDCG@K

  • DCG:模型排序的得分
  • IDCG:理想排序得分
  • NDCG ∈ 0,1,越大越好
DCG

DCG@K = ∑ i = 1 K 2 r e l i − 1 log ⁡ 2 ( i + 1 ) \text{DCG@K} = \sum_{i=1}^{K} \frac{2^{rel_i} - 1}{\log_2(i+1)} DCG@K=i=1∑Klog2(i+1)2reli−1

  • i:位置
  • r e l i rel_i reli:第 i 个结果的相关性(0/1/2/3...)
  • log :位置越靠后,贡献越小,因为用户更关注排名靠前的结果,模拟用户注意力衰减。
IDCG

IDCG = 把同一批结果,按相关性从高到低排,再算 DCG

python 复制代码
import math

def dcg_at_k(relevance, k, method=1):
    dcg = 0.0
    for i in range(k):
        rel = relevance[i]
        dcg += (2 ** rel - 1) / math.log2(i + 1)
    return dcg

def ndcg_at_k(relevance, k, method=1):
    idcg = dcg_at_k(sorted(relevance, reverse=True), k, method)
    dcg = dcg_at_k(relevance, k, method)
    if idcg == 0:
        return 0
    return dcg / idcg

AUC

含义:随机抽一个正样本和一个负样本,模型把正样本排在负样本前面的概率。

用 n_bins 把预测分数分桶,统计每个桶内正负样本数;从低分到高分扫描桶,累计"正样本比分数更低的负样本高"的配对数,并对同桶 tie 计 0.5 。最后除以总正负配对数,得到 AUC。

复杂度: O ( n + n b i n s ) O(n+n_bins) O(n+nbins)

python 复制代码
def auc(labels, preds, n_bins=10000) :
    neg_his = [0] * n_bins
    pos_his = [0] * n_bins
    n_pos = 0
    n_neg = 0
    for i in range(len(labels)) :
        cur = int(preds[i] * n_bins)
        if labels[i] == 0 :
            neg_his[cur] += 1
            n_neg += 1
        else :
            pos_his[cur] += 1
            n_pos += 1
    total = n_pos * n_neg
    sum_neg = 0
    sum_auc = 0
    for i in range(n_bins) :
        sum_auc += (sum_neg * pos_his[i] + pos_his[i] * neg_his[i] * 0.5)
        sum_neg += neg_his[i]
    return sum_auc / total
    
相关推荐
湘美书院--湘美谈教育2 分钟前
湘美谈教育AI系列经验集锦:赋能整理聊斋志异大寓言
大数据·人工智能·深度学习·神经网络·机器学习
宜昌未来智慧谷5 分钟前
WWDC 2026开发者视角解读:Siri独立App的技术架构与第三方AI模型接入机制
人工智能·架构·apple·wwdc·gemini
协享科技6 分钟前
Spring Boot 与 Go 双服务架构实践:从单体拆分到通信设计
java·人工智能·spring boot·后端·架构·golang·ai编程
piglet1213813 分钟前
把搜索调到 Claude.ai 的水准
前端·人工智能
Linlingu14 分钟前
openClaw不能操作我的电脑提示没有权限如何解决?
人工智能·windows·办公自动化·数字员工·小龙虾
snpgroupcn20 分钟前
SNP亮相2026思爱普中国峰会,助力企业加速数据价值兑现
人工智能
IT乐手21 分钟前
Anthropic 为何限制中国大陆使用 Claude?
人工智能
To_OC24 分钟前
用 ESM 模块化搭建 DeepSeek LLM 调用,顺带用 Prompt 实现轻量 NLP 任务
人工智能·nlp·deepseek
jrjrgood27 分钟前
现货黄金和黄金期货的区别有哪些?如何投资?
大数据·人工智能·区块链
属于自己的天空29 分钟前
确认弹窗太多?一次配好 Claude Code 权限,安心让 AI 干活
人工智能