【深度学习】多元物料融合算法(一):量纲对齐常见方法

目录

一、引言

二、量纲对齐常见方法

[2.1 Z-score标准化+Sigmoid归一化](#2.1 Z-score标准化+Sigmoid归一化)

[2.2 Min-Max 归一化](#2.2 Min-Max 归一化)

[2.3 Rank Transformation](#2.3 Rank Transformation)

[2.4 Log Transformation](#2.4 Log Transformation)

[2.5 Robust Scaling](#2.5 Robust Scaling)

3、总结


一、引言

类似抖音、快手、小红书等产品的信息流推荐业务,主要通过信息流广告、信息流直播电商等获得经济收益,对于流量最大的核心推荐系统,或多或少都要承担商业指标,承接特定物料的曝光需求。但是广告、直播电商或其他业务物料,会根据自己的需求进行排序,由于不是一套模型,业务场景数据也不一样,插入物料的量纲与主推荐量纲必定不相同,随之但是的就是无法比较问题,如何将不同的量纲对齐且可比呢,今天介绍常见的几种方法。

二、量纲对齐常见方法

2.1 Z-score标准化+Sigmoid归一化

Z-score标准化将数据转换为均值为0、标准差为1的分布。公式如下:

其中:

  • 是原始数据点
  • 是序列的均值
  • 是序列的标准差

Sigmoid将均值为0、标准差为1的分布转化为值域为0-1的分布。公式为

Z-score+Sigmoid序列合并计算步骤

  1. 对每个序列分别计算均值和标准差。
  2. 对每个数据点应用Z-score公式进行标准化。
  3. 对标准化后的序列采用Simgoid归一化到0-1后,进行比较。

2.2 Min-Max 归一化

Min-Max 归一化将数据线性地转换到一个固定的区间(通常是 0, 1)。公式如下:

其中:

  • 是原始数据点
  • min是序列的最小值
  • max是序列的最大值

序列合并计算步骤:

  1. 对每个序列分别计算最小值和最大值。
  2. 对每个数据点应用上述公式进行归一化。
  3. 合并归一化后的序列。

2.3 Rank Transformation

Rank Transformation 将数据转换为它们的秩次。公式如下:

序列合并计算步骤:

  1. 对每个序列分别计算每个数据点的秩次。
  2. 合并秩次后的序列。

2.4 Log Transformation

如果数据分布偏斜,可以使用对数变换来压缩数据范围。公式如下:

序列合并计算步骤:

  1. 对每个序列分别应用对数变换。
  2. 合并变换后的序列。

2.5 Robust Scaling

Robust Scaling 使用中位数和四分位距(IQR)进行标准化,适用于存在异常值的数据。公式如下:

  • 是序列的中位数
  • 是序列的四分位距(即第75百分位数减去第25百分位数)

序列合并计算步骤:

  1. 对每个序列分别计算中位数和IQR。
  2. 对每个数据点应用上述公式进行标准化。
  3. 合并标准化后的序列。

3、总结

本文初步介绍了多种将不同量纲的多元物料转换为同一量纲的方法,主要目标就是让不同业务场景的推荐排序结果可以比较,通过公式化的序列转换,快速达到可比的预期,计算效率更高。在实践中,Z-score+Sigmoid方法更为实用。

相关推荐
kyle~24 分钟前
模型预测控制(MPC)
算法·机器人·控制·传感器
Be for thing37 分钟前
Pytorch【12】transforms进阶|图像数据增强实战,提升模型泛化能力
人工智能·pytorch·机器学习
十有八七39 分钟前
手搓 Agent(一):先有大脑——大模型只会做一件事
前端·人工智能·后端
锋行天下42 分钟前
「踩坑实录」给 LangGraph Agent 接两个 FastMCP,我被 langchain 偷偷改了工具名
前端·人工智能·后端
阿里云大数据AI技术43 分钟前
穹彻智能 × MaxCompute:具身智能 UMI 数据产线的全模态计算实践
人工智能
联犀1 小时前
ai时代复杂项目的golang项目如何更好的与ai共舞:monorepo+gozero
开发语言·人工智能·golang
飞Link1 小时前
灵巧手是什么?从机械结构、驱动方式到控制原理,认识机器人的精细操作能力
人工智能·python·机器人
阿里云大数据AI技术1 小时前
从“扫文件”到“找数据行”:EMR Serverless StarRocks 支持 Paimon Global Index
人工智能
武子康1 小时前
AI通关了,游戏就算通过测试了吗?
人工智能·游戏·机器学习
Seiran2 小时前
CPU 突然打满,罪魁祸首是条用了三年的正则
人工智能