【深度学习】多元物料融合算法(一):量纲对齐常见方法

目录

一、引言

二、量纲对齐常见方法

[2.1 Z-score标准化+Sigmoid归一化](#2.1 Z-score标准化+Sigmoid归一化)

[2.2 Min-Max 归一化](#2.2 Min-Max 归一化)

[2.3 Rank Transformation](#2.3 Rank Transformation)

[2.4 Log Transformation](#2.4 Log Transformation)

[2.5 Robust Scaling](#2.5 Robust Scaling)

3、总结


一、引言

类似抖音、快手、小红书等产品的信息流推荐业务,主要通过信息流广告、信息流直播电商等获得经济收益,对于流量最大的核心推荐系统,或多或少都要承担商业指标,承接特定物料的曝光需求。但是广告、直播电商或其他业务物料,会根据自己的需求进行排序,由于不是一套模型,业务场景数据也不一样,插入物料的量纲与主推荐量纲必定不相同,随之但是的就是无法比较问题,如何将不同的量纲对齐且可比呢,今天介绍常见的几种方法。

二、量纲对齐常见方法

2.1 Z-score标准化+Sigmoid归一化

Z-score标准化将数据转换为均值为0、标准差为1的分布。公式如下:

其中:

  • 是原始数据点
  • 是序列的均值
  • 是序列的标准差

Sigmoid将均值为0、标准差为1的分布转化为值域为0-1的分布。公式为

Z-score+Sigmoid序列合并计算步骤

  1. 对每个序列分别计算均值和标准差。
  2. 对每个数据点应用Z-score公式进行标准化。
  3. 对标准化后的序列采用Simgoid归一化到0-1后,进行比较。

2.2 Min-Max 归一化

Min-Max 归一化将数据线性地转换到一个固定的区间(通常是 0, 1)。公式如下:

其中:

  • 是原始数据点
  • min是序列的最小值
  • max是序列的最大值

序列合并计算步骤:

  1. 对每个序列分别计算最小值和最大值。
  2. 对每个数据点应用上述公式进行归一化。
  3. 合并归一化后的序列。

2.3 Rank Transformation

Rank Transformation 将数据转换为它们的秩次。公式如下:

序列合并计算步骤:

  1. 对每个序列分别计算每个数据点的秩次。
  2. 合并秩次后的序列。

2.4 Log Transformation

如果数据分布偏斜,可以使用对数变换来压缩数据范围。公式如下:

序列合并计算步骤:

  1. 对每个序列分别应用对数变换。
  2. 合并变换后的序列。

2.5 Robust Scaling

Robust Scaling 使用中位数和四分位距(IQR)进行标准化,适用于存在异常值的数据。公式如下:

  • 是序列的中位数
  • 是序列的四分位距(即第75百分位数减去第25百分位数)

序列合并计算步骤:

  1. 对每个序列分别计算中位数和IQR。
  2. 对每个数据点应用上述公式进行标准化。
  3. 合并标准化后的序列。

3、总结

本文初步介绍了多种将不同量纲的多元物料转换为同一量纲的方法,主要目标就是让不同业务场景的推荐排序结果可以比较,通过公式化的序列转换,快速达到可比的预期,计算效率更高。在实践中,Z-score+Sigmoid方法更为实用。

相关推荐
ZhengEnCi6 小时前
09c-斯坦福CS336作业二:系统与分布式训练
人工智能
阿里云大数据AI技术6 小时前
用 SQL 解锁多模态数据分析:Hologres 让图片、语音、视频变成结构化洞察
人工智能
阿里云大数据AI技术7 小时前
EMR Serverless StarRocks 湖仓多模态检索:One SQL on One Data,实现全文 + 标量 + 向量三路混合检索
人工智能
冬奇Lab8 小时前
Skill 系列(02):Skill 安全风险——三类攻击面的实战测试
人工智能·安全·开源
冬奇Lab8 小时前
每日一个开源项目(第138篇):OpenMontage - 把 AI 编程助手变成完整的视频制作团队
人工智能·开源·claude
米小虾8 小时前
智谱港股盘中市值突破万亿港元!GLM-5.2 开源引爆国产 AI 价值重估
人工智能·chatglm (智谱)
阿里云大数据AI技术9 小时前
义乌小商品城基于MaxFrame AI Function的亿级AI 数据产线提速之路
人工智能
甲维斯10 小时前
用AI还原《坦克大战》并3D化升级!
前端·人工智能·游戏开发
IT_陈寒10 小时前
SpringBoot自动配置坑了我一晚上,原来问题出在这
前端·人工智能·后端