学习周报四十五

文章目录

摘要

本周对前阶段实验中发现的现象进行进一步实验分析。

abstract

This week, further experimental analysis is being conducted on the phenomena observed in the previous stage of the experiment.

一、以推荐算法模型的基础往安全方向考虑,设计实验。

实验的基础在于:原推荐实验验证的------前向特征投毒。

图像显示,变体B前向融合会出现方差爆炸的现象,这样说明模型问题,出现了投毒现象。意味着可以实验验证。

计划增加三个实验验证投毒与防护:

1.对抗性特征投毒模拟攻击者无法篡改核心大节点的交互(成本太高),只能伪造一批新的边缘端侧设备,并向其注入恶意的高方差噪声特征。------------------改:伪造新样品,注入流行度高的推荐的特征。

2.实验二:端侧智能体资源开销验证 :

需要量化证明:在推理阶段,设计的 SupCon 丢弃了文化原型库和对比学习头部,完全退化为最轻量的基础矩阵乘法。

3.实验三:异常方差检测

根据特征投毒谱分析定理,投毒会导致方差爆炸。设置一个在线探针(Online Probe),在训练大模型时监控冷启动节点的方差。

已完成(不完整版实验):

粗略版实验一结果:

实验二结果:

实验三结果 :

计划需要消融实验。还在进行。

总结

现在在跑实验,原本实验数据,框架基础已经进行过,现在只是在基础上发现有安全方向的投毒与防护可以做,继续实验看看情况。

相关推荐
重生之我是萧炎9 小时前
PR安装教程,Adobe Premiere Pro安装教程(含安装包),仅供学习使用
学习·adobe
蒸蒸yyyyzwd9 小时前
深搜广搜学习笔记
笔记·学习
叼烟扛炮11 小时前
[LangChain] 学习笔记(13):并发不是越大越好——batch / gather / 信号量 / 配额治理
笔记·学习·langchain
渣渣盟11 小时前
狂命爆肝99天,共52K字的JAVA学习笔记奉上,JAVA从入门到精通一文搞定,一文在手JAVA无忧
java·笔记·学习
叼烟扛炮1 天前
[LangChain] 学习笔记(09):工具(Tool)定义与调用闭环 · 理论+实战完整版
笔记·学习·langchain
个 人 练 习 生1 天前
C++:从零基础到深入了解vector的使用
开发语言·c++·经验分享·学习·程序人生·stl
Rabitebla1 天前
【Linux操作系统】 文件篇(一):文件描述符与 Linux 文件管理机制
linux·网络·c++·笔记·学习
旖旎夜光1 天前
【C++ 基础入门】智能指针:RAII、unique_ptr 与 shared_ptr 循环引用
c++·笔记·学习·智能指针
zdr尽职尽责1 天前
终端工具凭空消失:Codex + GPT-6 的一次完整排障复盘
数据库·gpt·学习·ai
蒸蒸yyyyzwd1 天前
计算机网络后端面试错题
笔记·学习