学习周报四十五

实验推进

当前实验进度进展到了方法部分，当前MMTok采用的方法是通过残差将Token附近距离的Token信息补充到所选Token里面，使选择的Token数量不变。

该方法有一点作用，但是用处不到，正在思考新的方法。

OpRA方法的采用了SFTLoRA等方法，当前效果也不是很好，正在尝试新的方法。