推荐算法策略需求-rank model优化

1.pred_oobe

(base) [rus@xx]$ pwd /home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline-migrate/UserBaseActiveStatPipeline/his_session

(base) [rus@xx]$ sh test.sh

  1. user_skill_history_dict_expt2包含userid

work@xx\]$ vim /home/work/xx/du-rus/du_rus_offline/dict/skill_engine_dict/user_skill_history_dir/user_skill_history_dict_expt2 \[work@xx\]$ grep '2916418677' user_skill_history_dict_expt2 3.置顶技能灌库 增加 curl "10.194.200.12:8123/DproxyServer/cmd" -d '{"cmd":"zadd", "args":\["appstore_user_favour_6S192231D45C9AFB_2916418677","1","LP_2155","1"," LP_4993"\], "name":"show-app-store"}' 查询 curl "10.194.200.12:8123/DproxyServer/cmd" -d '{"cmd":"zrange", "args":\["appstore_user_favour_6S192231D45C9AFB_2916418677","0","-1"\], "name":" show-app-store"}' 删除 curl "10.194.200.12:8123/DproxyServer/cmd" -d '{"cmd":"del", "args":\["appstore_user_favour_6S192231D45C9AFB_2916418677"\], "name":"show-app- store"}' ![](https://file.jishuzhan.net/article/1775731473425371138/ac2791a09ea12703e13e52743254004b.webp) 4.禁用技能灌库 5.user_skill_feature灌库 /home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline-migrate/LpQsbRankPipeline/optimizer 下载文件 wget gzhxy-bdrp-ps-se-nlp-arch-xiaodu-gzhxy003.gzhxy.baidu.com:/home/disk2/data/xx/temp/test_naotu.txt 老字典: /home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline-migrate/UserBaseActiveStatPipeline/his_session, sh test.sh 部署环境中dict/skill_engine_dict/user_skill_history_dir/user_skill_history_dict_expt2中包含测试userid 增:curl "10.194.200.12:8123/DproxyServer/cmd" -d '{"cmd":"zadd", "args":\["appstore_user_favour_6S192231D45C9AFB_2916418677", "1", "LP_2155", "1", "LP_4993"\], "name":"show-app-store"}' 查:curl "10.194.200.12:8123/DproxyServer/cmd" -d '{"cmd":"zrange", "args":\["appstore_user_favour_6S192231D45C9AFB_2916418677", "0", "-1"\], "name":"show-app-store"}' 删:curl "10.194.200.12:8123/DproxyServer/cmd" -d '{"cmd":"del", "args":\["appstore_user_favour_6S192231D45C9AFB_2916418677"\], "name":"show-app- store"}' /home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline-migrate/LpQsbRankPipeline/optimizer/love_forbidden_skills, sh go.sh /home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline-migrate/LpQsbRankPipeline/post_process/user_skill_feature_process, sh test_run.sh wget gzhxy-bdrp-ps-se-nlp-arch-xiaodu-gzhxy003.gzhxy.baidu.com:/home/disk1/rus/offline-pipeline-routine/baidu/oxygen/rus-pipeline/pipeline- migrate/LpQsbRankPipeline/post_process/train_model/launchpad_model_manager/model_version.conf, 替换部署环境中的dict/launchpad_model_manager/model_version.conf 重启rus 新字典: 1、wget gzhxy-bdrp-ps-se-nlp-arch-xiaodu-gzhxy003.gzhxy.baidu.com:/home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline- migrate/LpQsbRankPipeline/post_process/skill_feature_process/skill_feature_dict_new.tar.gz并解压 2、将部署环境中dict/skill_feature_dict/skill_feature替换skill_feature_dict_new中的skill_feature,并执行sh go.sh 3、将skill_feature_dict_new替换掉部署环境中的dict/skill_feature_dict 4、重启环境 /home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline-migrate/LpQsbRankPipeline/post_process/user_skill_feature_process_new, sh test_run.sh 1、wget gzhxy-bdrp-ps-se-nlp-arch-xiaodu-gzhxy003.gzhxy.baidu.com:/home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline- migrate/LpQsbRankPipeline/optimizer/train_model/launchpad_model_manager/model_version.conf 替换部署环境中的dict/launchpad_model_manager/model_version.conf 2、wget gzhxy-bdrp-ps-se-nlp-arch-xiaodu-gzhxy003.gzhxy.baidu.com:/home/disk2/data/xx/icode/baidu/oxygen/rus-pipeline/pipeline- migrate/LpQsbRankPipeline/optimizer/train_model/launchpad_model_manager/gbdt/optimizer_v1.tar.gz, 解压到部署环境中的dict/launchpad_model_manager/gbdt目录下 3、重启环境 机器:gzhxy-bdrp-ps-se-nlp-arch-xiaodu-gzhxy003.gzhxy.baidu.com,rus 测试userid:2916418677,cuid:6S192231D45C9AFB,clientId:lNwEAEASbln5FhNTs7A8oDGW3TlQ2khy,请求体中requester=" LAUNCHPAD_CACHE" \[work@nj02-ps-wwwda13-n1.nj02.baidu.com rus_env\]$ pwd /home/work/xx/du-rus/offline-tools/du_rus/rus_env \[work@nj02-ps-wwwda13-n1.nj02.baidu.com rus_env\]$ python buildenv_rus.py aabe7d6575a6dca37c5d8409475a5febcb844b10 d6a6eb0f560cf14b75ecda9a7d83e165b68cd4d3 修改完截图的配置 \[work@nj02-ps-wwwda13-n1.nj02.baidu.com sample\]$ vim /home/work/xx/du-rus/du_rus_offline/dict/sample/sample_variable.conf 实验组:1 对照组:0 打开日志级别 vim /du-rus/du_rus_offline/conf/log.conf 第31行rpc.log 追加,TRACE,DEBUG 31 RPC_SELFLEVEL : NOTICE,TRACE,DEBUG 重启服务 /home/work/xx/du-rus/du_rus_offline/bin ./server_control stop 暂停服务 ./server_control start 启动服务 \[work@nj02-ps-wwwda13-n1.nj02.baidu.com log\]$ vim /home/work/xx/du-rus/du_rus_offline/log/rpc.log 日志查询candidate_features 测试结论 测试方式:捞取线上请求,java自动化方式实现 构造不同的userid 灌库 非灌库数据 不同实验组 对照组dumisid 请求 生成数据 捞取日志分析 ![](https://file.jishuzhan.net/article/1775731473425371138/8efb24315784bc77ae0fa7e410077bb9.webp) 老词典实验组 对照组 灌库数据 非灌库数据 ``` 507252, 507252, 507252, 507252, ``` ``` 2916418677, 2916418677, 2916418677, 2916418677, ``` ``` 6S192231D45C9AFB, 6S192231D45C9AFB, 6S1927504C666DF4, 6S1927504C666DF4, ``` 日志搜索 ?candidate_features ?xx: model_manager-\>regress succ 非灌库数据 userId=6071212314 4个特征分数为-1 灌库数据 userId=2916418677 4个特征分数均正常 实验组 507251 无特征 无分数 对照组 507252 有特征 分数 新词典对照组 实验组 507251 有特征 分数 打分如下 对照组 507252 有特征 分数 测试数据说明: 新词典:实验组 对照组打分不一致 pass 老词典:实验组无数据 对照组正常打分 pass 仅对照组,新词典与老词典同一技能打分一致 pass

相关推荐
智者知已应修善业1 天前
【洛谷P9975奶牛被病毒传染最少数量推导,导出多样例】2025-2-26
c语言·c++·经验分享·笔记·算法·推荐算法
B站_计算机毕业设计之家1 天前
猫眼电影数据可视化与智能分析平台 | Python Flask框架 Echarts 推荐算法 爬虫 大数据 毕业设计源码
python·机器学习·信息可视化·flask·毕业设计·echarts·推荐算法
液态不合群2 天前
推荐算法中的位置消偏,如何解决?
人工智能·机器学习·推荐算法
B站_计算机毕业设计之家2 天前
豆瓣电影数据采集分析推荐系统 | Python Vue Flask框架 LSTM Echarts多技术融合开发 毕业设计源码 计算机
vue.js·python·机器学习·flask·echarts·lstm·推荐算法
B站_计算机毕业设计之家2 天前
豆瓣电影推荐系统 | Python Django Echarts构建个性化影视推荐平台 大数据 毕业设计源码 (建议收藏)✅
大数据·python·机器学习·django·毕业设计·echarts·推荐算法
WHD3063 天前
苏州误删除 格式化 服务器文件 恢复
随机森林·支持向量机·深度优先·爬山算法·宽度优先·推荐算法·最小二乘法
计算机学姐3 天前
基于SpringBoot的民宿预定管理系统【三角色+个性化推荐算法+数据可视化统计】
java·vue.js·spring boot·mysql·信息可视化·intellij-idea·推荐算法
计算机学姐3 天前
基于SpringBoot的校园社团管理系统
java·vue.js·spring boot·后端·spring·信息可视化·推荐算法
计算机学姐4 天前
基于SpringBoot的电影点评交流平台【协同过滤推荐算法+数据可视化统计】
java·vue.js·spring boot·spring·信息可视化·echarts·推荐算法
散峰而望5 天前
【算法竞赛】树
java·数据结构·c++·算法·leetcode·贪心算法·推荐算法