分阶段训练金融大模型
预训练：获得知识
设计数据清洗系统，进行数据切片，并行处理
高频算子
有点像导入小说软件的那个过滤条件诶
训练数据配比
根据实际情况调整数据配比
指令微调
微调测评
价值观对齐
通过奖励模型 对认可回答打高分，不认可回答打低分：
收集语言、安全、金融行业偏好的高质量提示词，通过预训练好的sft模型生成问答对，并人工标注选择偏好回答，然后交给大模型
提升模型下限
相关推荐
冬奇Lab1 分钟前
代码库知识库系列（07）：混合检索 BM25 + 向量——Q8 还是失败，而且总分退步了ajassi200016 分钟前
AI语音智能体开发日记（十一）为智能设备“声”临其境——详解音频资源自动化生成流程2601_9494999435 分钟前
400G组网低功耗优选！芯瑞科技400G VR4 QSFP112光模块赋能智算中心高速互联GoAI1 小时前
# AI Agent 记忆框架横向对比报告总结李昊哲小课2 小时前
fastapi sse websocket 奶茶店实时订单看板万邦科技Lafite2 小时前
天猫商品评论API：评价内容中的用户情感倾向分析遇码2 小时前
认识 LakeMind：一款本地优先的开源 AI 数据探索工作台格林威2 小时前
多相机微秒级对齐：硬件触发 vs PTP（IEEE 1588）方案实战对比三江番长 陀舍古帝2 小时前
AI 相关概念之（基础层级）：AI、ANI、AGI、ASI加速财经3 小时前
PocketBay探索AI应用部署新方式