中文医学知识语言模型:BenTsao

介绍

BenTsao:[原名:华驼(HuaTuo)]: 基于中文医学知识的大语言模型指令微调

本项目开源了经过中文医学指令精调/指令微调(Instruction-tuning) 的大语言模型集,包括LLaMA、Alpaca-Chinese、Bloom、活字模型等。

我们基于医学知识图谱以及医学文献,结合ChatGPT API构建了中文医学指令微调数据集,并以此对各种基模型进行了指令微调,提高了基模型在医疗领域的问答效果。

效果

医学知识库围绕疾病、药物、检查指标等构建,字段包括并发症,高危因素,组织学检查,临床症状,药物治疗,辅助治疗等。知识库示例如下:

bash 复制代码
{"中心词": "偏头痛", "相关疾病": ["妊娠合并偏头痛", "恶寒发热"], "相关症状": ["皮肤变硬", "头部及眼后部疼痛并能听到连续不断的隆隆声", "晨起头痛加重"], "所属科室": ["中西医结合科", "内科"], "发病部位": ["头部"]}

我们利用GPT3.5接口围绕医学知识库构建问答数据,设置了多种Prompt形式来充分利用知识。

指令微调的训练集数据示例如下:

bash 复制代码
"问题:一位年轻男性长期使用可卡因,突然出现胸痛、呕吐、出汗等症状,经检查发现心电图反映心肌急性损伤,请问可能患的是什么疾病?治疗方式是什么?"

回答: 可能患的是心肌梗塞,需要进行维拉帕米、依普利酮、硝酸甘油、ß阻滞剂、吗啡等药物治疗,并进行溶栓治疗、低分子量肝素、钙通道阻滞剂等辅助治疗。此外需要及时停用可卡因等药物,以防止病情加重。"

地址

Huatuo-Llama-Med-Chinese

相关推荐
阿杰学AI几秒前
AI核心知识94——大语言模型之 Linear Attention Mechanism(简洁且通俗易懂版)
人工智能·ai·语言模型·自然语言处理·aigc·transformer·线性注意力机制
亚里随笔2 分钟前
GUI智能体如何应对环境变化_——首个GUI持续学习框架GUI-AiF详解
人工智能·学习·llm·rl·agentic
数字冰雹2 分钟前
对标国际标杆,数字冰雹 智能作战想定编辑工具 定义“新一代”战场仿真
人工智能·数据可视化
考證寶題庫網3 分钟前
AWS AIP-C01 認證介紹|AWS Certified AI Practitioner 考試全解析
人工智能
bylander7 分钟前
【AI学习】华为AgenticRAN架构调研
人工智能·学习·华为·无线通信·智能体
麟听科技7 分钟前
HarmonyOS 6.0+ 跨端元宇宙社交空间开发实战:3D虚拟形象与分布式交互落地
人工智能·分布式·学习·3d·华为·harmonyos
东坡肘子8 分钟前
Xcode 迈入 Agent 时代 -- 肘子的 Swift 周报 #122
人工智能·swiftui·swift
人工智能培训9 分钟前
深度学习中的梯度消失与梯度爆炸
人工智能·深度学习·逻辑回归·深度强化学习·具身智能·大模型应用工程师·大模型工程师证书
九.九10 分钟前
CANN ops-cv 技术解密:图像处理与目标检测算子的 NPU 硬件加速与性能调优策略
图像处理·人工智能·目标检测
尸僵打怪兽12 分钟前
图像处理OpenCV(一、二)
图像处理·人工智能·opencv