医学知识和医疗应用开发交叉领域中垂类大语言模型应用相关研究

前言:

基于公司对LLM落地的期望,此proposal尚未研究完毕,只是简单做了一些消息整合和建议。

关于知识细节详见末尾Refs

背景:

随着LLM(大语言模型)的爆火,不少企业都在寻找通过LLM解决企业业务问题的方法,以达到降本增效的效果。但是,当面对较为复杂的业务问题(如:背景资料多、问题分类多、条件判断复杂、涉及模块多等)时,以LLM当前的发展程度,仅通过简单的LLM对话交互,是无法有效地解决此类问题的,原因在于,LLM也有自身的能力限制,如幻觉、上下文等。

ChatGPT在医学医学知识和医疗应用开发交叉领域中的局限性:

1.1. 缺乏可靠性和准确性:由于ChatGPT是基于大量文本数据训练而成的,它可能会生成一些错误或不合适的内容,需要人类进行核对和修改。

1.2. 缺乏逻辑性和连贯性:由于ChatGPT是基于局部上下文生成内容的,它可能会忽略全局的逻辑结构和主题一致性,需要人类进行调整和补充。

1.3. 缺乏原创性和创新性:由于ChatGPT是基于已有的文本数据生成内容的,它可能会重复或抄袭一些已有的内容,需要人类进行检测和避免。

2、ChatGPT在医学写作中的伦理考虑:分析了ChatGPT在医学写作中涉及到的伦理问题,包括:

2.1. 版权法律问题:使用ChatGPT生成内容可能会侵犯原作者或出版商的版权,需要遵守相关法律规定,并给出合适的引用或声明。

2.2. 医疗法律问题:使用ChatGPT生成内容可能会影响医疗决策或结果,需要承担相应的法律责任,并保证内容的真实性、有效性和安全性。

2.3. AI透明度问题:使用ChatGPT生成内容可能会造成读者或用户对AI来源或质量的不了解或误解,需要提供清晰的标识或说明,并保证内容的可解释性、可信度和可控性。

生物医学领域应用大模型的范式。

由难到易分别是:

  • 从头开始预训练(pre-train from scratch)
  • 继续训练通用大模型(further pre-train from general LLMs)
  • 各种指令/任务微调(instruction tuning, etc)
  • 提示词工程(prompt engineering)

细化到单个公司体来说,市面上垂类大预言模型的局限性:

1.有限的上下文窗口

2.组织内的知识信息经常散落在各个系统或文档内,难以统筹管理。

  1. LLM 缺少特定领域知识

再细化到医疗软件开发人员的痛点:

  1. 知识整合

  2. 结构化数据与非结构化数据

  3. 第三方应用与 API

回到应用范式, 对于公司来说,需要在最短时间内利益最大化。性价比较为高的方式是"各种指令/任务微调(instruction tuning, etc) " 或者 使用 提示词工程(prompt engineering)

一种可能的解决方案:

GPTbot产品提出的RAG(retrieval augmented generation)系统,以FLOW的方式(搭建工作流)将复杂多变的业务问题简化并抽象为多个"节点"和"流程",并通过可视化编排 workflow方式,让多个专职LLM并行/串行工作,各司其职,从而快速地搭建起一个Bot,并立即应用于实际业务问题场景中。

Reference:

  1. ChatGPT in medicine: an overview of its applications, advantages, limitations, future prospects, and ethical considerations - PubMed

  2. GitHub - AI-in-Health/MedLLMsPracticalGuide: A curated list of practical guide resources of Medical LLMs (Medical LLMs Tree, Tables, and Papers)

3.NIH 讲座 & 综述|ChatGPT 等大语言模型在医疗健康中的应用 - 知乎

4.「RAG」简介及GPBbots的优化实践

  1. How to easily solve complex business problems with "Flow"
相关推荐
聚梦小课堂8 分钟前
Jev模型:一个不会说话,只做判断的模型
人工智能·chatgpt
高升说9 分钟前
深度相机接口选型:MIPI、USB3 与 GigE 的带宽估算与工程取舍
网络·人工智能·数码相机
成为深度学习高手13 分钟前
DAG:沿时间与通道双相关建模的外生变量时序预测
网络·人工智能·深度学习·算法·机器学习·数据挖掘·时序数据库
迅易科技13 分钟前
微软Copilot最新升级解读:哪些变化真正影响企业数字化建设?
人工智能·microsoft·copilot
Geek-Chow19 分钟前
反向代理:从银行边缘网关到 AI 网关的第一性原理
人工智能
开开心心就好19 分钟前
视频模糊怎么修复?免费工具支持批量处理
java·前端·人工智能·智能手机·pdf·excel
change_fate20 分钟前
ChatGPT打不开,卸载删除不了,但是存在列表中问题修复
人工智能·chatgpt
ofoxcoding21 分钟前
AI驱动的客户反馈分类实战:多标签提取、去重与统计方案详解
人工智能·分类·数据挖掘
径硕科技JINGdigital22 分钟前
企业要把 OpenAI GPT 最新系列模型接入生产环境,可选择哪些企业级生成式 AI 平台?
人工智能·其他
OpenCSG23 分钟前
OpenCSG与静安共话AI+|从前沿趋势到产业实践
人工智能·opencsg