知识增强的大语言模型

王海峰 百度

先从人工智能讲起:

大模型的出现,让人看到AGI的曙光

一是技术通用,二是能力全面

人工智能技术演进:

  1. 规则由人工撰写
  2. 统计机器学习时代:自动学习,但算法模型仍需结合实际选择
  3. 深度学习:算法通用,DNN
  4. 大模型时代:模型通用,可以解决多领域问题。

1.1 人工智能技术的通用性

1.任务

NLP

分词 句法分析 文本分类 语义匹配 实体识别

2.语言

  1. 自然语言 中文、英文等
  2. 形式语言 编程语言,无歧义

3.模态

多模态统一

4.场景

农业 制造 能源 交通 金融 教育等

1.2 人工智能能力的全面性

理解 生成 逻辑 记忆 是 基本能力

生成式模型不仅包括生成能力,同样包括:理解 、逻辑、记忆等能力

2 文心大模型发展历程

基本架构

2.1 基础模型训练

2.2 数据构建与优化

2.3 对齐技术创新

2.4 提示优化

2.5 知识增强

2.6 检索增强

2.7 知识点增强

2.8 对话增强

2.9 智能体

3 人工智能技术栈

相关推荐
CareyWYR1 小时前
每周AI论文速递(251201-251205)
人工智能
北京耐用通信3 小时前
电磁阀通讯频频“掉链”?耐达讯自动化Ethernet/IP转DeviceNet救场全行业!
人工智能·物联网·网络协议·安全·自动化·信息与通信
cooldream20093 小时前
小智 AI 智能音箱深度体验全解析:人设、音色、记忆与多场景玩法的全面指南
人工智能·嵌入式硬件·智能音箱
oil欧哟3 小时前
AI 虚拟试穿实战,如何低成本生成模特上身图
人工智能·ai作画
央链知播3 小时前
中国移联元宇宙与人工智能产业委联席秘书长叶毓睿受邀到北京联合大学做大模型智能体现状与趋势专题报告
人工智能·科技·业界资讯
人工智能培训4 小时前
卷积神经网络(CNN)详细介绍及其原理详解(2)
人工智能·神经网络·cnn
YIN_尹4 小时前
目标检测模型量化加速在 openEuler 上的实现
人工智能·目标检测·计算机视觉
mys55184 小时前
杨建允:企业应对AI搜索趋势的实操策略
人工智能·geo·ai搜索优化·ai引擎优化
小毅&Nora4 小时前
【人工智能】【深度学习】 ⑦ 从零开始AI学习路径:从Python到大模型的实战指南
人工智能·深度学习·学习
牛阿大5 小时前
关于前馈神经网络
人工智能·深度学习·神经网络