知识增强的大语言模型

王海峰 百度

先从人工智能讲起:

大模型的出现,让人看到AGI的曙光

一是技术通用,二是能力全面

人工智能技术演进:

  1. 规则由人工撰写
  2. 统计机器学习时代:自动学习,但算法模型仍需结合实际选择
  3. 深度学习:算法通用,DNN
  4. 大模型时代:模型通用,可以解决多领域问题。

1.1 人工智能技术的通用性

1.任务

NLP

分词 句法分析 文本分类 语义匹配 实体识别

2.语言

  1. 自然语言 中文、英文等
  2. 形式语言 编程语言,无歧义

3.模态

多模态统一

4.场景

农业 制造 能源 交通 金融 教育等

1.2 人工智能能力的全面性

理解 生成 逻辑 记忆 是 基本能力

生成式模型不仅包括生成能力,同样包括:理解 、逻辑、记忆等能力

2 文心大模型发展历程

基本架构

2.1 基础模型训练

2.2 数据构建与优化

2.3 对齐技术创新

2.4 提示优化

2.5 知识增强

2.6 检索增强

2.7 知识点增强

2.8 对话增强

2.9 智能体

3 人工智能技术栈

相关推荐
羊小猪~~1 分钟前
深度学习基础案例5--VGG16人脸识别(体验学习的痛苦与乐趣)
人工智能·python·深度学习·学习·算法·机器学习·cnn
Zhangci]1 分钟前
OpenCv(一)
人工智能·opencv·计算机视觉
钡铼技术3 分钟前
通过iFIX在ARMxy边缘计算网关上实现维护管理
人工智能·物联网·边缘计算·钡铼技术·armxy边缘计算网关
m0_609000421 小时前
向日葵好用吗?4款稳定的远程控制软件推荐。
运维·服务器·网络·人工智能·远程工作
开MINI的工科男2 小时前
深蓝学院-- 量产自动驾驶中的规划控制算法 小鹏
人工智能·机器学习·自动驾驶
AI大模型知识分享3 小时前
Prompt最佳实践|如何用参考文本让ChatGPT答案更精准?
人工智能·深度学习·机器学习·chatgpt·prompt·gpt-3
张人玉5 小时前
人工智能——猴子摘香蕉问题
人工智能
草莓屁屁我不吃5 小时前
Siri因ChatGPT-4o升级:我们的个人信息还安全吗?
人工智能·安全·chatgpt·chatgpt-4o
小言从不摸鱼5 小时前
【AI大模型】ChatGPT模型原理介绍(下)
人工智能·python·深度学习·机器学习·自然语言处理·chatgpt
AI科研视界5 小时前
ChatGPT+2:修订初始AI安全性和超级智能假设
人工智能·chatgpt