AI大模型长啥样?

随着ChatGPT的流行,AI大模型也成了新的基础设施,我们在深入学习理解这波新技术之前,有必要先理清一些基本的概念。

这篇文章主要讨论两个问题:

  • AI大模型是什么?
  • AI大模型能做什么?

AI大模型是什么?

从严谨的角度来说并没有"大模型"这样的概念,在学术上更常用的是基础模型(foundation model或者base model)。

维基百科中对"基础模型"的定义:基础模型是一种大型机器学习模型,通常在大量数据上进行大规模训练(通过自监督学习或者半监督学习),以使它可以适应各类下游任务。

我们可以看到基础模型有以下几个特点:

  1. 参数量大
  2. 数据量大
  3. 迁移学习能力强

AIGC,全称是Artifical Intelligence Generated Content,生成式人工智能。因为AIGC基本都是通过"大模型"的上下文学习、涌现和思维连等能力支撑实现的,所以我们也会经常听到"生成式人工智能大模型"的说法。

什么是"涌现"? 它是指在大模型领域,当模型突破某个规模时,性能显著提升,表现出让人惊艳、意想不到的能力。

什么是"思维链(Chain-of-thought)"?它指的是通过一系列有逻辑关系的思考步骤,形成一个完整的思考,进而得出答案的过程。

大模型的"大"是一个相对概念,是一个持续的过程,更大规模的训练数据需要模型具备更强的记忆、理解和表达能力。而为了拥有更强的记忆、理解和表达能力,模型需要更大的参数量,也就是更大的模型。

模型为什么会越来越大?内因是存储和算力的发展,外因是人类在知识量和共享度上的发展,互联网技术使得人类个体公开可查的学习资料快读膨胀。

大模型技术为什么会火呢?除了存储和计算能力的持续发展,还有几个必要条件:

  1. 通过涌现、思维链和上下文学习的能力,极大提升了模型的自然语言理解和生成的能力。
  2. 跨模态建模能力的发展,这让同一个模型能像人类一样同时理解和处理Excel、PPT、PDF、图像和视频等多种形式的数据。
  3. 生成式模型的交互方式,新的AI产品利用了人类的惰性,通过新的交互方式,大大提高了产品的渗透率。

AI大模型能做什么?

AI大模型可以很好的处理语言翻译、创意策划、文章创作和代码编写等任务。

AI大模型的限制:

  1. 时间限制,例如GPT 3.5只使用了2021年9月之前的数据进行训练,这样就无法评判之后的事实。
  2. 输入长度限制,不同的model会对可以处理的token长度有不同的限制。
  3. "幻觉"问题,大模型可能会一本正经的讲"林黛玉倒拔垂杨柳"的故事。

对于ChatGPT架构师,我们要如何设计基于大模型技术的架构呢?

AI大模型具有很强的理解、摘要总结和多轮对话的能力,但在数据时效性、输入长度和内容可信性等方面有缺点。

ChatGPT开放了联网和插件接口功能,已有的互联网应用可以通过调用OpenAI的API,将自己的应用放入ChatGPT的应用中心。

我们利用大模型平台先天具备的优异语言能力、意图识别能力和指令翻译能力,将互联网领域的各个能力接入其中,由AI大模型作为大脑,帮助各个应用互相对话,产生化学反应。

我们来看一些案例:

  • 作为助理,可以安排日程、完成差旅机票酒店预订,或者根据会议相关资料和人数预定会议室,提前发放会议议程。
  • 作为秘书,根据个人习惯,查询关注领域的最新消息,生成工作周报等。
  • 作为伴侣,可以介入语音合成和语音识别插件,以及数字人插件,这样可以像一个真正的朋友一样和你进行视频对话。

通过这种方式,大模型系统平台可以成为强大的生产工具,擅长使用大模型平台的用户将极大的提升个人生产效率,和其他人拉开差距。


此文章为极客时间9月份Day01学习笔记,内容来自《AI大模型系统实战》课程。

相关推荐
热爱跑步的恒川6 小时前
【论文复现】基于图卷积网络的轻量化推荐模型
网络·人工智能·开源·aigc·ai编程
火山引擎边缘云14 小时前
创新实践:基于边缘智能+扣子的智慧婴儿监控解决方案
物联网·aigc·边缘计算
算家云14 小时前
如何在算家云搭建Aatrox-Bert-VITS2(音频生成)
人工智能·深度学习·aigc·模型搭建·音频生成·算家云
AI绘画小3320 小时前
【comfyui教程】comfyui古风一键线稿上色,效果还挺惊艳!
人工智能·ai作画·stable diffusion·aigc·comfyui
AI绘画月月21 小时前
【comfyui教程】ComfyUI有趣工作流推荐:快速换脸,创意随手掌握!
人工智能·ai作画·stable diffusion·aigc·comfyui
AI绘画咪酱1 天前
【AI绘画】AI绘图教程|stable diffusion(SD)图生图涂鸦超详细攻略,教你快速上手
人工智能·ai作画·stable diffusion·aigc·midjourney
过去式的马马马1 天前
文多多AIPPT
ai作画·aigc·文心一言·ai编程·dall·e 2
逐星ing1 天前
【AIGC】腾讯云语音识别(ASR)服务在Spring Boot项目中的集成与实践
aigc·腾讯云·语音识别
花千树-0101 天前
Milvus - GPU 索引类型及其应用场景
运维·人工智能·aigc·embedding·ai编程·milvus
DisonTangor2 天前
腾讯混元3D-1.0:文本到三维和图像到三维生成的统一框架
人工智能·3d·aigc