AI通识与基础

1. AI通识与基础

AI核心是一种Transformer,这是一种神经网络架构,本质就是在模拟人类大脑神经元。将千千万万个神经元连接起来的,这就组成了神经元网络。

神经网络分层:

输入层:入口,接收数据。

隐藏层:信息处理和学习,可以有很多层。

输出层:出口产生结果。

基本流程:

前向传播:数据逐层加工,直到输出层产出结果。

计算误差:计算产出结果与正确结果的误差。

反向追责:倒退计算每一层的每个连接点对误差的贡献。

调整权重:根据每个连接的误差贡献比例,调整其权重参数,使误差变小。

2. 大语言模型

**词向量(Word Embedding):**就是把词转为多维空间向量的一种技术。

●首先,将人类语言拆分为一个个片段,成为Token(词)。

●每个Token都经过模型计算转为一个浮点数数组,作为向量坐标(一个词的浮点数组可以是成千上万个甚至更多)。

3. Transformer-注意力机制

Transformer模型:注意力机制是模型能够更高效的根据上下文信息处理Token,理解token的含义。根据上下文信息,使向量能够朝着目标方向不断调整。

Word Embedding是第一步,是模型能够理解单个词的含义。

SoftMax会根据计算出的向量得出下一个Token的概率分布,然后基于概率的随机采样方式挑选一个作为结果。这个概率受模型的Temperature参数影响,值越大,概率分布越均匀,模型生成结果的随机性增强;反之越稳定。

Transformer本来是作为翻译用的,但当模型规模和训练量达到了某个临界点时,模型突然就像有了智能,不仅可以理解人类语言,还能推理,分析。这种现象被称为涌现 。这种超大规模的语言模型,称为大语言模型。

相关推荐
VIP_CQCRE2 小时前
GPT Image 2.6 商品图换背景后悬浮?接触阴影、透明区域与反射验收
图像处理·人工智能·ai·电商
泯泷2 小时前
别再傻傻地喂文件了,大厂都在偷偷给AI建这种“专属图书馆”
人工智能
oak隔壁找我3 小时前
一款运行在 DSH(DeepSeek Harness)中的类 Postman HTTP 接口调试插件
人工智能·程序员
高洁013 小时前
数字孪生与计算机视觉:让机器看懂现场
人工智能·python·机器学习·transformer·迁移学习
Csvn4 小时前
如果明天供应商涨价 3 倍?三层解耦,换模型只改一行配置(C05)
人工智能·aigc·agent
在所不辞兄4 小时前
为什么数字孪生驱动的产线标定需要在线更新机制,而不能一次标定后长期沿用?
人工智能·神经网络·其他·算法·机器学习
锋行天下5 小时前
langgraph 全栈项目(三)
前端·人工智能·后端
黄啊码5 小时前
【黄啊码】最近面了十几个想转 FDE 的程序员,一个都没招
人工智能
YIAN5 小时前
从 LangChain 到 DeepAgents:手把手拆解 createAgent、Middleware 与复杂 Agent
javascript·langchain·deepseek
锋行天下6 小时前
langgraph 全栈项目(二)
前端·人工智能·后端