听课笔记-nlp

典型的深度网络模型 resNet

mask R-CNN

大模型为核心的AI

原始的问题就是语言模型

词嵌入

word Embedding

如何将字符串转化为浮点数组,也就是再高维空间中的店,这种空间嵌入,是NLP的关键

含义相近的词汇,应当嵌入到距离相近的点上

词组与搭配关系,乃至于句法和语法,都和词汇之间的亲密度,密切相关,嵌入时,不能只考虑词汇本身的含义

考虑语境和上下文

连带上下文一同嵌入

早期语言模型架构,主要基于RNN,以LSTM作为基本单元,并且引入两列注意力元素 CoVe

若干个CNN,平行的放置,首尾链接,ELMo,处理的是一个顺序对象,基本特征为顺序,人读东西是非线性的

信息越处理噪声越多,越处理信息越少

正着跑一遍,倒着跑一遍

2017年,Transformer的引入是NLP领域的革命性事件

引入注意力机制,假定事先不知道,事先准备了很多的注意力头,提取出来的信息,反复相关

两大特点:非线性,大量的计算

Transfoemer 内部参数众多,可以存储大量信息

ENCODER --> DECODER

预训练pre-train (没有明确目标,没有明显指向任务,是为了今后的精调做准备的,用大量的语料做准备,上千亿种)+ Fine-Tuning 是AI训练方法的革命性创新

人的语义不达,可能是训练的不够,肯定没有上千亿种,

从图片中准确的找到,提取出二维的姿态,模型要放的稳

解决问题才是最重要的

要出深度只有两个途径,一个是一个角度拍一张,两张不同角度的图,三角化,另外一种,立体相机,双目

直接输出图片中关注的三维姿态,一张图片,不但知道有摩托车,还知道位置,还知道姿态,modelTarget,端对端

相关推荐
layneyao几秒前
神经辐射场(NeRF)技术解析:3D重建与虚拟世界的未来
人工智能·3d
凢en14 分钟前
NOC科普一
网络·笔记·算法·智能路由器·硬件工程
yangmf204039 分钟前
私有知识库 Coco AI 实战(四):打造 ES 索引参数小助手
大数据·人工智能·elasticsearch·coco ai
xixixiLucky1 小时前
爬虫学习笔记(一)
笔记·爬虫·学习
大数据在线1 小时前
当向量数据库与云计算相遇:AI应用全面提速
人工智能·云计算·向量数据库·亚马逊云科技·zilliz
stevenzqzq1 小时前
编程中如何与AI交互-结构化输入和理解确认机制
人工智能·交互
高峰君主2 小时前
生成式AI全栈入侵:当GPT-4开始自动编写你的Next.js路由时,人类开发者该如何重新定义存在价值?
人工智能
J先生x2 小时前
【开源项目】基于sherpa-onnx的实时语音识别系统 - LiveASR
人工智能·语音识别
火星资讯2 小时前
“兴火·燎原”总冠军诞生,云宏信息《金融高算力轻量云平台》登顶
人工智能·科技
whaosoft-1432 小时前
51c自动驾驶~合集37
人工智能