听课笔记-nlp

典型的深度网络模型 resNet

mask R-CNN

大模型为核心的AI

原始的问题就是语言模型

词嵌入

word Embedding

如何将字符串转化为浮点数组,也就是再高维空间中的店,这种空间嵌入,是NLP的关键

含义相近的词汇,应当嵌入到距离相近的点上

词组与搭配关系,乃至于句法和语法,都和词汇之间的亲密度,密切相关,嵌入时,不能只考虑词汇本身的含义

考虑语境和上下文

连带上下文一同嵌入

早期语言模型架构,主要基于RNN,以LSTM作为基本单元,并且引入两列注意力元素 CoVe

若干个CNN,平行的放置,首尾链接,ELMo,处理的是一个顺序对象,基本特征为顺序,人读东西是非线性的

信息越处理噪声越多,越处理信息越少

正着跑一遍,倒着跑一遍

2017年,Transformer的引入是NLP领域的革命性事件

引入注意力机制,假定事先不知道,事先准备了很多的注意力头,提取出来的信息,反复相关

两大特点:非线性,大量的计算

Transfoemer 内部参数众多,可以存储大量信息

ENCODER --> DECODER

预训练pre-train (没有明确目标,没有明显指向任务,是为了今后的精调做准备的,用大量的语料做准备,上千亿种)+ Fine-Tuning 是AI训练方法的革命性创新

人的语义不达,可能是训练的不够,肯定没有上千亿种,

从图片中准确的找到,提取出二维的姿态,模型要放的稳

解决问题才是最重要的

要出深度只有两个途径,一个是一个角度拍一张,两张不同角度的图,三角化,另外一种,立体相机,双目

直接输出图片中关注的三维姿态,一张图片,不但知道有摩托车,还知道位置,还知道姿态,modelTarget,端对端

相关推荐
脑洞专家14 分钟前
基于改进的点线融合和关键帧选择的视觉SLAM 方法
人工智能·机器学习·计算机视觉
郭涤生1 小时前
Chapter 10: Batch Processing_《Designing Data-Intensive Application》
笔记·分布式
University of Feriburg2 小时前
4-c语言中的数据类型
linux·c语言·笔记·学习·嵌入式实时数据库·嵌入式软件
明月看潮生2 小时前
青少年编程与数学 02-015 大学数学知识点 09课题、专业相关性分析
人工智能·青少年编程·数据科学·编程与数学·大学数学
XYN612 小时前
【嵌入式学习3】基于python的tcp客户端、服务器
服务器·开发语言·网络·笔记·python·学习·tcp/ip
SofterICer2 小时前
Eclipse Leshan 常见问题解答 (FAQ) 笔记
java·笔记·eclipse
奋斗者1号2 小时前
嵌入式AI开源生态指南:从框架到应用的全面解析
人工智能·开源
密码小丑2 小时前
玄机-应急响应-webshell查杀
网络·笔记
果冻人工智能3 小时前
如何对LLM大型语言模型进行评估与基准测试
人工智能
郭涤生3 小时前
微服务系统记录
笔记·分布式·微服务·架构