2022最新版-李宏毅机器学习深度学习课程-P49 GPT的野望

GPT→类似于Transformer Encoder

训练任务:Predict Next Token

使用MASK-attention,不断预测"下一个token"。

可以用GPT生成文章。

How to use GPT?

给出描述和例子

给出前半段,补上后半段

In-context Learning(no GD)

结果

目前看起来状况是,有些任务它还真的学会了 ,举例来说2这个加减法,你给它一个数字加另外一个数字,它真的可以得到,正确的两个数字加起来的结果,但是有些任务,它可能怎麼学都学不会,譬如说一些跟逻辑推理 有关的任务,它的结果就非常非常地惨。

Self-supervesed Learning Beyond Text

CV

Image - SimCLR

Image - BYOL

Speech

训练:

语音也可以做填空题,就把一段声音讯号盖起来,叫机器去猜;

语音也可以预测接下来会出现的内容

Speech GLUE - SUPERB

李宏毅------语音的基准语料库。

相关推荐
[shenhonglei]37 分钟前
【吉卜力风格Prompt 超好用现成提示词】
人工智能
【云轩】41 分钟前
《信号革命:从模拟到数字的通信进化史诗》
人工智能·嵌入式硬件·语音识别
视觉&物联智能44 分钟前
【杂谈】-大型语言模型对具身人工智能发展的推动与挑战
人工智能·搜索引擎·语言模型·大模型·llm·具身人工智能
巫山老妖1 小时前
5分钟手把手教你开发一个MCP服务
人工智能
巫山老妖1 小时前
大模型 MCP:开启 AI 与现实世界的无缝交互革命
人工智能
WhyNot?1 小时前
深度学习入门(三):神经网络的学习
深度学习·神经网络·学习
不吃香菜?1 小时前
Opencv之dilib库:表情识别
人工智能·opencv·计算机视觉
郝YH是人间理想1 小时前
OpenCV基础——傅里叶变换、角点检测
开发语言·图像处理·人工智能·python·opencv·计算机视觉
__Benco1 小时前
OpenHarmony子系统开发 - 安全(十)
人工智能·harmonyos
odoo中国1 小时前
深度学习 Deep Learning 第16章 结构化概率模型
人工智能·深度学习·结构化模型