序列学习任务

循环神经网络

循环神经网络 (Recurrent Neural Network, 简称RNN)是一个时间序列模型。RNN保存有内部状态,能够记忆之前时间步的信息,并将其用于当前时间步的计算。本模块介绍RNN的网络结构,包括单向和双向RNN,以及高级RNN Cell (LSTM、GRU),并演示如何利用RNN完成序列分类 (文本分类) 和序列标注任务。

序列学习任务:

以序列作为输入的学习任务主要有三种:

1.序列分类任务

将序列数据作为一个整体,进行分类,如文本分类任务。神经网络需要计算整个序列的表征,再基于这个特征表征完成分类任务。常见的文本分类任务有:情感分类,垃圾邮件分类,新闻分类、对话的意图识别等。模型一般会预测后验概率,再将后验概率最大的类别作为预测标签。

2.序列标注任务

将序列数据中的每个元素分别进行分类,每个元素都打上一个类别标签。在NLP领域,最典型的序列标注任务是命名实体识别。模型需要为每个元素计算特征,并基于该特征作出分类。序列标注任务需要考虑输入序列以及输出序列 (即标签序列)中元素之间的关联。

3.Seq2Seq

输入一个序列,输出另外一个序列。输出序列和输入序列的长度没有必然联系,由模型来决定输出序列的长度,即判断何时停止输出。例如:机器翻译,文本摘要,Data2Text,Text2Sql等等。

相关推荐
葫三生2 分钟前
关于三生原理系列被技术开发社区批量收录或引发策展边界讨论的一种思考
大数据·人工智能·深度学习·算法·机器学习·数据挖掘·开源
持续学习的程序员+17 分钟前
跟随一次“沙拉酱瓶入篮”任务,理解 RPent(harness vla) 的完整工作流程
人工智能·深度学习·机器学习
jay神19 分钟前
基于 YOLOv8 的无人机识别与检测系统
人工智能·深度学习·yolo·计算机视觉·无人机·课程设计·计算机毕业设计
田里的水稻19 分钟前
FA_CNN卷积神经网络四---线性层及其拉平PyTorch
人工智能·pytorch·python·深度学习·神经网络·cnn
碧海银沙音频科技研究院26 分钟前
实现炬芯ATS308X的usb cdc 串口IAP 固件升级功能实现
人工智能·嵌入式硬件·深度学习·算法
跟我学机器学习2 小时前
拥有短期记忆的RAG Agent:记忆增强检索实战
人工智能·深度学习·语言模型·数据挖掘·rag
QN1幻化引擎2 小时前
信号场注意力(SFA):把 KV Cache 变成 O(1) 的双通道注意力——0.1B/0.3B 受控 A/B 精度反升 15.5% / 24.3%
pytorch·深度学习·大模型·transformer·注意力机制·推理优化
田里的水稻2 小时前
FA_CNN卷积神经网络二---PyTorch
人工智能·pytorch·python·深度学习·cnn
美狐美颜SDK开放平台3 小时前
直播APP集成美颜SDK,如何梳理第三方组件的数据权限?
开发语言·人工智能·深度学习·音视频·第三方美颜sdk
在所不辞兄4 小时前
【零基础学智能仿真-58】Foam-Agent协作与知识检索
人工智能·深度学习·神经网络·机器学习·有限元·仿真计算