山东大学软件学院深度学习期末回忆版

(大数据,2021级,老师是gys和cm,贝多芬,但是略微会有10% 的考试内容不在背诵范围内,看个人理解)

一、名词解释(8 * 3 = 24)

1、超参数

2、梯度确认

3、分布式表示

4、共现矩阵

5、Attention机制

6、Truncated BPTT

7、epoch

8、困惑度

二、简答题(6 * 8 = 48)

1、简述神经网络学习的过程。

2、为什么不能使用线性函数作为激活函数?

3、简述BatchNormalization的三个优点。

4、为什么Dropout能够抑制过拟合?

5、简述卷积神经网络的三个特点。

6、简述word2vec存在的问题以及其优化策略。

三、计算题(28)

1、(1)计算下面的全连接层的参数:输入图像是256*256的RGB图像,只有一个隐藏层,没有偏置,隐藏层的大小是10,输出层的大小是1000。

(2)简述随机梯度下降法低效的本质,并给出其他的三种不同的参数更新方法。

2、(1)请给出LSTM的内部计算结构图。

(2)简述三种门控单元的作用。

(3)简述对RNNLM的至少三种改进措施。

相关推荐
拓端研究室8 分钟前
视频讲解|核密度估计朴素贝叶斯:业务数据分类—从理论到实践
人工智能·分类·数据挖掘
灵智工坊LingzhiAI12 分钟前
人体坐姿检测系统项目教程(YOLO11+PyTorch+可视化)
人工智能·pytorch·python
昨日之日200617 分钟前
Video Background Remover V3版 - AI视频一键抠像/视频换背景 支持50系显卡 一键整合包下载
人工智能·音视频
SHIPKING3931 小时前
【机器学习&深度学习】什么是下游任务模型?
人工智能·深度学习·机器学习
子燕若水5 小时前
Unreal Engine 5中的AI知识
人工智能
极限实验室6 小时前
Coco AI 实战(一):Coco Server Linux 平台部署
人工智能
杨过过儿6 小时前
【学习笔记】4.1 什么是 LLM
人工智能
巴伦是只猫6 小时前
【机器学习笔记Ⅰ】13 正则化代价函数
人工智能·笔记·机器学习
伍哥的传说7 小时前
React 各颜色转换方法、颜色值换算工具HEX、RGB/RGBA、HSL/HSLA、HSV、CMYK
深度学习·神经网络·react.js
大千AI助手7 小时前
DTW模版匹配:弹性对齐的时间序列相似度度量算法
人工智能·算法·机器学习·数据挖掘·模版匹配·dtw模版匹配