嵌入式学习-（李宏毅）机器学习（1）-day28

开始学李宏毅的机器学习

写在前面

当时学完了吴恩达的机器学习，但是回过头来在看机器学习，发现当时真的只是泛泛而谈，没有很清晰的整体性认识，我觉得机器学习对后来的研究，看论文是非常基础的知识，打好机器学习的基础是非常重要的

Machine Learning = Looking for Finction

机器学习就是找一个函数

This course focuses on Deep Learning.

函数就是类神经网络

各种各样的输入：向量， 矩阵，序列

各种各样的输出 ：一个数，一个类别，写一段话

课程安排：

怎么自动找一个函数

1-5讲 Supervised Learning

分辨是宝可梦还是数码宝贝

1.收集一大堆的训练资料（label），标记是宝可梦还是数码宝贝

2.机器自动找出一个function，自动判别是宝可梦还是数码宝贝

it is not efficient to collect data for each task.

7讲 Self-supervised Learning

Pre-train 练习基本功，在其他的任务上能很快的学会

不需要任何的标注，只需要网络上的资料

当学会基本的事情之后，可以在真正关心的下游任务时有好的结果

Downstream Tasks 下游任务

6讲 Generative Adversarial Network

只用找到x，y，不需要把他们的关联告诉计算机

12讲 Reinforcement Learning

8讲 Anomaly Detection

让在分类问题中让机器具备回答："我不知道" 的能力

9讲 Explainable AI 可解释性ai

告诉我们为什么他知道答案是这样子

10讲 Model Attack 模型攻击

防御的可能性

11讲 Domain Adaptation

13讲 Network Compression

模型压缩

14讲 Life-long Learning

长期学习

15 Meta learning 学习如何学习

few-shot learningis usually achieved bt meta-learning

用非常少的标注资料就进行学习

从过去的经验里面发明新的演算法