开始学李宏毅的机器学习
写在前面
当时学完了吴恩达的机器学习，但是回过头来在看机器学习，发现当时真的只是泛泛而谈，没有很清晰的整体性认识，我觉得机器学习对后来的研究，看论文是非常基础的知识，打好机器学习的基础是非常重要的
Machine Learning = Looking for Finction
机器学习就是找一个函数
This course focuses on Deep Learning.
函数就是类神经网络
各种各样的输入：向量， 矩阵，序列
各种各样的输出 ：一个数，一个类别，写一段话
课程安排：
怎么自动找一个函数
1-5讲 Supervised Learning
分辨是宝可梦还是数码宝贝
1.收集一大堆的训练资料（label），标记是宝可梦还是数码宝贝
2.机器自动找出一个function，自动判别是宝可梦还是数码宝贝
it is not efficient to collect data for each task.
7讲 Self-supervised Learning
Pre-train 练习基本功，在其他的任务上能很快的学会
不需要任何的标注，只需要网络上的资料
当学会基本的事情之后，可以在真正关心的下游任务时有好的结果
Downstream Tasks 下游任务
6讲 Generative Adversarial Network
只用找到x，y，不需要把他们的关联告诉计算机
12讲 Reinforcement Learning
8讲 Anomaly Detection
让在分类问题中让机器具备回答："我不知道" 的能力
9讲 Explainable AI 可解释性ai
告诉我们为什么他知道答案是这样子
10讲 Model Attack 模型攻击
防御的可能性
11讲 Domain Adaptation
13讲 Network Compression
模型压缩
14讲 Life-long Learning
长期学习
15 Meta learning 学习如何学习
few-shot learningis usually achieved bt meta-learning
用非常少的标注资料就进行学习
从过去的经验里面发明新的演算法
