本文是观看视频Machine Learning vs Deep Learning后的笔记。
深度学习是机器学习的子集。集合从外到内，依次为AI，机器学习，神经网络（Neutral Network）和深度学习。其中神经网络是深度学习算法的支柱。
机器学习算法利用结构化标记数据来进行预测，来看一个决定是否点一个披萨外卖的例子。在机器学习算法模型中，影响该决定的有3个输入因素。为简化，输入取值为1或0，表示是与否：
- X1：节省时间吗？是（1）
- X2：可以减肥吗？否（0）
- X3：省钱吗？是（1），因为有免费兑换券
但网络中的神经元可以代表任何值。从负无穷到正无穷。我们还可以为输入分配权重。较大的权重使得单个输入对输出的贡献更大。
在本例中，X1到X3的权重如下（以Wi表示）：
- W1：5，因为我珍惜我的时间
- W2：3，因为我希望保持身材
- W3：2，因为花不了多少钱
假设最终决定的阈值是5，是否需要点披萨外卖的公式如下：
D e c i s i o n = ∑ n = 1 3 X n × W n − 5 = 2 \mathrm{Decision} = \sum_{n=1}^{3} {X_n}\times{W_n} - 5 = 2 Decision=n=1∑3Xn×Wn−5=2
因为输出为正，因此我们决定订购披萨。这就是机器学习的过程。
再来看深度学习。深度学习指的是神经网络的深度由三层或以上组成，除输入层和输出层外，中间还有很多层。
另一个区别是，机器学习更多依赖于人类干预来学习。由人类专家确定特征的层次结构来理解数据输入之间的差异。
经典的机器学习更多地依赖于人类干预来学习。
人类专家确定特征层次结构以了解数据输入之间的差异。例如，对于一系列不同类型的快餐（如披萨、汉堡和炸玉米饼）的图像，您可以在数据集中标记这些图像，以便由神经网络进行处理。人类专家已经确定了将每张图片区分为特定快餐类型的特征。这被称为监督学习，因为该过程包含人工干预或监督。
深度机器学习不一定需要标签数据集。它可以摄取原始形式的非结构化数据，例如文本和图像。通过观察数据中的模式，深度学习模型可以适当地对输入进行聚类。这些算法无需人工干预即可发现数据分组的隐藏模式，所以称为无监督学习。
大多数深度神经网络都是前馈的。即方向是从输入到输出。也可以从输出到输入，也就是反向传播的方法来训练模型。反向传播允许我们计算和归因与每个神经元相关的误差，并允许适当地调整和拟合算法。
总结一下，机器学习和深度学习属于同一研究领域，都是人工智能的子领域。深度学习是机器学习的子集。神经网络是两种学习类型的基础。
深度学习与机器学习的区别在于神经网络的层数是否超过三层以及是否需要人工干预来标记数据。