Datawhale X 李宏毅苹果书 AI夏令营 入门 Task1-机器学习

目录

机器学习基础

机器学习:机器具备有学习的能力/让机器具备找一个函数的能力。比如语音识别、图像识别、

机器学习有不同的类别。

1)回归:假设要找的函数的输出是一个数值/标量,这种机器学习的任务称为回归。

2)分类:分类任务要让机器做选择题。人类先准备好一些选项,这些选项称为类别。

3)结构化学习:机器不只是要做选择题或输出一个数字,而是产生一个有结构的物体,比如让机器画一张图,写一篇文章。这种叫机器产生有结构的东西的问题称为结构化学习。

案例分析-视频的点击次数预测

机器学习流程

1)构建模型

写出一个带有未知参数的函数(模型),用于预测未来观看次数。

例如, y = b + w x 1 y = b + wx_1 y=b+wx1,其中 y 是预测的观看次数, x 1 x_1 x1 是前一天的观看次数,b 和 w 是未知参数。

其中,带有未知的参数的函数称为模型。特征 x 1 x_1 x1是这个函数里面已知的,而 w 跟 b 是未知的参数。w 称为权重,b 称为偏置。

2)定义损失函数

损失函数用于评估模型预测值与实际值之间的差异。

例如,如果 b = 500 和 w = 1,则预测函数为 y = 500 + x 1 y = 500 + x_1 y=500+x1。

计算每一条记录的预测值与实际值之间的差距,并求平均值得到损失。

3)最优化

使用梯度下降算法来调整模型参数,以最小化损失函数。

初始参数随机选取,然后根据损失函数的梯度来更新参数。

更新规则为: w 1 ← w 0 − η ∂ L / ∂ w ∣ w = w 0 w1 ← w0 - η ∂L/∂w | w=w_0 w1←w0−η∂L/∂w∣w=w0,其中 η 是学习率。

梯度下降过程中可能遇到局部最小值,但这通常不是一个严重的问题。

4)结果

在训练数据上找到了最佳参数 w* = 0.97, b* = 100。

使用这些参数得到的平均误差约为 480。

在未见过的数据上(2021年的数据),模型的误差为 0.58。

相关公式

1.模型公式:

2.损失函数

3.参数更新

相关推荐
Juicedata14 分钟前
JuiceFS v1.3-Beta2:集成 Apache Ranger,实现更精细化的权限控制
运维·人工智能·ai
Work(沉淀版)2 小时前
DAY 40
人工智能·深度学习·机器学习
蓦然回首却已人去楼空3 小时前
Build a Large Language Model (From Scratch) 序章
人工智能·语言模型·自然语言处理
CM莫问3 小时前
<论文>(微软)WINA:用于加速大语言模型推理的权重感知神经元激活
人工智能·算法·语言模型·自然语言处理·大模型·推理加速
拾忆-eleven3 小时前
NLP学习路线图(二十六):自注意力机制
人工智能·深度学习
MYH5164 小时前
在NLP文本处理中,将字符映射到阿拉伯数字(构建词汇表vocab)的核心目的和意义
人工智能·深度学习·自然语言处理
要努力啊啊啊4 小时前
KV Cache:大语言模型推理加速的核心机制详解
人工智能·语言模型·自然语言处理
mzlogin6 小时前
DIY|Mac 搭建 ESP-IDF 开发环境及编译小智 AI
人工智能
归去_来兮6 小时前
知识图谱技术概述
大数据·人工智能·知识图谱
就是有点傻6 小时前
VM图像处理之图像二值化
图像处理·人工智能·计算机视觉