Datawhale X 李宏毅苹果书 AI夏令营 入门 Task1-机器学习

目录

机器学习基础

机器学习:机器具备有学习的能力/让机器具备找一个函数的能力。比如语音识别、图像识别、

机器学习有不同的类别。

1)回归:假设要找的函数的输出是一个数值/标量,这种机器学习的任务称为回归。

2)分类:分类任务要让机器做选择题。人类先准备好一些选项,这些选项称为类别。

3)结构化学习:机器不只是要做选择题或输出一个数字,而是产生一个有结构的物体,比如让机器画一张图,写一篇文章。这种叫机器产生有结构的东西的问题称为结构化学习。

案例分析-视频的点击次数预测

机器学习流程

1)构建模型

写出一个带有未知参数的函数(模型),用于预测未来观看次数。

例如, y = b + w x 1 y = b + wx_1 y=b+wx1,其中 y 是预测的观看次数, x 1 x_1 x1 是前一天的观看次数,b 和 w 是未知参数。

其中,带有未知的参数的函数称为模型。特征 x 1 x_1 x1是这个函数里面已知的,而 w 跟 b 是未知的参数。w 称为权重,b 称为偏置。

2)定义损失函数

损失函数用于评估模型预测值与实际值之间的差异。

例如,如果 b = 500 和 w = 1,则预测函数为 y = 500 + x 1 y = 500 + x_1 y=500+x1。

计算每一条记录的预测值与实际值之间的差距,并求平均值得到损失。

3)最优化

使用梯度下降算法来调整模型参数,以最小化损失函数。

初始参数随机选取,然后根据损失函数的梯度来更新参数。

更新规则为: w 1 ← w 0 − η ∂ L / ∂ w ∣ w = w 0 w1 ← w0 - η ∂L/∂w | w=w_0 w1←w0−η∂L/∂w∣w=w0,其中 η 是学习率。

梯度下降过程中可能遇到局部最小值,但这通常不是一个严重的问题。

4)结果

在训练数据上找到了最佳参数 w* = 0.97, b* = 100。

使用这些参数得到的平均误差约为 480。

在未见过的数据上(2021年的数据),模型的误差为 0.58。

相关公式

1.模型公式:

2.损失函数

3.参数更新

相关推荐
litble8 小时前
如何速成LLM以伪装成一个AI研究者(6)——LoRA,Adapter,P-tuning,量化,QLoRA
人工智能·lora·量化·peft·qlora·高效微调
开发者每周简报8 小时前
网海三部曲·无名宗师传
javascript·人工智能
卷毛的技术笔记8 小时前
告别硬编码!Spring AI Alibaba 实现 AI Agent 智能工具调用(Tool Calling)
java·人工智能·后端·python·spring·ai编程
Cosolar9 小时前
从零写一个 Attention Is All You Need
人工智能·面试·架构
ai_xiaogui9 小时前
PanelAI:新一代AI算力调度系统,支持本地大模型一键部署与商业运营
人工智能·panelai·panelai算力调度系统·本地大模型一键部署平台·ai应用市场管理面板·企业级部署·2026本地ai私有化解决方案
冬奇Lab9 小时前
Agent 系列(9):多 Agent 架构设计模式——Supervisor 与 Pipeline
人工智能·源码·agent
冬奇Lab9 小时前
每日一个开源项目(第118篇):SkillOpt - 像训练神经网络一样优化 LLM Agent 的技能
人工智能·开源·agent
chengzi_beibei9 小时前
浏览器自动化的下一层:为什么 CloakBrowser 把指纹问题推到了源码层?
人工智能
哥布林学者9 小时前
深度学习进阶(二十六)现代 LLM 的核心架构设计其一:RMSNorm
机器学习·ai