刘二大人第2讲-线性模型-带代码以及作业答案

2. 线性模型

2.1 任务介绍

根据时间，预测得分

2.2 步骤

2.2.1 步骤一：模型

随便给一个线性模型，我们使用简化的线性模型(去掉截距只看一元，简单举例)来举例：
<math xmlns="http://www.w3.org/1998/Math/MathML" display="block"> y ^ = w ∗ x \hat{y} = w * x </math>y^=w∗x

2.2.2 步骤二：Loss

目标：找到一个参数w*，使模型的误差最小

在此设定单个样本的Loss函数为：
<math xmlns="http://www.w3.org/1998/Math/MathML" display="block"> L o s s = ( y ^ − y ) 2 = ( x ∗ w − y ) 2 Loss = (\hat{y} - y)^2 = (x*w - y)^2 </math>Loss=(y^−y)2=(x∗w−y)2

整体Loss为MSE（平均平方误差）
<math xmlns="http://www.w3.org/1998/Math/MathML" display="block"> c o s t = 1 N ∗ ∑ i = 1 N ( y ^ i − y i ) 2 cost = \frac{1}{N} * \sum_{i=1}^{N} (\hat{y}i - yi)^2 </math>cost=N1∗i=1∑N(y^i−yi)2

2.2.3 步骤三：优化

穷举算一下MSE，发现w=2时模型最优

2.3 代码

2.3.1 穷举法

首先介绍通过穷举法找最小Loss

我们通过某些猜想，猜到最小Loss应该出现在w落在0-4区间的情况

我们取样用穷举法

代码如下：

ini 复制代码

import matplotlib as plt

# 设置后端为TkAgg
plt.use('TkAgg')

import numpy as np
from matplotlib import pyplot as plt

# 1. 定义训练数据集
x_data = np.array([1.0, 2.0, 3.0])
y_data = np.array([2.0, 4.0, 6.0])


# 2. 定义模型
def forward(x):
    return x * w


# 3. 定义损失函数
def loss(x, y):
    y_pred = forward(x)
    return (y_pred - y) * (y_pred - y)


# 4.存储遍历的w以及MSE
w_list = []
mse_list = []

# 5. 0-4之间以0.1为间隔采样穷举w训练模型
for w in np.arange(0.0, 4.1, 0.1):
    # 计算损失函数
    l_sum = 0
    for x, y in zip(x_data, y_data):
        l = loss(x, y)
        # 累加损失
        l_sum = l_sum + l
    # 存储w和mse
    w_list.append(w)
    mse_list.append(l_sum / 3)

# 6. 画图查看w与Loss函数的关系
# 尺寸设置
plt.figure(figsize=(10, 5))
plt.plot(w_list, mse_list)
plt.ylabel('Loss')
plt.xlabel('w')

plt.show()

注意点：‌zip函数将多个可迭代对象的对应元素组合成元组

2.4 作业

使用有截距的模型来实现以上操作，即猜测的模型为
<math xmlns="http://www.w3.org/1998/Math/MathML" display="block"> y = w ∗ x + b y = w*x + b </math>y=w∗x+b

答案

通过观察，设定w在0到4之间，b在-2到2之间。