【感知机】感知机(perceptron)模型与几何解释

感知机( perceptron )是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1 和-1二值。感知机对应输入空间(特征空间)中将实例划分为正负两类的分离超平面,是一种判别模型。感知机是神经网络与支持向量机的基础

感知机学习旨在求出将训练数据进行线性划分的分离超平面。
感知机学习思路:

1.导入基于误分类的损失函数

2.利用梯度下降法对损失函数进行极小化

3.代入参数得到感知机模型。
感知机学习算法分类:

原始形式、对偶形式。

目录

感知机模型

感知机的几何解释

数据集的线性可分性


感知机模型

定义 设输入空间(特征空间),输出空间。输入表示实例的特征向量,对应于输入空间的点,输出表示实例的类别,由输入空间到输出空间的函数称为感知机

w,b为参数。叫做权值或权值向量(weight vector),b叫作偏置(bias)

符号函数sign的功能是取某个数的符号

感知机模型的假设空间是定义在特征空间中的所有线性分类模型或线性分类器,即函数集合

感知机的几何解释

:对应特征空间中的一个超平面,这个超平面将特征空间划分为两个部分,称为分离超平面(separating hyperplane)

b:超平面的截距

w:超平面的法向量

数据集的线性可分性

给定一个数据集,其中,,如果存在一个超平面,能够正确地划分所有正负实例点,则称数据集为线性可分数据集(linearky separable data set),否则称其线性不可分.

下篇:【感知机】感知机(perceptron)学习策略

相关推荐
风暴之零22 分钟前
卡尔曼滤波学习
人工智能·学习·机器学习
小刘max1 小时前
最长递增子序列(LIS)详解:从 dp[i] 到 O(n²) 动态规划
算法·动态规划
谢景行^顾1 小时前
数据结构知识掌握
linux·数据结构·算法
2401_860319521 小时前
【无标题】
开发语言·学习·rust
ShineWinsu2 小时前
对于数据结构:堆的超详细保姆级解析——下(堆排序以及TOP-K问题)
c语言·数据结构·c++·算法·面试·二叉树·
DuHz2 小时前
基于时频域霍夫变换的汽车雷达互干扰抑制——论文阅读
论文阅读·算法·汽车·毫米波雷达
hetao17338372 小时前
ZYZ28-NOIP模拟赛-Round4 hetao1733837的record
c++·算法
Nebula_g2 小时前
C语言应用实例:解方程(二分查找)
c语言·开发语言·学习·算法·二分查找·基础
三品吉他手会点灯3 小时前
stm32f103学习笔记-16-RCC(第2节)-讲解系统时钟配置函数SetSysClockTo72()
笔记·stm32·单片机·嵌入式硬件·学习
少许极端4 小时前
算法奇妙屋(十)-队列+宽搜(BFS)
java·数据结构·算法·bfs·宽度优先·队列