w.wyue 于 2019-09-15 23:02:15 发布感知机（Perceptron ）算法
目录
1.简介
2.原理
2.1.感知机模型
2.2.学习策略——损失函数
2.3.算法步骤
2.4.优缺点
3.常用的优化算法
1.批量梯度下降（BGD）
2.随机梯度下降（SGD）
3.随机批量梯度下降★
1.简介
感知机（Perceptron ），是Frank Rosenblatt在1957年就职于Cornell航空实验室时所发明的一种人工神经网络，被视为一种最简单形式的前馈式人工神经网络，是一种二元线性分类器。
感知器是生物神经细胞的简单抽象，如下图1示神经细胞结构大致可分为：树突、轴突，突触及细胞体。
图1
神经细胞的状态取决于从其它的神经细胞收到的输入信号量，及突触的强度。当信号量总和超过了某个阈值时，细胞体就会激动，产生电脉冲。电脉冲沿着轴突并通过突触传递到其它神经元。为了模拟神经细胞行为，与之对应的感知机基础概念被提出，如图2权量（突触）、偏置（阈值）及激活函数（细胞体），一个由输入空间x到输出空间f(x)的函数，w(w1,w2,...,wn)就是权值，表示各个输入对于输出的重要程度。
图2
2.原理
2.1.感知机模型感知机模型是一个线性分类器，它的目标是通过训练数据将数据集进行线性二分类，也就是在数据集线性可分的情况下，感知机的目标就是通过已知数据训练出一个超平面，类似于一个y=kx+b的线性函数如图3所示，这个超平面可以将两类样本点完全
