加载中...
avatar
文章
21
标签
8
分类
6
首页
学习
  • 算法
科研
  • 笔记
  • 前沿追踪
清单
  • 诗摘
  • 音乐
  • 照片
  • 电影
记录
归档
标签
分类
留言
友链
梦凡のBlog
首页
学习
  • 算法
科研
  • 笔记
  • 前沿追踪
清单
  • 诗摘
  • 音乐
  • 照片
  • 电影
记录
归档
标签
分类
留言
友链
PAGE_NAME

感知机（Perceptron)与自适性线性单元（Adaline)学习笔记

发表于2023-01-24|更新于2023-02-26|机器学习
|字数总计:11|阅读时长:1分钟|阅读量:
感知机（Perceptron)与自适性线性单元（Adaline)学习笔记
https://www.dreamgo.fun/2023/01/24/机器学习-感知机-感知机/
作者
沧月倾
发布于
2023-01-24
更新于
2023-02-26
许可协议
CC BY-NC-SA 4.0
加密机器学习
cover of previous post
上一篇
2.1.1 BFS中的Flood Fill和最短路模型
cover of next post
下一篇
2.1.2 BFS中的多源BFS-双端队列BFS-最小步数模型
相关推荐
cover
2023-02-16
幻梦的结束，新的道路
cover
2023-03-04
认清现实，迎接挑战
cover
2023-04-19
再一次，再一次
cover
2023-02-28
神经网络与生物机制的对比思考
评论
avatar
沧月倾
为自己的人生负责
文章
21
标签
8
分类
6
🛴前往小家...
公告栏
Welcome to ZX's blog!🍭🍭🍭
目录
  1. 感知机（Perceptron)与自适性线性单元（Adaline)学习笔记
  • 1.感知机简介
    1. 维基百科介绍:
    2. 模型简述：
  • 2. 感知机的历史
    1. 如何学习？
  • 3. 线性回归与对规律的认知
    1. 线性回归——函数近似机/逼近器
    2. 由线性回归思考何为规律？
      1. 对规律性存在的假设
      2. 规律的本质
      3. 规律的学习
  • 数学角度的分类问题与感知机
    1. 对分类问题的认知
    2. 数学角度的分类问题
      1. 何为函数
    3. 数学建模
    4. 从数学建模角度理解感知机
  • 4. MP 神经元模型——逻辑运算的实现
    1. 原始的 MP 神经元模型
    2. 原始 MP 神经元的问题——权重的缺失
    3. 引入权重概念的 MP 神经元
  • MP 神经元的问题——逻辑运算并不能实现学习
  • 5. 如何学习——联结主义对学习的理解
    1. 桑代克的研究
    2. 赫布规则
    3. 赫布规则的启示
    4. 认知心理学中的联结主义
  • 5. Rosenblatt 对记忆与感知的理解
    1. 关于记忆与感知的两种观点————硬式编码与联结主义
    2. Rosenblatt 的观点
    3. 采用概率语言而非符号逻辑
  • 6. 感知机的学习观
    1. 感知机背后涉及的一些学习方法
      1. 归纳推理——基于例子的学习
      2. 试错法——逐步调整
      3. 迭代法——重复执行，逐步优化
    2. 感知机的大胆假设
    3. 感知机与传统方法的区别
    4. 试错的方法与试错的效率问题
  • 7.感知机模型
  • 3.感知机学习策略
    1. 数据集的线性可分行：
    2. 感知机的学习策略
    3. 感知机的损失函数
    4. 问题思考：
  • 4.最初的感知机算法与其问题
  • 4.1 最初感知机的学习思路
  • 4.2 最初的感知机算法
  • 4.3 最初感知机算法的问题
  • 5.自适性线性单元（ADALINE)与LMS算法——更加结合优化理论的模型
  • 5.1 自适性线性单元（ADALINE)
  • delta学习法则
  • 均方误差——损失函数的建立
  • 为什么要建立损失函数的概念？——学习效果与模型性能需要评价指标
  • 3.为什么不是直接度量学习性能有多好而是有多坏？又为什么不计算失败个数
  • 5.2 梯度下降法（BGD)
  • 对梯度的理解
  • 为什么不采用解析求解？
  • 随机梯度下降法（SGD)
  • 梯度下降法的问题
  • LMS算法（Least Mean Square,最小均方）
    1. LMS算法与原始感知机算法的比较
  • 6.借鉴自适性线性单元改进后的感知机算法——基于delta学习规则（随机梯度下降法）
    1. 引入损失函数
  • 6.1 原始形式
  • 6.2 Novikoff 感知机算法的收敛证明:
  • 判断样本集线性可分的充要条件
  • 6.3 对偶形式
  • 6.4 原始形式与对偶形式的简单比较与选择
    1. 产生两种形式的原因:
    2. 问题思考:
  • 感知机的问题：
    1. 梯度下降法的问题:局部最优与全局最优
  • 7.算法实现
  • 7.1 基于感知机 Perceptron 的鸢尾花分类实践
  • 7.2 基于感知机 Perceptron 的乳腺癌数据集分类
  • 8.总结思考
    1. 8.1 “学习观的理解”和“数学建模”
    2. 8.2 理解感知机的具体三个层面
      1. 1.如何理解和处理“智能”——从学习能力到寻找超平面
      2. 2.从线性回归理解如何学习规律——从具体例子归纳学习
      3. 3.如何学习具体例子——联结主义的记忆与学习观——知识的储存与表示
    3. 8.3 感知机的美与局限

    • 格言🧬

    垂头的时候一切都饱满了
    谁记得从前疯狂的燃烧
    每一个花瓣都是火焰✨
    点击开启星辰之旅

    猜你想看💡

    • 魔改指南网址导航
    • 我的朋友留点什么
    • 关于作者文章归档
    • 文章分类文章标签
    • 我的画廊我的唠叨
    • 建设进程网站统计

    推荐友链⌛

    ©2023  By 沧月倾

    搜索