常见神经网络结构拓扑图

2023-10-27

神经网络的结构呈指数型增长的趋势,下图展示了多部分神经网络经典的拓扑结构。
在这里插入图片描述
P --> FF : 增加了一层隐藏层,所有节点为全连接


FF --> RBF : 使用径向基函数(Radical Basis Function,RBF)作为激活函数,而不是逻辑函数。这使得神经网络可以处理连续的值。


FF --> DFF : 使用了多层隐藏层,开启了深度学习的纪元。
DFF --> RNN : 在神经网络中传递状态等信息,适用于上下文非常重要的情况。例如当过去的迭代或样本的决策会影响当前的决策时,常见的如文本信息。
RNN --> LSTM : LSTM引入记忆单元,可以控制信息的记录和遗忘,可以处理长依赖信息。不仅可以处理文本,还可以处理视频,语音等。
LSTM --> GRU : GRU是一种门结构不同的LSTM。与LSTM相比,它们消耗的资源更少,并且效果几乎相同。


FF --> AE : 自动编码器用于分类,聚类和特征压缩,是一种无监督学习。
AE --> VAE : 与AE相比,VAE压缩的是概率而不是特征。VAE关注的是两个事件中的连接性等问题。
AE --> DAE : AE往往只是适应输入数据(这实际上是过度拟合的一个例子)。DAE在输入单元上增加了一点噪声—通过随机位,随机切换输入中的位等方式改变数据。
AE --> SAE : 结构与AE中相同,但隐藏的单元数大于输入/输出层单元数。在某些情况下可以显示数据中某些隐藏的分组模式。


FF --> MC : 马尔可夫链是非常古老的图概念,其中每个边都有一个概率。 在过去,它们被用来构造文本,如预测下一句话。MC可以用于基于概率的分类(例如贝叶斯过滤器),聚类(某种形式)以及有限状态机。


DFF --> DCN : 引入了卷积核、池化层等操作。在图像处理领域较为常用。


DFF --> GAN : GAN代表了一个庞大的双重网络家族,它由生成器和鉴别器组成。


不同的网络拓扑结构其中的差异:

  • 隐藏层
    • AE和SAE中的结构信息完全相同,但中间隐藏层单元的多少决定了是对输入的压缩还是放大。
    • 感知机到FF,以及FF到DFF也因为隐藏层的数量不同而不同
  • 神经元
    • 神经元具有多样的类型,每一种类型为不同的任务和目的而设定,由此组成了多种多样的神经网络结构
  • 激活函数
    • FF和RBF仅仅是激活函数不同

模型结构判断依据

  • 隐藏层
    • 数量
    • 结构
  • 神经元
    • 循环单元
    • 记忆单元
    • ···
  • 激活函数
  • 特征表示
    • 欧式空间
      • 稀疏表示
      • 稠密的表示
    • 非欧空间(图)
      • 频谱
      • 空间
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

常见神经网络结构拓扑图 的相关文章

随机推荐

  • Python视觉处理(二)线检测

    python线检测使用的时cv HoughLinesP 函数 它有两个参数 minLineLength 线的最短长度 比这个线短的都会被忽略 MaxLineGap 两条线之间的最大间隔 如果小于此值 这两条线就会被看成一条线 这个函数的返回
  • 物理层(1.物理层基本概念&2.数据通信基础知识)

    物理层的作用就是在连接计算机的传输介质上传输数据比特流 并且尽可能屏蔽掉传输媒体和通信手段的差异 一 物理层的基本概念 1 机械特性 指明接口所用接线器的形状和尺寸 引线数目和排列 固定和锁定装置等 2 电气特性 指明在接口电缆的各条线上出
  • 五大常用算法之三:动态规划

    动态规划 动态规划 Dynamic Programming 简称DP 需要分解出问题的子结构以及通过子结构重新构造最优解 动态规划不像回溯法 有套路可以套用 动态规划需要大量练习 才能掌握规律 一般思路 1 判断问题的子结构 有最优子结构时
  • vit网络模型简介

    目录 一 前言 1 1 Transformer在视觉领域上使用的难点 1 2 输入序列长度的改进 1 3 VIT对输入的改进 二 Vision Transformer模型 2 1 Embedding层 2 2 Transformer Enc
  • Java 8 – 从一个 Stream中过滤null值

    复习一个Stream 包含 null 数据的例子 Java8Examples java package com mkyong java8 import java util List import java util stream Colle
  • 人工智能涉及算法

    最近需要提交高级人工网络的课程论文 故查找一下资料 做如下记录 后期会继续补充部分算法的的详细内容 自己的理解和代码实现部分 人工智能的三大基石 算法 数据和计算能力 就算法来看 涉及如下几种 一 按照模型训练方式不同分类 可以分为监督学习
  • shell编程实现:依次提示用户输入3个整数,脚本根据数字大小依次排序输出3个数字。

    关于这个题目 有如下代码 bin bash read p 请输入一个整数 num1 read p 请输入一个整数 num2 read p 请输入一个整数 num3 tmp 0 if num1 gt num2 then tmp num1 nu
  • WXSS:微信小程序版CSS

    完整微信小程序 Java后端 技术贴目录清单页面 必看 WXSS WeiXin Style Sheets 是一套样式语言 用于描述 WXML 的组件样式 WXSS 用来决定 WXML 的组件应该怎么显示 为了适应广大的前端开发者 WXSS
  • MySQL 输入任何语句都提示You must reset your password using ALTER USER 解决方法

    安装并配置完成MySQL 5 7 21 修改第一次密码并登陆后 出现提示 You must reset your password using ALTER USER 的提示错误语句 解决办法如下 SET PASSWORD PASSWORD
  • 18-数据结构-查找-B树和B+树

    简介 B树和B 树 都是当存储数据较大时 从硬盘读取数据的优化 emm 我这么说有点迷糊 还是从应试考试的角度解释吧 B树和B 树 都是在二叉排序树的基础上 优化的 跟二叉排序树很像 但B树它由于相比于二叉排序树 降低了树高 即一个结点内可
  • ubuntu下安装和配置Qt5.12.8

    1 下载qt opensource linux x64 5 12 8 run 2 sudo qt opensource linux x64 5 12 8 run 这样会安装到 opt目录下 3 安装过程中 要先拔掉网线 再装 一路默认 到选
  • 动态路由协议EIGRP配置实战

    一 路由协议概述 1 路由协议简介 对于路由器而言 要找出最优的数据传输路径是一件比较有意义却很复杂的工作 最优路径有可能会有赖于节点间的转发次数 当前的网络运行状态 不可用的连接 数据传输速率和拓扑结构 为了找出最优路径 各个路由器间要通
  • Java:如何正确使用Timer【java定时器的使用(Timer) 】

    在需要按时间计划执行简单任务的情况下 Timer是最常被使用到的工具类 使用Timer来调度TimerTask的实现者来执行任务 有两种方式 一种是使任务在指定时间被执行一次 另一种是从某一指定时间开始周期性地执行任务 下面是一个简单的Ti
  • dataframe 转 字典

    背景 将商品id以及商品类别作为字典的键值映射 生成字典 原为DataFrame 创建一个DataFrame 列值类型均为int型 import pandas as pd item pd DataFrame item id 100120 1
  • IDEA插件Apifox,一键自动生成接口文档!

    一 Apifox插件的优势 作为一名后端开发在项目开发过程中 肯定需要提供接口文档 一般我们有两种方案 项目结合Swagger 自动生成接口文档 手动将接口复制到其它接口文档 比如postman Apifox 第一种方案缺陷在于 为了生成完
  • html table tb左对齐,标签之美五——网页表格的设计

    标签之美 网页表格的使用 通过表格 可以使网页排版更加清晰 形式更加简洁漂亮 一 表格布局中三个重要的标签 1 表格的开始和结束标签 行列的布局都在 2 行标签的开始和结束 3 列标签的开始和结束 行标签在列标签的外层 不能单独使用 其中必
  • vue项目使用element-ui组件上传文件报错upload.addEventListener is not a function Mock数据报错的解决方案

    分享下使用element ui组件上传文件时报错upload addEventListener is not a function Mock的解决方案 首先出现这个错误的原因 主要是因为mockjs改动了axios里面XMLHttpRequ
  • STM32在Keil中芯片内部内存溢出

    STM32在Keil中芯片内部内存溢出 问题出现原因 在Keil5的Arm6 编译器中 STM32和SD ram 无法建立连接 导致编译不通过 解决方案 在全局变量只能设置外部RAM uint32 t trstsra 25000000 at
  • 笔记-STM32F407 DAC-DMA-TIM输出正弦波

    通用定时器6中断初始化 arr 自动重装值 psc 时钟预分频数 定时器溢出时间计算方法 Tout arr 1 psc 1 Ft us Ft 定时器工作频率 单位 Mhz 这里使用的是定时器6 void TIM6 Init u16 arr
  • 常见神经网络结构拓扑图

    神经网络的结构呈指数型增长的趋势 下图展示了多部分神经网络经典的拓扑结构 P gt FF 增加了一层隐藏层 所有节点为全连接 FF gt RBF 使用径向基函数 Radical Basis Function RBF 作为激活函数 而不是逻辑