GRU网络的参数设置

 时间:2024-10-11 19:15:50

1、RNN回顾 先简单回顾一下RNN隐层神经元计算公式为:

GRU网络的参数设置

2、其中U、W是网络模型的参数,f(.)表示激活函数。RNN隐层神经元的计算由t时刻输入xt,t-1时刻隐层神经元激活值st-1作为输入。总之说白了RNN的核心计算公式就只有上面这么简简单单的公式,所以说会者不难,难者不会,对于已经懂得RNN的人来说,RNN是一个非常简单的网络模型。

GRU网络的参数设置GRU网络的参数设置

3、LSTM前向传导 相比于RNN来说,LSTM隐层神经元的计算公式稍微复杂一点,LSTM隐藏层前向传导由下面六个计算公式组成,而且其中前4个公式跟上面RNN公式都非常相似:

GRU网络的参数设置

4、输入变量:x(t)表示t时刻网络的输入数据,S(t-1)表示t-1时刻隐藏层神经元的激活值、C是一个记忆单元

GRU网络的参数设置

5、网络参数:U、W都是网络LSTM模型的参数,或者称之为权值矩阵

GRU网络的参数设置

6、σ表示sigmoid激活函数

GRU网络的参数设置
  • PPT怎么使用onekey插件给图片调色
  • Mathematica笔记本用法简介
  • marginnote3合并卡片方法
  • web of science:[11]将搜索结果导入Endnote
  • 神经网络权值怎么确定
  • 热门搜索
    怎么更新win10 怎么能快速瘦腿 母乳常温可以放多久 重庆旅游必去景点 三亚自由行旅游攻略 什么可以去痘印 怎么做淘宝代理 复仇之矛怎么玩 二郎山景区 仙剑5前传攻略