当前位置: 首页>>代码示例 >>用法及示例精选 >>正文


Python tf.keras.experimental.PeepholeLSTMCell用法及代码示例


等效于 LSTMCell 类,但增加了窥视孔连接。

继承自:LSTMCellLayerModule

用法

tf.keras.experimental.PeepholeLSTMCell(
    units, activation='tanh',
    recurrent_activation='hard_sigmoid', use_bias=True,
    kernel_initializer='glorot_uniform',
    recurrent_initializer='orthogonal',
    bias_initializer='zeros', unit_forget_bias=True,
    kernel_regularizer=None, recurrent_regularizer=None, bias_regularizer=None,
    kernel_constraint=None, recurrent_constraint=None, bias_constraint=None,
    dropout=0.0, recurrent_dropout=0.0, **kwargs
)

参数

  • seed 可选整数,用于创建 RandomGenerator。
  • force_generator boolean,默认为False,是否强制RandomGenerator使用tf.random.Generator的代码分支。
  • **kwargs 将传递给父类的其他关键字参数

窥孔连接允许门利用先前的内部状态以及先前的隐藏状态(这是 LSTMCell 的限制)。这使得 PeepholeLSTMCell 可以更好地学习 LSTMCell 上的精确计时。

来自 Gers 等人,2002 年:

“我们发现,通过'peephole connections' 增强的 LSTM 从其内部单元到其乘法门可以学习间隔 50 或 49 个时间步长的尖峰序列之间的细微差别,而无需任何简短的训练示例的帮助。”

窥视孔实现基于:

萨克等人,2014

例子:

# Create 2 PeepholeLSTMCells
peephole_lstm_cells = [PeepholeLSTMCell(size) for size in [128, 256]]
# Create a layer composed sequentially of the peephole LSTM cells.
layer = RNN(peephole_lstm_cells)
input = keras.Input((timesteps, input_dim))
output = layer(input)

相关用法


注:本文由纯净天空筛选整理自tensorflow.org大神的英文原创作品 tf.keras.experimental.PeepholeLSTMCell。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。