Python PyTorch TransformerDecoder用法及代码示例

本文简要介绍python语言中 torch.nn.TransformerDecoder 的用法。

用法:

class torch.nn.TransformerDecoder(decoder_layer, num_layers, norm=None)

参数：

• decoder_layer-TransformerDecoderLayer() 类的实例(必需)。

• num_layers-解码器中sub-decoder-layers 的数量(必需)。

• norm-层标准化组件(可选)。

TransformerDecoder 是 N 个解码器层的堆栈

例子：：

>>> decoder_layer = nn.TransformerDecoderLayer(d_model=512, nhead=8)
>>> transformer_decoder = nn.TransformerDecoder(decoder_layer, num_layers=6)
>>> memory = torch.rand(10, 32, 512)
>>> tgt = torch.rand(20, 32, 512)
>>> out = transformer_decoder(tgt, memory)