Python tf.keras.layers.Layer用法及代码示例

这是所有层都继承的类。

继承自：Module

用法

tf.keras.layers.Layer(
    trainable=True, name=None, dtype=None, dynamic=False, **kwargs
)

层是一个可调用对象，它将一个或多个张量作为输入，并输出一个或多个张量。它涉及计算，定义在call()方法和一个状态(权重变量)。在子类实现者的方便下，可以在不同的地方创建状态：

• 在__init__()中；
• 在可选的 build() 方法中，该方法由第一个 __call__() 调用到层，并提供在初始化时可能不知道的输入的形状；
• 在 call() 的第一次调用中，下面讨论了一些注意事项。

用户只需实例化一个层，然后将其视为可调用的。

我们建议Layer 的后代实现以下方法：

• __init__() ：定义自定义图层属性，并使用 add_weight() 或其他状态创建不依赖于输入形状的图层权重。
• build(self, input_shape) ：此方法可用于创建取决于输入形状的权重，使用 add_weight() 或其他状态。 __call__() 将通过调用 build() 自动构建层(如果尚未构建)。
• call(self, inputs, *args, **kwargs): 调用__call__确定后build()已被调用。call()执行将图层应用于inputs.第一次调用可能会另外创建无法方便地创建的状态build();有关详细信息，请参阅其文档字符串。您可以选择使用的两个保留关键字参数call()是：
  • training(布尔值，调用是处于推理模式还是训练模式)。在层/模型子类化指南中查看更多详细信息
  • mask(布尔张量编码输入中的掩码时间步，用于 RNN 层)。在层/模型子类化指南中查看更多详细信息此方法的典型签名是 call(self, inputs) ，如果层需要，用户可以选择添加 training 和 mask。 *args 和**kwargs 仅在计划添加更多输入参数时对将来的扩展有用。
• get_config(self):Returns a dictionary containing the configuration used to initialize this layer. If the keys differ from the arguments in __init__, then override from_config(self) as well. This method is used when saving the layer or a model that contains this layer.

例子：

这是一个基本示例：具有两个变量 w 和 b 的层，返回 y = w . x + b 。它展示了如何实现 build() 和 call() 。设置为图层属性的变量将作为图层的权重进行跟踪(在 layer.weights 中)。

class SimpleDense(Layer):

  def __init__(self, units=32):
      super(SimpleDense, self).__init__()
      self.units = units

  def build(self, input_shape): # Create the state of the layer (weights)
    w_init = tf.random_normal_initializer()
    self.w = tf.Variable(
        initial_value=w_init(shape=(input_shape[-1], self.units),
                             dtype='float32'),
        trainable=True)
    b_init = tf.zeros_initializer()
    self.b = tf.Variable(
        initial_value=b_init(shape=(self.units,), dtype='float32'),
        trainable=True)

  def call(self, inputs): # Defines the computation from inputs to outputs
      return tf.matmul(inputs, self.w) + self.b

# Instantiates the layer.
linear_layer = SimpleDense(4)

# This will also call `build(input_shape)` and create the weights.
y = linear_layer(tf.ones((2, 2)))
assert len(linear_layer.weights) == 2

# These weights are trainable, so they're listed in `trainable_weights`:
assert len(linear_layer.trainable_weights) == 2

请注意，add_weight() 方法提供了创建权重的快捷方式：

class SimpleDense(Layer):

  def __init__(self, units=32):
      super(SimpleDense, self).__init__()
      self.units = units

  def build(self, input_shape):
      self.w = self.add_weight(shape=(input_shape[-1], self.units),
                               initializer='random_normal',
                               trainable=True)
      self.b = self.add_weight(shape=(self.units,),
                               initializer='random_normal',
                               trainable=True)

  def call(self, inputs):
      return tf.matmul(inputs, self.w) + self.b

除了在训练期间通过反向传播更新的可训练权重外，层还可以具有不可训练的权重。这些权重应在 call() 期间手动更新。这是一个计算其输入的运行总和的示例层：

class ComputeSum(Layer):

  def __init__(self, input_dim):
      super(ComputeSum, self).__init__()
      # Create a non-trainable weight.
      self.total = tf.Variable(initial_value=tf.zeros((input_dim,)),
                               trainable=False)

  def call(self, inputs):
      self.total.assign_add(tf.reduce_sum(inputs, axis=0))
      return self.total

my_sum = ComputeSum(2)
x = tf.ones((2, 2))

y = my_sum(x)
print(y.numpy())  # [2. 2.]

y = my_sum(x)
print(y.numpy())  # [4. 4.]

assert my_sum.weights == [my_sum.total]
assert my_sum.non_trainable_weights == [my_sum.total]
assert my_sum.trainable_weights == []

有关创建层的更多信息，请参阅通过子类化创建新层和模型指南