Python tf.compat.v1.train.Saver用法及代码示例

保存和恢复变量。

用法

tf.compat.v1.train.Saver(
    var_list=None, reshape=False, sharded=False, max_to_keep=5,
    keep_checkpoint_every_n_hours=10000.0, name=None, restore_sequentially=False,
    saver_def=None, builder=None, defer_build=False, allow_empty=False,
    write_version=tf.train.SaverDef.V2, pad_step_number=False,
    save_relative_paths=False, filename=None
)

迁移到 TF2

警告：这个 API 是为 TensorFlow v1 设计的。继续阅读有关如何从该 API 迁移到本机 TensorFlow v2 等效项的详细信息。见TensorFlow v1 到 TensorFlow v2 迁移指南有关如何迁移其余代码的说明。

tf.compat.v1.train.Saver 不支持在 TF2 中保存和恢复检查点。请切换到 tf.train.Checkpoint 或 tf.keras.Model.save_weights ，它们执行更强大的基于对象的保存。

如何重写检查点

请立即使用基于对象的检查点 API 重写您的检查点。

您可以使用 tf.train.Checkpoint.restore 或 tf.keras.Model.load_weights 加载由 tf.compat.v1.train.Saver 编写的基于名称的检查点。但是，您可能必须更改模型中的变量名称以匹配基于名称的检查点中的变量名称，可以使用 tf.train.list_variables(path) 查看。

另一种选择是创建一个assignment_map，将基于名称的检查点中的变量名称映射到模型中的变量，例如：

{
    'sequential/dense/bias':model.variables[0],
    'sequential/dense/kernel':model.variables[1]
}

并使用tf.compat.v1.train.init_from_checkpoint恢复基于名称的检查点。

恢复后，使用 tf.train.Checkpoint.save 或 tf.keras.Model.save_weights 重新编码您的检查点。

有关更多详细信息，请参阅迁移指南的检查点兼容性部分。

TF2 中的检查点管理

使用tf.train.CheckpointManager 管理 TF2 中的检查点。 tf.train.CheckpointManager 提供等效的 keep_checkpoint_every_n_hours 和 max_to_keep 参数。

要恢复最新的检查点，

checkpoint = tf.train.Checkpoint(model)
manager = tf.train.CheckpointManager(checkpoint)
status = checkpoint.restore(manager.latest_checkpoint)

tf.train.CheckpointManager 还编写了一个 CheckpointState 原型，其中包含每个检查点创建时的时间戳。

在 TF2 中写入 MetaGraphDef

要替换 tf.compat.v1.train.Saver.save(write_meta_graph=True) ，请使用 tf.saved_model.save 编写 MetaGraphDef (包含在 saved_model.pb 中)。

有关变量、保存和恢复的概述，请参阅变量。

Saver 类添加了操作来保存和恢复检查点的变量。它还提供了运行这些操作的便捷方法。

检查点是专有格式的二进制文件，将变量名称映射到张量值。检查检查点内容的最佳方法是使用 Saver 加载它。

Savers 可以使用提供的计数器自动编号检查点文件名。这使您可以在训练模型时在不同的步骤中保留多个检查点。例如，您可以使用训练步骤编号对检查点文件名进行编号。为了避免填满磁盘，保存程序会自动管理检查点文件。例如，他们可以只保留 N 个最近的文件，或者每 N 小时的训练一个检查点。

通过将值传递给可选的 global_step 参数给 save() 来为检查点文件名编号：

saver.save(sess, 'my-model', global_step=0) ==> filename:'my-model-0'
...
saver.save(sess, 'my-model', global_step=1000) ==> filename:'my-model-1000'

此外，Saver() 构造函数的可选参数允许您控制磁盘上检查点文件的扩散：

• max_to_keep 表示要保留的最近检查点文件的最大数量。创建新文件时，会删除旧文件。如果 None 或 0，则不会从文件系统中删除检查点，但只有最后一个保留在 checkpoint 文件中。默认为 5(即保留 5 个最近的检查点文件。)

• keep_checkpoint_every_n_hours ：除了保留最新的max_to_keep 检查点文件外，您可能希望每训练 N 小时保留一个检查点文件。如果您想稍后分析模型在长时间训练期间的进展情况，这将很有用。例如，通过 keep_checkpoint_every_n_hours=2 可确保您为每 2 小时的训练保留一个检查点文件。默认值 10,000 小时有效地禁用了该函数。

请注意，您仍然必须调用save() 方法来保存模型。将这些参数传递给构造函数不会自动为您保存变量。

定期保存的训练计划如下所示：

...
# Create a saver.
saver = tf.compat.v1.train.Saver(...variables...)
# Launch the graph and train, saving the model every 1,000 steps.
sess = tf.compat.v1.Session()
for step in range(1000000):
    sess.run(..training_op..)
    if step % 1000 == 0:
        # Append the step number to the checkpoint name:
        saver.save(sess, 'my-model', global_step=step)

除了检查点文件之外，保存程序还在磁盘上保留一个协议缓冲区，其中包含最近检查点的列表。这用于管理编号的检查点文件和 latest_checkpoint() ，这使得发现最近检查点的路径变得容易。该协议缓冲区存储在检查点文件旁边名为'checkpoint' 的文件中。

如果创建多个保存程序，则可以在调用 save() 时为协议缓冲区文件指定不同的文件名。