Python tf.distribute.experimental.partitioners.MaxSizePartitioner用法及代碼示例

將分片保持在 max_shard_bytes 之下的分區器。

繼承自：Partitioner

用法

tf.distribute.experimental.partitioners.MaxSizePartitioner(
    max_shard_bytes, max_shards=None, bytes_per_string=16
)

參數

max_shard_bytes 允許任何給定分片的最大大小。
max_shards int 中創建的最大分片數優先於 max_shard_bytes 。
bytes_per_string 如果分區值是字符串類型，這將提供每個字符串大小的估計值。

該分區器確保每個分片最多有 max_shard_bytes ，並嘗試分配盡可能少的分片，即保持分片大小盡可能大。

如果分區器達到 max_shards 限製，則每個分片最終可能會大於 max_shard_bytes 。默認情況下 max_shards 等於 None 並且對分片數量沒有強製執行限製。

例子：

partitioner = MaxSizePartitioner(max_shard_bytes=4)
partitions = partitioner(tf.TensorShape([6, 1]), tf.float32)
[6, 1]
partitioner = MaxSizePartitioner(max_shard_bytes=4, max_shards=2)
partitions = partitioner(tf.TensorShape([6, 1]), tf.float32)
[2, 1]
partitioner = MaxSizePartitioner(max_shard_bytes=1024)
partitions = partitioner(tf.TensorShape([6, 1]), tf.float32)
[1, 1]

# use in ParameterServerStrategy
# strategy = tf.distribute.experimental.ParameterServerStrategy(
#   cluster_resolver=cluster_resolver, variable_partitioner=partitioner)

相關用法

注：本文由純淨天空篩選整理自tensorflow.org大神的英文原創作品 tf.distribute.experimental.partitioners.MaxSizePartitioner。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。