Python PyTorch TCPStore用法及代码示例

本文简要介绍python语言中 torch.distributed.TCPStore 的用法。

用法:

class torch.distributed.TCPStore

参数：

• host_name(str) -服务器存储应在其上运行的主机名或 IP 地址。

• port(int) -服务器存储应侦听传入请求的端口。

• world_size(int,可选的) -商店用户总数(客户端数量 + 服务器 1)。默认值为 -1(负值表示商店用户数量不固定)。

• is_master(bool,可选的) -初始化服务器存储时为 True，客户端存储为 False。默认为假。

• timeout(时间增量,可选的) -存储在初始化期间以及 get() 和 wait() 等方法使用的超时。默认为 timedelta(seconds=300)

• wait_for_worker(bool,可选的) -是否等待所有工作人员与服务器存储连接。这仅适用于world_size 为固定值时。默认为真。

基于 TCP 的分布式键值存储实现。服务器存储保存数据，而客户端存储可以通过 TCP 连接到服务器存储并执行诸如set() 插入键值对、get() 检索键值对等操作。应该有始终是一个服务器存储初始化，因为客户端存储将等待服务器建立连接。

例子：

>>> import torch.distributed as dist
>>> from datetime import timedelta
>>> # Run on process 1 (server)
>>> server_store = dist.TCPStore("127.0.0.1", 1234, 2, True, timedelta(seconds=30))
>>> # Run on process 2 (client)
>>> client_store = dist.TCPStore("127.0.0.1", 1234, 2, False)
>>> # Use any of the store methods from either the client or server after initialization
>>> server_store.set("first_key", "first_value")
>>> client_store.get("first_key")