Python PyTorch DistributedModelParallel.named_parameters用法及代碼示例

本文簡要介紹python語言中 torchrec.distributed.model_parallel.DistributedModelParallel.named_parameters 的用法。

用法:

named_parameters(prefix: str = '', recurse: bool = True) → Iterator[Tuple[str, torch.nn.parameter.Parameter]]

參數：

• prefix(str) -前綴添加到所有參數名稱。

• recurse(bool) -如果為 True，則產生此模塊和所有子模塊的參數。否則，隻產生作為該模塊直接成員的參數。

生成(Yield)：

(string, Parameter) - 包含名稱和參數的元組

返回模塊參數的迭代器，產生參數的名稱以及參數本身。

例子：

>>> for name, param in self.named_parameters():
>>>    if name in ['bias']:
>>>        print(param.size())