Python PyTorch random_structured用法及代碼示例

本文簡要介紹python語言中 torch.nn.utils.prune.random_structured 的用法。

用法:

torch.nn.utils.prune.random_structured(module, name, amount, dim)

參數：

• module(torch.nn.Module) -包含要修剪的張量的模塊

• name(str) -module 中的參數名稱，將對其進行修剪。

• amount(int或者float) -要修剪的參數數量。如果 float ，應介於 0.0 和 1.0 之間，表示要修剪的參數比例。如果 int ，它表示要修剪的參數的絕對數量。

• dim(int) -dim 的索引，我們沿著該索引定義要修剪的通道。

返回：

輸入模塊的修改(即修剪)版本

返回類型：

模塊(nn.Module)

通過沿隨機選擇的指定 dim 刪除指定的 amount 通道(當前未修剪)，修剪與 module 中名為 name 的參數相對應的張量。通過以下方式修改模塊(並返回修改後的模塊)：

1. 添加一個名為 name+'_mask' 的命名緩衝區，該緩衝區對應於通過修剪方法應用於參數 name 的二進製掩碼。

2. 將參數 name 替換為其修剪版本，而原始(未修剪)參數存儲在名為 name+'_orig' 的新參數中。

例子

>>> m = prune.random_structured(
        nn.Linear(5, 3), 'weight', amount=3, dim=1
    )
>>> columns_pruned = int(sum(torch.sum(m.weight, dim=0) == 0))
>>> print(columns_pruned)
3