Python PyTorch LambdaLR用法及代碼示例

本文簡要介紹python語言中 torch.optim.lr_scheduler.LambdaLR 的用法。

用法:

class torch.optim.lr_scheduler.LambdaLR(optimizer, lr_lambda, last_epoch=- 1, verbose=False)

參數：

• optimizer(Optimizer) -包裝優化器。

• lr_lambda(函數或者list) -在給定整數參數 epoch 或此類函數列表的情況下計算乘法因子的函數，優化器中的每個組都有一個。param_groups。

• last_epoch(int) -上一個紀元的索引。默認值：-1。

• verbose(bool) -如果 True ，每次更新都會向標準輸出打印一條消息。默認值：False。

將每個參數組的學習率設置為初始 lr 乘以給定函數。當last_epoch=-1 時，設置初始 lr 為 lr。

示例

>>> # Assuming optimizer has two groups.
>>> lambda1 = lambda epoch: epoch // 30
>>> lambda2 = lambda epoch: 0.95 ** epoch
>>> scheduler = LambdaLR(optimizer, lr_lambda=[lambda1, lambda2])
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()