Python PyTorch LambdaLR用法及代码示例

本文简要介绍python语言中 torch.optim.lr_scheduler.LambdaLR 的用法。

用法:

class torch.optim.lr_scheduler.LambdaLR(optimizer, lr_lambda, last_epoch=- 1, verbose=False)

参数：

• optimizer(Optimizer) -包装优化器。

• lr_lambda(函数或者list) -在给定整数参数 epoch 或此类函数列表的情况下计算乘法因子的函数，优化器中的每个组都有一个。param_groups。

• last_epoch(int) -上一个纪元的索引。默认值：-1。

• verbose(bool) -如果 True ，每次更新都会向标准输出打印一条消息。默认值：False。

将每个参数组的学习率设置为初始 lr 乘以给定函数。当last_epoch=-1 时，设置初始 lr 为 lr。

示例

>>> # Assuming optimizer has two groups.
>>> lambda1 = lambda epoch: epoch // 30
>>> lambda2 = lambda epoch: 0.95 ** epoch
>>> scheduler = LambdaLR(optimizer, lr_lambda=[lambda1, lambda2])
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()