Python PyTorch StepLR用法及代码示例

本文简要介绍python语言中 torch.optim.lr_scheduler.StepLR 的用法。

用法:

class torch.optim.lr_scheduler.StepLR(optimizer, step_size, gamma=0.1, last_epoch=- 1, verbose=False)

参数：

• optimizer(Optimizer) -包装优化器。

• step_size(int) -学习率衰减的时期。

• gamma(float) -学习率衰减的乘法因子。默认值：0.1。

• last_epoch(int) -上一个纪元的索引。默认值：-1。

• verbose(bool) -如果 True ，每次更新都会向标准输出打印一条消息。默认值：False。

每step_size epochs 衰减每个参数组的学习率。请注意，这种衰减可能与此调度程序外部对学习率的其他更改同时发生。当last_epoch=-1 时，设置初始 lr 为 lr。

示例

>>> # Assuming optimizer uses lr = 0.05 for all groups
>>> # lr = 0.05     if epoch < 30
>>> # lr = 0.005    if 30 <= epoch < 60
>>> # lr = 0.0005   if 60 <= epoch < 90
>>> # ...
>>> scheduler = StepLR(optimizer, step_size=30, gamma=0.1)
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()