Python PyTorch ChainedScheduler用法及代碼示例

本文簡要介紹python語言中 torch.optim.lr_scheduler.ChainedScheduler 的用法。

用法:

class torch.optim.lr_scheduler.ChainedScheduler(schedulers)

參數：

schedulers(list) -鏈式調度程序列表。

學習率調度器的鏈表。它采用一係列可鏈接的學習率調度程序，並通過一次調用執行屬於它們的連續 step() 函數。

示例

>>> # Assuming optimizer uses lr = 1. for all groups
>>> # lr = 0.09     if epoch == 0
>>> # lr = 0.081    if epoch == 1
>>> # lr = 0.729    if epoch == 2
>>> # lr = 0.6561   if epoch == 3
>>> # lr = 0.59049  if epoch >= 4
>>> scheduler1 = ConstantLR(self.opt, factor=0.1, total_iters=2)
>>> scheduler2 = ExponentialLR(self.opt, gamma=0.9)
>>> scheduler = ChainedScheduler([scheduler1, scheduler2])
>>> for epoch in range(100):
>>>     train(...)
>>>     validate(...)
>>>     scheduler.step()