本文整理汇总了Python中adam.Adam方法的典型用法代码示例。如果您正苦于以下问题：Python adam.Adam方法的具体用法？Python adam.Adam怎么用？Python adam.Adam使用的例子？那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类adam的用法示例。
在下文中一共展示了adam.Adam方法的2个代码示例，这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞，您的评价将有助于系统推荐出更棒的Python代码示例。
示例1: experiment
# 需要导入模块: import adam [as 别名]
# 或者: from adam import Adam [as 别名]
def experiment(alg='ASNG', eta_x=0.1, eta_theta_factor=0., alpha=1.5, K=5, D=30, maxite=100000, log_file='log.csv'):
nc = (K-1) * D
f = fxc1(K, D, noise=True)
categories = K * np.ones(D, dtype=np.int)
if alg == 'ASNG':
opt_theta = AdaptiveSNG(categories, alpha=alpha, delta_init=nc**-eta_theta_factor)
elif alg == 'SNG':
opt_theta = SNG(categories, delta_init=nc**-eta_theta_factor)
elif alg == 'Adam':
opt_theta = Adam(categories, alpha=nc**-eta_theta_factor, beta1=0.9, beta2=0.999)
else:
print('invalid algorithm!')
return
optimizer_x = torch.optim.SGD(f.parameters(), lr=eta_x, momentum=0.9, weight_decay=0., nesterov=False)
lr_scheduler = torch.optim.lr_scheduler.CosineAnnealingLR(optimizer_x, maxite)
print('{}, eta_x={}, eta_theta_factor={} alpha={}'.format(alg, eta_x, eta_theta_factor, alpha))
run(f, opt_theta, optimizer_x, lr_scheduler=lr_scheduler, maxite=maxite, dispspan=100, log_file=log_file) 示例2: Adam
# 需要导入模块: import adam [as 别名]
# 或者: from adam import Adam [as 别名]
def Adam(grads, lr=0.0002, b1=0.1, b2=0.001, e=1e-8):
return adam.Adam(grads, lr, b1, b2, e)