Python mxnet.optimizer.Adamax用法及代码示例

用法:
class mxnet.optimizer.Adamax(learning_rate=0.002, beta1=0.9, beta2=0.999, **kwargs)

参数：

beta1：(float, optional) - 一阶矩估计的 index 衰减率。
beta2：(float, optional) - 二阶矩估计的 index 衰减率。

基础：mxnet.optimizer.optimizer.Optimizer

AdaMax 优化器。

它是基于 http://arxiv.org/abs/1412.6980 第 7 节中可用的无穷范数的 Adam 的变体。

优化器通过以下方式更新权重：

grad = clip(grad * rescale_grad + wd * weight, clip_gradient)
m = beta1 * m_t + (1 - beta1) * grad
u = maximum(beta2 * u, abs(grad))
weight -= lr / (1 - beta1**t) * m / u

除了 Optimizer 接受的参数之外，此优化器还接受以下参数。

相关用法

Python mxnet.optimizer.Adam用法及代码示例
Python mxnet.optimizer.AdaDelta用法及代码示例
Python mxnet.optimizer.AdaGrad用法及代码示例
Python mxnet.optimizer.Ftrl用法及代码示例
Python mxnet.optimizer.register用法及代码示例
Python mxnet.optimizer.Signum用法及代码示例
Python mxnet.optimizer.SGD用法及代码示例
Python mxnet.optimizer.FTML用法及代码示例
Python mxnet.optimizer.Optimizer.create_optimizer用法及代码示例
Python mxnet.optimizer.Optimizer.register用法及代码示例
Python mxnet.optimizer.create用法及代码示例
Python mxnet.symbol.op.broadcast_logical_xor用法及代码示例
Python mxnet.test_utils.get_zip_data用法及代码示例
Python mxnet.ndarray.op.uniform用法及代码示例
Python mxnet.symbol.op.log_softmax用法及代码示例
Python mxnet.symbol.space_to_depth用法及代码示例
Python mxnet.ndarray.op.sample_negative_binomial用法及代码示例
Python mxnet.ndarray.NDArray.ndim用法及代码示例
Python mxnet.module.BaseModule.get_outputs用法及代码示例
Python mxnet.module.BaseModule.forward用法及代码示例

注：本文由纯净天空筛选整理自apache.org大神的英文原创作品 mxnet.optimizer.Adamax。非经特殊声明，原始代码版权归原作者所有，本译文未经允许或授权，请勿转载或复制。