Python PyTorch record用法及代码示例

本文简要介绍python语言中 torch.distributed.elastic.multiprocessing.errors.record 的用法。

用法:

torch.distributed.elastic.multiprocessing.errors.record(fn, error_handler=None)

使用提供的 error_handler 记录修饰函数中发生的错误/异常的语法糖。

使用这个装饰器相当于：

error_handler = get_error_handler()
error_handler.initialize()
try:
   foobar()
except ChildFailedError as e:
   _, failure = e.get_first_failure()
   error_handler.dump_error_file(failure.error_file, failure.exitcode)
   raise
except Exception as e:
   error_handler.record(e)
   raise

重要的

在顶层方法中每个进程使用一次此装饰器，通常这是主要方法。

示例

@record
def main():
    pass

if __name__=="__main__":
   main()