Python PyTorch TarArchiveLoader用法及代码示例

本文简要介绍python语言中 torchdata.datapipes.iter.TarArchiveLoader 的用法。

用法:

class torchdata.datapipes.iter.TarArchiveLoader(datapipe: Iterable[Tuple[str, io.BufferedIOBase]], mode: str = 'r:*', length: int = - 1)

参数：

• datapipe-可迭代DataPipe，提供路径名和 tar 二进制流的元组

• mode-tarfile.open 用于读取文件对象的文件模式。模式必须是 ‘filemode[:compression]’ 形式的字符串

• length-DataPipe 的标称长度

从 Iterable DataPipe 打开/解压缩 tar 二进制流，其中包含路径名和 tar 二进制流的元组，并生成路径名和提取的二进制流的元组(函数名称： load_from_tar )。

注意

如果附加了默认的DecoderDataPipe，打开的文件句柄将自动关闭。否则，用户应负责显式关闭文件句柄或让 Python 的 GC 定期关闭它们。

示例

>>> from torchdata.datapipes.iter import FileLister, FileOpener
>>> datapipe1 = FileLister(".", "*.tar")
>>> datapipe2 = FileOpener(datapipe1, mode="b")
>>> tar_loader_dp = datapipe2.load_from_tar()
>>> for _, stream in tar_loader_dp:
>>>     print(stream.read())
b'0123456789abcdef'