Python PyTorch XzFileLoader用法及代码示例

本文简要介绍python语言中 torchdata.datapipes.iter.XzFileLoader 的用法。

用法:

class torchdata.datapipes.iter.XzFileLoader(datapipe: Iterable[Tuple[str, io.BufferedIOBase]], length: int = - 1)

参数：

• datapipe-可迭代DataPipe提供路径名和xy二进制流的元组

• length-DataPipe的标称长度

从包含路径名元组和 xy 二进制流的 Iterable DataPipe 解压缩 xz (lzma) 二进制流，并生成路径名元组和提取的二进制流(函数名称：load_from_xz )。

注意

如果附加了默认的DecoderDataPipe，打开的文件句柄将自动关闭。否则，用户应负责显式关闭文件句柄或让 Python 的 GC 定期关闭它们。

示例

>>> from torchdata.datapipes.iter import FileLister, FileOpener
>>> datapipe1 = FileLister(".", "*.xz")
>>> datapipe2 = FileOpener(datapipe1, mode="b")
>>> xz_loader_dp = datapipe2.load_from_xz()
>>> for _, stream in xz_loader_dp:
>>>     print(stream.read())
b'0123456789abcdef'