Python PyTorch EmbeddingBag.from_pretrained用法及代碼示例

本文簡要介紹python語言中 torch.nn.EmbeddingBag.from_pretrained 的用法。

用法:

classmethod from_pretrained(embeddings, freeze=True, max_norm=None, norm_type=2.0, scale_grad_by_freq=False, mode='mean', sparse=False, include_last_offset=False, padding_idx=None)

參數：

• embeddings(Tensor) -FloatTensor 包含 EmbeddingBag 的權重。第一個維度作為 ‘num_embeddings’ 傳遞給 EmbeddingBag，第二個維度作為 ‘embedding_dim’ 傳遞給 EmbeddingBag。

• freeze(布爾值,可選的) -如果 True ，則張量在學習過程中不會更新。等效於 embeddingbag.weight.requires_grad = False 。默認值：True

• max_norm(float,可選的) -請參閱模塊初始化文檔。默認值：None

• norm_type(float,可選的) -請參閱模塊初始化文檔。默認 2 。

• scale_grad_by_freq(布爾值,可選的) -請參閱模塊初始化文檔。默認 False 。

• mode(string,可選的) -請參閱模塊初始化文檔。默認值："mean"

• sparse(bool,可選的) -請參閱模塊初始化文檔。默認值：False。

• include_last_offset(bool,可選的) -請參閱模塊初始化文檔。默認值：False。

• padding_idx(int,可選的) -請參閱模塊初始化文檔。默認值：None。

從給定的二維 FloatTensor 創建 EmbeddingBag 實例。

例子：

>>> # FloatTensor containing pretrained weights
>>> weight = torch.FloatTensor([[1, 2.3, 3], [4, 5.1, 6.3]])
>>> embeddingbag = nn.EmbeddingBag.from_pretrained(weight)
>>> # Get embeddings for index 1
>>> input = torch.LongTensor([[1, 0]])
>>> embeddingbag(input)
tensor([[ 2.5000,  3.7000,  4.6500]])