當前位置: 首頁>>代碼示例 >>用法及示例精選 >>正文


Python mxnet.ndarray.contrib.SparseEmbedding用法及代碼示例


用法:

mxnet.ndarray.contrib.SparseEmbedding(data=None, weight=None, input_dim=_Null, output_dim=_Null, dtype=_Null, sparse_grad=_Null, out=None, name=None, **kwargs)

參數

  • data(NDArray) - 嵌入運算符的輸入數組。
  • weight(NDArray) - 嵌入權重矩陣。
  • input_dim(int, required) - 輸入索引的詞匯量。
  • output_dim(int, required) - 嵌入向量的維度。
  • dtype({'bfloat16', 'float16', 'float32', 'float64', 'int32', 'int64', 'int8', 'uint8'},optional, default='float32') - 重量的數據類型。
  • sparse_grad(boolean, optional, default=0) - 在反向計算中計算行稀疏梯度。如果設置為 True,則 grad 的存儲類型為row_sparse。
  • out(NDArray, optional) - 輸出 NDArray 來保存結果。

返回

out- 此函數的輸出。

返回類型

NDArray 或 NDArray 列表

將整數索引映射到向量表示(嵌入)。

注意::contrib.SparseEmbedding 已棄用,請改用 Embedding

該運算符將單詞映射到高維空間中的實值向量,稱為單詞嵌入。這些嵌入可以捕獲單詞的語義和句法屬性。例如,已經注意到在學習的嵌入空間中,相似的詞往往彼此靠近,而不同的詞則相距甚遠。

對於形狀為 (d1, ..., dK) 的輸入數組,輸出數組的形狀為 (d1, ..., dK, output_dim)。所有輸入值應為 [0, input_dim) 範圍內的整數。

如果input_dim為ip0,output_dim為op0,則嵌入權重矩陣的形狀必須為(ip0, op0)。

漸變的存儲類型將是 row_sparse

注意

SparseEmbedding 專為 input_dim 非常大(例如 100k)的用例而設計。該運算符可在 CPU 和 GPU 上使用。當 deterministic 設置為 True 時,如果特征在輸入中出現多次,則梯度的累積遵循確定性順序。但是,在 GPU 上執行命令時,累積通常較慢。在 GPU 上使用算子時,deterministic 的推薦值為 True

例子:

input_dim = 4
output_dim = 5

// Each row in weight matrix y represents a word. So, y = (w0,w1,w2,w3)
y = [[  0.,   1.,   2.,   3.,   4.],
     [  5.,   6.,   7.,   8.,   9.],
     [ 10.,  11.,  12.,  13.,  14.],
     [ 15.,  16.,  17.,  18.,  19.]]

// Input array x represents n-grams(2-gram). So, x = [(w1,w3), (w0,w2)]
x = [[ 1.,  3.],
     [ 0.,  2.]]

// Mapped input x to its vector representation y.
SparseEmbedding(x, y, 4, 5) = [[[  5.,   6.,   7.,   8.,   9.],
                               [ 15.,  16.,  17.,  18.,  19.]],

                              [[  0.,   1.,   2.,   3.,   4.],
                               [ 10.,  11.,  12.,  13.,  14.]]]

相關用法


注:本文由純淨天空篩選整理自apache.org大神的英文原創作品 mxnet.ndarray.contrib.SparseEmbedding。非經特殊聲明,原始代碼版權歸原作者所有,本譯文未經允許或授權,請勿轉載或複製。