Python mxnet.metric.Perplexity用法及代碼示例

用法: class mxnet.metric.Perplexity(ignore_label, axis=-1, name='perplexity', output_names=None, label_names=None)

參數：

ignore_label：(int or None) - 計數時要忽略的無效標簽索引。默認情況下，設置為 -1。如果設置為None，它將包括所有條目。
axis：(int (default -1)) - 用於計算 softmax 的預測軸。默認情況下使用最後一個軸。
name：(str) - 此度量實例的名稱用於顯示。
output_names：(list of str, or None) - 使用update_dict 更新時應使用的預測名稱。默認情況下包括所有預測。
label_names：(list of str, or None) - 使用update_dict 更新時應使用的標簽名稱。默認情況下包括所有標簽。

基礎： mxnet.metric.EvalMetric

計算困惑度。

困惑度是對概率分布或模型對樣本的預測程度的度量。低困惑度表明該模型擅長預測樣本。

模型 q 的困惑度定義為

\[b^{\big(-\frac{1}{N} \sum_{i=1}^N \log_b q(x_i) \big)} = \exp \big(-\frac{1}{N} \sum_{i=1}^N \log q(x_i)\big)\]

我們讓 b = e 。

\(q(x_i)\) 是其在樣本 \(x_i\) 上的真實標簽的預測值。

例如，我們有三個樣本 \(x_1, x_2, x_3\) ，它們的標簽是 \([0, 1, 1]\) 。假設我們的模型預測 \(q(x_1) = p(y_1 = 0 | x_1) = 0.3\) 和 \(q(x_2) = 1.0\) ， \(q(x_3) = 0.6\) 。模型 q 的困惑度是 \(exp\big(-(\log 0.3 + \log 1.0 + \log 0.6) / 3\big) = 1.77109762852\) 。

例子：

>>> predicts = [mx.nd.array([[0.3, 0.7], [0, 1.], [0.4, 0.6]])]
>>> labels   = [mx.nd.array([0, 1, 1])]
>>> perp = mx.metric.Perplexity(ignore_label=None)
>>> perp.update(labels, predicts)
>>> print perp.get()
('Perplexity', 1.7710976285155853)

相關用法

注：本文由純淨天空篩選整理自apache.org大神的英文原創作品 mxnet.metric.Perplexity。非經特殊聲明，原始代碼版權歸原作者所有，本譯文未經允許或授權，請勿轉載或複製。