Python tf.compat.v1.distributions.Dirichlet用法及代碼示例

狄利克雷分布。

繼承自：Distribution

用法

tf.compat.v1.distributions.Dirichlet(
    concentration, validate_args=False, allow_nan_stats=True,
    name='Dirichlet'
)

狄利克雷分布是在 (k-1)-單純形上定義的，使用正的、長度為 k 的向量 concentration (k > 1)。 Dirichlet 與 k = 2 時的 Beta 分布相同。

數學細節

Dirichlet 是開放的 (k-1) -simplex 上的分布，即

S^{k-1} = { (x_0, ..., x_{k-1}) in R^k:sum_j x_j = 1 and all_j x_j > 0 }.

概率密度函數 (pdf) 是，

pdf(x; alpha) = prod_j x_j**(alpha_j - 1) / Z
Z = prod_j Gamma(alpha_j) / Gamma(sum_j alpha_j)

其中:

• x in S^{k-1} ，即 (k-1) -simplex，
• concentration = alpha = [alpha_0, ..., alpha_{k-1}] , alpha_j > 0 ,
• Z 是歸一化常數，也就是多元 beta 函數，並且，
• Gamma 是伽瑪​​函數。

concentration 表示類出現的平均總計數，即

concentration = alpha = mean * total_concentration

其中 S^{k-1} 和 total_concentration 中的 mean 是一個正實數，表示平均總計數。

分布參數在所有函數中自動廣播；有關詳細信息，請參見示例。

警告：由於有限的精度，樣本的某些分量可能為零。當某些濃度非常小時，這種情況會更頻繁地發生。確保在計算密度之前將樣本四舍五入到np.finfo(dtype).tiny。

該分布的樣本被重新參數化(路徑可微)。導數是使用 (Figurnov et al., 2018) 中說明的方法計算的。

例子

import tensorflow_probability as tfp
tfd = tfp.distributions

# Create a single trivariate Dirichlet, with the 3rd class being three times
# more frequent than the first. I.e., batch_shape=[], event_shape=[3].
alpha = [1., 2, 3]
dist = tfd.Dirichlet(alpha)

dist.sample([4, 5])  # shape:[4, 5, 3]

# x has one sample, one batch, three classes:
x = [.2, .3, .5]   # shape:[3]
dist.prob(x)       # shape:[]

# x has two samples from one batch:
x = [[.1, .4, .5],
     [.2, .3, .5]]
dist.prob(x)         # shape:[2]

# alpha will be broadcast to shape [5, 7, 3] to match x.
x = [[...]]   # shape:[5, 7, 3]
dist.prob(x)  # shape:[5, 7]

# Create batch_shape=[2], event_shape=[3]:
alpha = [[1., 2, 3],
         [4, 5, 6]]   # shape:[2, 3]
dist = tfd.Dirichlet(alpha)

dist.sample([4, 5])  # shape:[4, 5, 2, 3]

x = [.2, .3, .5]
# x will be broadcast as [[.2, .3, .5],
#                         [.2, .3, .5]],
# thus matching batch_shape [2, 3].
dist.prob(x)         # shape:[2]

計算樣本的梯度 w.r.t.參數：

alpha = tf.constant([1.0, 2.0, 3.0])
dist = tfd.Dirichlet(alpha)
samples = dist.sample(5)  # Shape [5, 3]
loss = tf.reduce_mean(tf.square(samples))  # Arbitrary loss function
# Unbiased stochastic gradients of the loss function
grads = tf.gradients(loss, alpha)

參考：

隱式重新參數化梯度：Figurnov 等人，2018 (pdf)