Python tf.compat.v1.distributions.Dirichlet用法及代码示例

狄利克雷分布。

继承自：Distribution

用法

tf.compat.v1.distributions.Dirichlet(
    concentration, validate_args=False, allow_nan_stats=True,
    name='Dirichlet'
)

狄利克雷分布是在 (k-1)-单纯形上定义的，使用正的、长度为 k 的向量 concentration (k > 1)。 Dirichlet 与 k = 2 时的 Beta 分布相同。

数学细节

Dirichlet 是开放的 (k-1) -simplex 上的分布，即

S^{k-1} = { (x_0, ..., x_{k-1}) in R^k:sum_j x_j = 1 and all_j x_j > 0 }.

概率密度函数 (pdf) 是，

pdf(x; alpha) = prod_j x_j**(alpha_j - 1) / Z
Z = prod_j Gamma(alpha_j) / Gamma(sum_j alpha_j)

其中:

• x in S^{k-1} ，即 (k-1) -simplex，
• concentration = alpha = [alpha_0, ..., alpha_{k-1}] , alpha_j > 0 ,
• Z 是归一化常数，也就是多元 beta 函数，并且，
• Gamma 是伽玛​​函数。

concentration 表示类出现的平均总计数，即

concentration = alpha = mean * total_concentration

其中 S^{k-1} 和 total_concentration 中的 mean 是一个正实数，表示平均总计数。

分布参数在所有函数中自动广播；有关详细信息，请参见示例。

警告：由于有限的精度，样本的某些分量可能为零。当某些浓度非常小时，这种情况会更频繁地发生。确保在计算密度之前将样本四舍五入到np.finfo(dtype).tiny。

该分布的样本被重新参数化(路径可微)。导数是使用 (Figurnov et al., 2018) 中说明的方法计算的。

例子

import tensorflow_probability as tfp
tfd = tfp.distributions

# Create a single trivariate Dirichlet, with the 3rd class being three times
# more frequent than the first. I.e., batch_shape=[], event_shape=[3].
alpha = [1., 2, 3]
dist = tfd.Dirichlet(alpha)

dist.sample([4, 5])  # shape:[4, 5, 3]

# x has one sample, one batch, three classes:
x = [.2, .3, .5]   # shape:[3]
dist.prob(x)       # shape:[]

# x has two samples from one batch:
x = [[.1, .4, .5],
     [.2, .3, .5]]
dist.prob(x)         # shape:[2]

# alpha will be broadcast to shape [5, 7, 3] to match x.
x = [[...]]   # shape:[5, 7, 3]
dist.prob(x)  # shape:[5, 7]

# Create batch_shape=[2], event_shape=[3]:
alpha = [[1., 2, 3],
         [4, 5, 6]]   # shape:[2, 3]
dist = tfd.Dirichlet(alpha)

dist.sample([4, 5])  # shape:[4, 5, 2, 3]

x = [.2, .3, .5]
# x will be broadcast as [[.2, .3, .5],
#                         [.2, .3, .5]],
# thus matching batch_shape [2, 3].
dist.prob(x)         # shape:[2]

计算样本的梯度 w.r.t.参数：

alpha = tf.constant([1.0, 2.0, 3.0])
dist = tfd.Dirichlet(alpha)
samples = dist.sample(5)  # Shape [5, 3]
loss = tf.reduce_mean(tf.square(samples))  # Arbitrary loss function
# Unbiased stochastic gradients of the loss function
grads = tf.gradients(loss, alpha)

参考：

隐式重新参数化梯度：Figurnov 等人，2018 (pdf)