scipy.special.rel_entr¶
- scipy.special.rel_entr(x, y, out=None) = <ufunc 'rel_entr'>¶
用于计算相对熵的基本函数。
\[\begin{split}\mathm{rel\_entr}(x，y)= \开始{案例} x\log(x/y)&x>0，y>0\\ 0&x=0，y\ge 0\\ \inty&\text{否则} \结束{案例}\end{split}\]- 参数
- x, yarray_like
输入数组
- outndarray，可选
函数结果的可选输出数组
- 退货
- 标量或ndarray
输入的相对熵
注意事项
0.15.0 新版功能.
这个函数在x和y上是联合凸的。
此函数的起源是凸规划；请参见 [1]. 给定两个离散概率分布 \(p_1, \ldots, p_n\) 和 \(q_1, \ldots, q_n\) ，要得到统计量的相对熵，请计算和
\[\sum_{i=1}^n\mathm{rel\_entr}(p_i，q_i)。\]看见 [2] 有关详细信息，请参阅。
参考文献
- 1
GRANT，BOYD，YE，“cvx：matlab有纪律的凸编程软件”，http://cvxr.com/cvx/
- 2
库尔巴克-莱布勒发散，https://en.wikipedia.org/wiki/Kullback%E2%80%93Leibler_divergence