基于熵的阈值

阈值的熵测量是基于熵的概念，如果一个变量的在可用范围内分布很分散，熵的统计量就会很高，如果它是有序的且分布很窄，熵的统计量就会很低，具体来说，熵是无序的一种度量，对于一个完全有序的系统，其熵为零，熵阈值的概念是找到一个强度值，使得两个强度概率分布根据这个值被分离后熵的总和最大，这样做的原因是为了获得最大的熵减，也就是最大化获取有序性，换句话说，最合适的阈值就是能够让系统最具有有序性，从而得到最有意义的结果

强度概率分布被分为两类，不高于阈值k的灰度值和高于k的灰度级，从而得到两个概率分布A和B
$$A: \quad \frac{p_1}{P_k},\frac{p_2}{P_k},\frac{p_3}{P_k},...,\frac{p_k}{P_k}$$

$$B: \quad \frac{p_{k+1}}{1-P_k},\frac{p_{k+2}}{1-P_k},\frac{p_{k+3}}{1-P_k},...,\frac{p_L}{1-P_k}$$

$$P_k = \sum_{i=1}^k p_i$$
$$1-P_k = \sum_{i=k+1}^L p_i$$
熵为
$$HA = -\sum_{i=1}^k\frac{p_i}{P_k}ln\frac{p_i}{P_k}$$
$$HB = -\sum_{i=k+1}^L\frac{p_i}{1-P_k}ln\frac{p_i}{1-P_k}$$

总熵为$Hk=HA+HB$