1 什么是经验分布 EDF

经验分布函数（Empirical Distribution Function）是统计学中一个与样本的经验测度有关的分布函数。该累积分布函数是在所有$n$个数据点上都跳跃$1/n$的阶跃函数。对于被测随机变量的某个可能取值而言，EDF 在这个取值处的值为所有观测样本中小于或者等于该取值的比例。

经验分布函数是对用于生成样本的累积分布函数的估计。根据 Glivenko-Cantelli 定理可以证明，经验分布函数以概率 1 收敛至这一累积分布函数。

令$(x_1,\dots ,x_n)$为独立同分布的的实随机变量，它们共同的累积分布函数为$F\left(t\right)$。于是，经验分布函数可以定义为

$$\begin{array}{}{\hat{F}}_n\left(t\right)=\frac{\text{number of elements in the sample}\le t}{n}=\frac{1}{n}\sum _{i=1}^n{1}_{x_i\le t}& \text{(1)}\end{array}$$

其中 $1_A$ 为事件 $A$ 的指示函数。 $1_{x_i\le t}$ 为 $p=F\left(t\right)$ 是伯努利随机变量。因而 $n{\hat{F}}_n\left(t\right)$ 则是期望为 $nF\left(t\right)$，方差为 $nF\left(t\right)(1-F(t\left)\right)$ 的二项随机变量。这意味着 ${\hat{F}}_n\left(t\right)$ 是 $F\left(t\right)$ 的无偏估计。

2 Python 实现

从上面的定义来看，其实自己实现一个 EDF 函数也并不困难。这里有一个例子：Calculate ECDF in Python。statsmodels这个库里面提供了现成的 ECDF 函数。

这里函数名字是 ECDF，其中 C 表示累积分布。

1
2
3
4
5
6
7

>>> import numpy as np
>>> from statsmodels.distributions.empirical_distribution import ECDF
>>>
>>> ecdf = ECDF([3, 3, 1, 4])
>>>
>>> ecdf([3, 55, 0.5, 1.5])
array([ 0.75,  1.  ,  0.  ,  0.25])