顺序统计量

在统计学中，样本的第$k$顺序统计量（英語：Order Statistics）即它从小到大排列时的第$k$个值，常用于非参数估计与推断中。常见的顺序统计量包括样本的最大值、最小值、中位数等。

记号

任给样本$x_{1},x_{2},\cdots ,x_{n}$，将其从小到大排成一列，记为：

$$x_{(1)},x_{(2)},\cdots ,x_{(n)}.$$

则其第一顺序统计量（即最小值）为$x_{(1)}$，第$n$顺序统计量（即最大值）为$x_{(n)}$。

概率

随机变量$X_{(k)}$的累积分布函数$F_{k}(x)$由下式给出

$$F_{k}(x)=\sum _{j=k}^{n}{\binom {n}{j}}(F(x))^{j}(1-F(x))^{n-j},\quad x\in \mathbb {R} ,$$

将累积分布函数求导可得其概率密度函数$f_{k}(x)$为

$$f_{k}(x)={\frac {n!}{(k-1)!(n-k)!}}(F(x))^{k-1}(1-F(x))^{n-k}f(x),\quad x\in \mathbb {R} .$$

連續均勻樣本

從单位区间上的連續型均勻分布取得的樣本，其各順序統計量的边缘分布屬於Β分布族。此外，任意幾個順序統計量的联合分布也有簡單的表示。本節將作介紹。藉賴累积分布函数（cdf），該些結果亦可推廣到任意連續分佈。

本節中，$X_{1},X_{2},\ldots ,X_{n}$表示以$F_{X}$為cdf的一組隨機樣本。記$U_{i}=F_{X}(X_{i})$，則$U_{1},\ldots ,U_{n}$是從標準連續均勻分布抽取的對應樣本。由$F_{X}$的單調性，後者的順序統計量為$U_{(i)}=F_{X}(X_{(i)})$。

順序統計量$U_{(k)}$的概率密度函數（pdf）等於

$f_{U_{(k)}}(u)={n! \over (k-1)!(n-k)!}u^{k-1}(1-u)^{n-k}.$

換言之，均勻分佈的第$k$順序統計量遵循Β分布

$U_{(k)}\sim \operatorname {Beta} (k,n+1\mathbf {-} k).$

證明如下：欲使$U_{(k)}$介乎$u$與$u+\mathrm {d} u$之間，樣本須恰有$k-1$個元素小於$u$，並至少有一個介乎$u$與$u+\mathrm {d} u$之間。該區間包含多於一個元素的概率已是$O(\mathrm {d} u^{2})$（使用了大O符號），故衹需計算$(0,u)$、$(u,u+du)$、$(u+du,1)$三區間分別恰有$k-1$、$1$、$n-k$個元素的概率。此即三項分佈概率

${n! \over (k-1)!(n-k)!}u^{k-1}\cdot \mathrm {d} u\cdot (1-u-\mathrm {d} u)^{n-k},$

故上述pdf公式成立。該分佈的平均值為$k/(n+1)$。