区间估计

定义：置信区间的概念

区间估计是用两个统计量 $T_1$ 和 $T_2$ 构成区间 $(T_1,T_2)$，使得该区间在一定概率意义下包含未知参数 $\theta$。¹

置信水平

设 $\theta$ 为未知参数，若有：

$$P_{\theta }(T_1\le \theta \le T_2)\ge 1-\alpha ,\forall \theta \in \Theta$$

则称 $1-\alpha$ 为置信水平，区间 $(T_1,T_2)$ 为 $\theta$ 的置信区间。

置信区间的解释

正确理解：置信区间是随机的，而参数是固定的。置信水平 $1-\alpha$ 表示在大量重复抽样中，按同样方法构造出来的区间里，约有 $100(1-\alpha )\%$ 会包含真实参数值。²

常见误解：不能说“参数落在 $(T_1,T_2)$ 内的概率为 $1-\alpha$”，因为参数虽然未知，但是固定值，不是随机变量。

构造思路

区间估计的核心，是先为未知参数构造一个随机区间，再把这个随机区间的覆盖概率控制在 $1-\alpha$。

常见做法是先找到一个分布已知、且不含未知参数的枢轴量，再由其分位数反推出参数区间。

枢轴量法

枢轴量法是构造置信区间的通用方法。

枢轴量的定义

枢轴量 $Q(\mathbf{X},\theta )$ 是样本和参数的函数，满足：

1. $Q$ 的分布不依赖于任何未知参数；
2. $Q$ 是 $\theta$ 的单调函数。

为什么叫”枢轴量”？ 这个名字很形象：枢轴量就像一个支点——当我们把不等式两边翻转时，参数从”被包围”的位置移动到了”主动”的位置。具体来说，我们把”参数在某个区间内”这个陈述，转化为”某个统计量落在某个范围内”，而这个统计量的分布是已知的（不依赖未知参数）。

寻找枢轴量的技巧：

1. 从点估计出发：许多枢轴量是”点估计减去参数”再除以标准误差的形式；
2. 利用已知分布：正态总体的 $\frac{\bar{X}-\mu }{\sigma /\sqrt{n}}$、$t$ 分布的 $\frac{\bar{X}-\mu }{S/\sqrt{n}}$ 都是经典的枢轴量；
3. 单调变换：如果 $Q$ 是枢轴量，则 $g(Q)$（$g$ 单调）也是枢轴量。³

构造步骤

1. 选取合适的枢轴量 $Q(\mathbf{X},\theta )$；
2. 根据 $Q$ 的已知分布，确定常数 $a,b$ 使得：

$$P_{\theta }(a\le Q(\mathbf{X},\theta )\le b)=1-\alpha$$

3. 通过不等式变换，得到 $\theta$ 的置信区间。

示例：正态总体均值的置信区间

设 $X_1,\dots ,X_n\sim N(\mu ,{\sigma }^2)$，${\sigma }^2$ 已知。

选取枢轴量：

$$Q=\frac{\bar{X}-\mu }{\sigma /\sqrt{n}}\sim N(0,1)$$

确定常数：设 $z_{\alpha /2}$ 为标准正态分布的上 $\alpha /2$ 分位数，则：

$$P\left(-z_{\alpha /2}\le \frac{\bar{X}-\mu }{\sigma /\sqrt{n}}\le z_{\alpha /2}\right)=1-\alpha$$

变换不等式：

$$P\left(\bar{X}-z_{\alpha /2}\frac{\sigma }{\sqrt{n}}\le \mu \le \bar{X}+z_{\alpha /2}\frac{\sigma }{\sqrt{n}}\right)=1-\alpha$$

置信区间：

$$\left(\bar{X}-z_{\alpha /2}\frac{\sigma }{\sqrt{n}},\bar{X}+z_{\alpha /2}\frac{\sigma }{\sqrt{n}}\right)$$

寻找枢轴量的技巧

1. 从点估计出发：许多枢轴量是“点估计减去参数”再除以某个标准量。
2. 利用抽样分布：三大抽样分布（${\chi }^2$、$t$、$F$）是构造枢轴量的基础。
3. 对称变换：对于对称分布（如正态、$t$），可以利用对称性构造双侧置信区间。
4. 单调变换：如果 $Q$ 是枢轴量，则 $g(Q)$ 也是枢轴量（$g$ 单调）。

常见置信区间汇总

正态总体均值的置信区间

情形	置信区间
${\sigma }^2$ 已知	$\bar{X}\pm z_{\alpha /2}\frac{\sigma }{\sqrt{n}}$
${\sigma }^2$ 未知（大样本）	$\bar{X}\pm z_{\alpha /2}\frac{S}{\sqrt{n}}$
${\sigma }^2$ 未知（小样本）	$\bar{X}\pm t_{\alpha /2}(n-1)\frac{S}{\sqrt{n}}$

其中 $S$ 为样本标准差，$t_{\alpha /2}(n-1)$ 为自由度 $n-1$ 的 $t$ 分布上 $\alpha /2$ 分位数。

正态总体方差的置信区间

设 $X_1,\dots ,X_n\sim N(\mu ,{\sigma }^2)$，枢轴量：

$$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$$

置信区间：

$$\left(\frac{(n-1)S^2}{{\chi }_{\alpha /2}^2(n-1)},\frac{(n-1)S^2}{{\chi }_{1-\alpha /2}^2(n-1)}\right)$$

两个正态总体均值差的置信区间

设 $X_1,\dots ,X_{n_1}\sim N({\mu }_1,{\sigma }_1^2)$，$Y_1,\dots ,Y_{n_2}\sim N({\mu }_2,{\sigma }_2^2)$，${\sigma }_1^2={\sigma }_2^2={\sigma }^2$ 已知／未知。

${\sigma }^2$ 已知：

$$(\bar{X}-\bar{Y})\pm z_{\alpha /2}\sqrt{\frac{{\sigma }_1^2}{n_1}+\frac{{\sigma }_2^2}{n_2}}$$

${\sigma }^2$ 未知：

$$(\bar{X}-\bar{Y})\pm t_{\alpha /2}(n_1+n_2-2)S_p\sqrt{\frac{1}{n_1}+\frac{1}{n_2}}$$

其中 $S_p^2=\frac{(n_1-1)S_1^2+(n_2-1)S_2^2}{n_1+n_2-2}$ 为合并方差。

比率 $p$ 的置信区间（大样本）

设 $\hat{p}$ 为二项比例的估计（大样本 $n\hat{p}\ge 5,n(1-\hat{p})\ge 5$）：

$$\hat{p}\pm z_{\alpha /2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}$$

单侧与双侧置信区间

双侧置信区间

两端都有界的置信区间，如上面的 $(\bar{X}\pm z_{\alpha /2}\frac{\sigma }{\sqrt{n}})$。

单侧置信区间

只有一侧有界的置信区间：

• 下限置信区间：$(\bar{X}-z_{\alpha }\frac{\sigma }{\sqrt{n}},+\infty )$
• 上限置信区间：$(-\infty ,\bar{X}+z_{\alpha }\frac{\sigma }{\sqrt{n}})$

选取原则

• 当关心参数是否在某个范围内时，使用双侧置信区间；
• 当只关心参数是否小于（或大于）某个值时，使用单侧置信区间。

应用

置信区间与假设检验的关系

置信区间与假设检验存在对偶关系：⁴

• 参数 $\theta$ 的置信水平 $1-\alpha$ 的置信区间，等价于检验水平 $\alpha$ 下所有不被拒绝的 ${\theta }_0$ 构成的集合；
• 双侧检验与双侧置信区间对应；
• 单侧置信区间与单侧检验对应。

相关章节

• 三大抽样分布：枢轴量分布的理论基础
• 点估计：点估计与区间估计的关系
• 假设检验：置信区间与假设检验的对偶性
• 次序统计量：非参数置信区间的构造

Footnotes

1. 本页关于置信区间的定义、枢轴量法与常见区间公式，整理自常见数理统计教材的区间估计章节。 ↩

2. 关于置信水平的解释，可参考经典统计推断教材对“重复抽样覆盖率”的说明。 ↩

3. 关于枢轴量法的详细讲解，可参考明尼苏达大学的课程笔记 Confidence Intervals ↩

4. 关于置信区间与假设检验的对偶关系，可参考数理统计中“区间估计与参数检验”的对应章节。 ↩