信賴區間

定义置信区间最清晰的方式是从一个随机样本出发。考虑一个一维随机变量${\displaystyle {\cal {X}}}$服从分布${\displaystyle {\cal {F}}}$，又假设${\displaystyle \theta }$是${\displaystyle {\cal {F}}}$的参数之一。假设我们的数据采集计划将要独立地抽样${\displaystyle n}$次，得到一个随机样本${\displaystyle \{X_{1},\ldots ,X_{n}\}}$，注意这里所有的${\displaystyle X_{i}}$都是随机的，我们是在讨论一个尚未被观测的数据集。如果存在统计量（统计量定义为样本${\displaystyle X=\{X_{1},\ldots ,X_{n}\}}$的一个函数，且不得依赖于任何未知参数）${\displaystyle u(X_{1},\ldots ,X_{n}),v(X_{1},\ldots ,X_{n})}$满足${\displaystyle u(X_{1},\ldots ,X_{n})<v(X_{1},\ldots ,X_{n})}$使得：

${\displaystyle \mathbb {P} \left(\theta \in \left(u(X_{1},\ldots ,X_{n}),v(X_{1},\ldots ,X_{n})\right)\right)=1-\alpha }$

则称${\displaystyle \left(u(X_{1},\ldots ,X_{n}),v(X_{1},\ldots ,X_{n})\right)}$为一个用于估计参数${\displaystyle \theta }$的${\displaystyle 1-\alpha }$置信区间，其中的，${\displaystyle 1-\alpha }$称为置信水平，${\displaystyle \alpha }$在假设检验中也称为显著性水平。

接续随机样本版本的定义，现在，对于随机变量${\displaystyle {\cal {X}}}$的一个已经观测到的样本${\displaystyle \{x_{1},\ldots ,x_{n}\}}$，注意这里用小写x表记的${\displaystyle x_{i}}$都是已经观测到的数字，没有随机性了，定义基于数据的${\displaystyle 1-\alpha }$置信区间为：

${\displaystyle \left(u(x_{1},\ldots ,x_{n}),v(x_{1},\ldots ,x_{n})\right)}$

注意，置信区间可以是单尾或者双尾的，单尾的置信区间中设定${\displaystyle u=-\infty }$或者${\displaystyle v=+\infty }$，具体前者还是后者取决于所构造的置信区间的方向。

初学者常犯一个概念性错误，是将基于观测到的数据所同样构造的置信区间的置信水平，误认为是它包含真实未知参数的真实值的概率。正确的理解是：置信水平只有在描述这个同样构造置信区间的过程（或称方法）的意义下才能被视为一个概率。一个基于已经观测到的数据所构造出来的置信区间，其两个端点已经不再具有随机性，因此，类似的构造的间隔将会包含真正的值的比例在所有值中，其包含未知参数的真实值的概率是0或者1，但我们不能知道是前者还是后者[3]。

${\displaystyle 1-\alpha }$水平的正态置信区间为：

${\displaystyle \left({\bar {x}}-z_{\alpha /2}{\frac {\sigma }{\sqrt {n}}},{\bar {x}}+z_{\alpha /2}{\frac {\sigma }{\sqrt {n}}}\right)}$ (双尾)

${\displaystyle \left(-\infty ,{\bar {x}}+z_{\alpha }{\frac {\sigma }{\sqrt {n}}}\right)}$ (单尾)

${\displaystyle \left({\bar {x}}-z_{\alpha }{\frac {\sigma }{\sqrt {n}}},+\infty \right)}$ (单尾)

以下为方便起见，只列出双尾置信区间的例子，且区间中用"${\displaystyle \pm }$"进行简记：

${\displaystyle 1-\alpha }$水平的双尾正态置信区间为：

${\displaystyle \left({\bar {x}}\pm t_{n-1;\alpha /2}{\frac {s}{\sqrt {n}}}\right)}$

設有兩個獨立正態樣本${\displaystyle x}$和${\displaystyle y}$，样本大小为${\displaystyle m}$和${\displaystyle n}$，估计总体均值之差${\displaystyle \mu _{1}-\mu _{2}}$，假设总体方差未知但相等：${\displaystyle \sigma _{1}=\sigma _{2}}$(如果未知且不等就要应用Welch公式来确定t分布的自由度) ${\displaystyle 1-\alpha }$水平的双尾正态置信区间为：

${\displaystyle \left({\bar {x}}-{\bar {y}}\pm t_{m+n-2;\alpha /2}\cdot s_{p}\cdot {\sqrt {{\frac {1}{m}}+{\frac {1}{n}}}}\right)}$，其中${\displaystyle s_{p}={\sqrt {\frac {(m-1)s_{x}^{2}+(n-1)s_{y}^{2}}{m+n-2}}}}$且${\displaystyle s_{x},s_{y}}$分别表示${\displaystyle x}$和${\displaystyle y}$的样本标准差。