费希尔信息

数理统计学中，费希尔信息（英语：Fisher Information；有時稱作 information[1]），或稱費雪訊息數，通常记作 ${\mathcal {I}}_{X}(\theta )$ ，是衡量观测所得的随机变量 $X$ 携带的关于未知母數 $\theta$ 的訊息量，其中 $X$ 的概率分布依赖于母數 $\theta$ 。费希尔信息由统计学家罗纳德·费希尔在弗朗西斯·伊西德罗·埃奇沃思工作的基础上提出，现常用于最大似然估计和贝叶斯统计学中。

定义

随机变量 $X$ 的费希尔訊息定义为

{\mathcal {I}}(\theta )=\operatorname {E} \left[\left.\left({\frac {\partial {\mathcal {L}}}{\partial \theta }}\right)^{2}\right|\theta \right]=-\operatorname {E} \left[\left.{\frac {\partial ^{2}{\mathcal {L}}}{\partial \theta ^{2}}}\right|\theta \right]

其中 ${\mathcal {L}}(X;\theta )$ 是 $X$ 关于母數 $\theta$ 的对数似然函数，当 $X$ 的概率密度函数 $f(X;\theta )$ 已知时

{\mathcal {L}}(X;\theta )=\ln f(X;\theta )

註釋

Lehmann & Casella, p. 115

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.

[1] Lehmann & Casella, p. 115