参数点估计.ppt

吉景缕麓骇光矮您瓤哉苍倪鞍焦撂帅队膳图歌肢彭呸氓两痊鞭抽轻到泊戊参数点估计参数点估计引言这类问题称为参数估计.参数估计（假定身高服从正态分布）一、点估计概念及讨论的问题为估计请注意，被估计的参数是一个
未知常数，而估计量T(X1,X2,…Xn)
是一个随机变量，是样本的函数,当
样本取定后，它是个已知的数值,这
个数常称为的估计值.使用什么样的统计量去估计？我们知道,服从正态分布样本均值是否是的一个好的估计量？二、寻求估计量的方法1.矩估计法记总体k阶矩为设总体的分布函数中含有k个未知参数例1设X1,X2,…Xn是取自总体X~B(1,p)的一个样本,求参数p矩估计.解:解:由密度函数知解得例4设X1,X2,…Xn是取自总体X~的一个样本,求的矩估计.
解：X的密度函数为

通过计算易得

用一阶和二阶样本矩分别替代E(X)和E(X^2)例5无论总体X的分布是什么，只要二阶矩存在，则样本均值和二阶样本中心矩是总体均值和方差的矩估计量.
解：

根据矩估计的思想

解得例6柯西(Cauchy)分布具有概率密度函数

显然它的各阶矩不存在，因此不能用矩估计法来估计未知参数.矩法的优点是简单易行,并不需要事先知道总体是什么分布.稍事休息2.极大似然法极大似然法的基本思想由实际推断原理，自然会推测p=0.9，即认为箱子内放有9只黑球与1只白球.原因很简单,因为当p=0.1时,出现上述结果的概率为.而当p=0.9时,出现上述结果的概率为.换句话说,p=0.9时,对上述试验结果比较有利.对于离散型的总体X，设它的分布律为

对于连续型的总体X，设它的密度函数为

极大似然估计原理：似然函数：
由微积分的知识，下面举例说明如何求最大似然估计量.L(p)=f(x1,x2,…xn;p)对数似然函数为：解：似然函数为求导并令其为0例3设X1,X2,…Xn是取自总体X~的一个样本,求的最大似然估计.解得
需要注意的是并非每个MLE都可通过求导方法得到.似然函数为解：似然函数为对数似然函数为=0(2)是例5同课本例2.2.6中的总体分布,求的最大似然估计.
解：似然方程为

这个方程只能求数值解.极大似然估计的一个性质例8一罐中装有白球和黑球，有放回地抽取一个容量为n的样本，其中有k个白球，求罐中黑球与白球之比R的极大似然估计.p的MLE为二、估计量的优良性准则常用的几条标准是：估计量是随机变量，对于不同的样本值会得到不同的估计值.我们希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数的真值.这就导致无偏性这个标准.例如，用样本均值作为总体均值的估计时，虽无法说明一次估计所产生的偏差，但这种偏差随机地在0的周围波动，对同一统计问题大量重复使用不会产生系统偏差.定理2.3.1样本均值是总体均值的无偏估计，样
本方差是总体方差的无偏估计.
证明：设总体的期望和方差分别为和.由期望
的性质易知，故是总体均值的无偏估计.
而

其中,

从而所以无偏估计以方差小者为好,这就引进了有效性这一概念.2．有效性

要直接验证某个估计量是最小方差无偏估计量
是困难的.若能求出无偏估计中方差的下界,而且又
能说明参数的一切无偏估计中存在某个估计的
方差能达到这个下界，那么就是的最小方差无
偏估计.下面给出一个判别准则：
定理2.3.2(Cramer-Rao不等式)设X1,X2,…Xn是
从密度函数为的总体抽取的样本,是
的一个无偏估计,若
集合与无关;
对积分与微分可交换且存在，即

(3)
其中例1设X1,X2,…Xn是取自总体X~B(1,p)的一个样本，求参数p的无偏估计的方差下界.而是p的无偏估计，且,因此是p
的最小方差无偏估计量.
例2设X1,X2,…Xn是取自总体X~的一个样本,求的无偏估计的方差下界.
解:(1)写出密度函数
(2)求密度函数对数、再求导
(3)计算
(4)代入C-R不等式求方差下界
最后寻找无偏估计中满足方差下界的估计量.最小方差无偏估计量有时并不存在，这时例3泊松分布的参数的最大似然估计是否为有效估计？
解：泊松分布的概率函数为

显然是的无偏估计.

从而

所以是有效估计量，也是最小方差无偏估计量.2.3.3其他准则相合性2.4贝叶斯估计例2.4.1设是取自总体X~B(1,p)的一
个样本，又设p的先验分布是,求p的后验
分布？
解：记，则Y~B(n,p).Y与p的联合分布是参数p的一个估计是后验分布的均值，得p的贝叶斯
估计量为

P的先验分布均值为，是获取样本前对p的最
好估计，若无视先验分布，可用作为p的估计.P
的贝叶斯估计综合了所有这些信息例3设X1,X2,…Xn是取自总体X~的一个样本,未知，已知.又设的先验分布为,
求的后验分布.
解：与的联合分布密度是