第六篇文章

充分统计量



Definition: 称统计量完全统计量,若任给函数,如果

可以推出


  • 在两点分布中 为完全统计量,
    不是完全统计量
  • 该保留的信息都保留——充分性
  • 该丢掉的信息都丢掉——完全性
  • 可以证明,若参数空间有内点,则指数分布族中的充分统计量

也是完全的
定理 : (Blackwell-Lehmann-Scheffe)若完全充分统计量且的无偏估计,则一定为一致最小方差无偏估计,且在概率为1的意义下唯一

对于正态分布,为完全的充分统计量,由,令 则其为的无偏估计,也是一致最小方差无偏估计

  • 无偏估计有可能不存在,因为多项式函数不可以表示无理函数(或者有理函数)
  • 无偏估计有时就算存在也不合理:X服从参数为的泊松分布,样本量为1,则其唯一无偏估计为
  • 在统计中,无偏性是自然的合理的要求

定理(Cramer-Rao不等式):设X的密度函数为为简单随机样本,的无偏估计,则在下列条件下,

  • X的支撑无关
  • c存在,且积分与求导可交换

我们有不等式

其中

Fisher信息量

例1:两点分布 X~B(1,p)

例2:正态分布X~N()

以上例子都达到了C-R不等式的下界

  • 有时最小方差无偏估计即使存在也达不到C-R不等式的下界

例4: X~U()

,的无偏估计,容易验证,,比C-R不等式更快的趋向于0,但同时其不满足条件(1)

  • 自行查找
  • 参数维数为m时,也有相应不等式,不等号右边为二次型
  • 大样本性质:当样本量n趋于无穷时的性质,如(强)相合性,还有收敛速度等。常有

以及渐进协差阵的关系

  • 小样本性质:无偏性、最小方差,C-R不等式等
  • 相合估计是否一定无偏?无偏估计是否一定相合?