■
授業の発表用に以下の論文を読んだので、ついでに一様分布についての知識をまとめておこうと思った。
Asymptotic efficiency in parametric structural models with parameter-dependent support
K Hirano, JR Porter - Econometrica, 2003
かつi.i.d.の状況を考える。
まず、GMM推定量が -consistentであるのに対して、MLE(最尤推定量)は -consistent である。MLEは であるので、Exactな分布が求められるので、 が指数分布に収束することは容易に確かめられる。(ここで はnth order statistics)
一方で、MLEはDownward biasedである。観察されるデータがパラメータより厳密に小さい値しかないことを考えると納得だろう。
具体的には、 の累積密度関数 は、Xの累積密度関数を とおくと、
[tex: G(x)= Pr(Z_n
になる。
上の論文での主張は、MLEよりもBayes Estimatorの方が優れているということだ。例えば、上の問題ならLoss FunctionがSquare Lossなら 、Absolute Lossなら の時の方がLossが小さいし、Minmaxになっていることが知られているが、両方ともかなり自由にPriorを選べる場合のBayes Estimatorになっている。上の論文ではその一般化を行った。
また、一様分布のMLEをブートストラップしようとすると上手くいかないことも知られている。BootstrapはInconsistentで、Subsamplingするしかないことが知られている。Subsamplingにおいても、ConsistentlyにMLEの分布をブートストラップするためには、サブサンプルでResampleする割合にもnのオーダーの意味で制約がある。
一様分布は他にも面白い性質がいっぱいあって、色んな結果の反例を見つけるのによく使われる。たとえば、一様分布の特性関数は無限回X軸と交わったりする。