■ - 経済学論文レビュー

The incidental parameter problem since 1948
T Lancaster - Journal of Econometrics, 2000

Orthogonal parameters and panel data
T Lancaster - The Review of Economic Studies, 2002

Panel Data + Unobserved Heterogeneity (Fixed Effectとか)って意外とわかってないこと多いっぽいと思って読んでみた。実は二本目の論文は読んでないけど。
一般の非線形モデルでIncidental Parameter（≒Fixed Effect）があるときには、Structural ParameterもConsistentに推定できるかは微妙な問題。

Fixed Effectがある場合、一般的に最尤推定法はInconsistentであることがある。なので、一般にはIVやOrthognality Conditionを使ってGMMで推定することが多い。一方で、Likelihood Basedな方法で推定するのが著者の方針っぽい。
Lancaster(2002)の方は、より具体的な方法を述べてるんだと思う。Lancaster(2000)はサーベイなので、そっちだけ読んでざっくりまとめてみよう。それでも１０年前の論文なので、もうOut of Dateなのかもしれないけど。

まず、Incidental Parameterとはなにか。Newman and Scott(1948)で指摘された問題らしいのだが、以下のような例を考えよう。
$p(x_{ij})=\frac{1}{\sigma \sqrt{2\pi}}exp\{ -(x_{ij}-\alpha_i)^2/2\sigma \}$ , $i=1,...,s,\ \ j=1,...,n_i,\ \ \ s\to \infty$
無限に多くの変数のDensityに影響を与えるパラメータをStructural Parameterと呼び、有限の変数にしか影響を与えないパラメータをIncidental Parameterと呼ぶ。ここでは、シグマが前者で、アルファたちが後者。
アルファをConsistentに推定することは絶望的だが、ここではシグマのMLEもConsistentでない。このように、構造的なパラメータの推定にも問題が生じるのがIncidental Parameter Problemと呼ばれる問題である。

解決策として、Incidental ParameterをStrucural Parameterを所与としたときのMLEで与え、それを代入しなおしてStrucural ParameterをMLEで推定するっていう方法もあるらしいのだけれども、あまりよくない方法らしい。Inconsistentだったり。（代入し終わった後のLikelihoodを求めることを、Concentrating the likelihoodとか、Constructing the profile likelihoodとか言うらしい。）ex.Cox and Reid(1987)

そこで、このペーパーでは二つの方法を紹介している。ひとつはConditional Frequentistな方法で、もうひとつはBayesianな方法である。（あと、それのMix）

１．Conditional Frequentist
もしLikelihoodが
$l(y|\alpha, \lambda)=l_1(S|\alpha) l_2(y|S, \lambda)$
とかければ、Loglikelihoodのクロスパーシャルデリバティブは０になるので、Sでコンディションしたラムダが入ってるほうのLikelihoodだけ最大化するようにラムダを求めればConsistentなMLEがラムダに関しては求められる。
その似たバージョンで、全然直感的ではないが、以下の場合もアルファが入ってないほうのLikelihoodだけ最大化すれば一致推定量が求められるらしい。
$l(y|\alpha, \lambda)=l_1(S|\alpha, \lambda) l_2(y|S, \lambda)$
$l(y|\alpha, \lambda)=l_1(S|\lambda) l_2(y|S,\alpha, \lambda)$
Lancaster(2002)では、それをもう少し一般化した方法を提案しており、
$\alpha_i=\alpha(\alpha_i^*, \lambda )$ とReparameterizationして、
$E\frac{\partial ^2 \log l_i}{\partial \alpha_i^* \partial \lambda}=0$
を満たすことができれば、近似的に上の三式のように尤度が書けて、Consistentに推定できるらしい。

２．Bayes
Incidental Parameterに適当なPriorを置いて、Integrate outすればいい。UninformativeなPriorを置くとよかったりするらしい。よくしらない。でも、もちろんPriorの置き方によってConsistentだったり違ったりするらしく、特定の問題でどんなPriorならConsistentになるかとかはわかっていなかったりするらしい。

最後にオープンクエスチョンっぽい分野とか話題について。
・Dynamic Binary Data Models with Fixed Effectってあんまり研究されていないらしい。特にLinearじゃないとき。
・Semiparametric Models with Fixed Effectもあんまり研究されていないらしい。Manski(1987)が引用されててちょっとテンションあがった。
・Conditioning on the realization（つまり各アルファたちに関して条件づける）んじゃなくて、Conditioning on the (unknown) Function of distribution（アルファたちのDistに関して条件付ける）っていう方向のExtensionもあるんじゃないかっていう話がチラッと載ってた。