式展開

間違いしかありません．コメントにてご指摘いただければ幸いです(気が付いた点を特に断りなく頻繁に書き直していますのでご注意ください)．

クラメール-ラオの下限

クラメール-ラオの下限

E[θ^]=θ⋯θ^をθの不偏推定量とする∂∂θE[θ^]=∂∂θθ⋯両辺をθで微分する∂∂θ∫θ^f(x;θ)dx=1⋯右辺はθをθで微分したので1⋯左辺は期待値の定義通りE[θ^]=∫Xθ^f(x;θ)dxと展開した⋯f(x;θ)はθをパラメタとしたxの確率密度分布である 1=∂∂θ∫θ^f(x;θ)dx=∫θ^∂f(x;θ)∂θdx⋯微分と積分の順番を入れ替えられる場合を考える=∫θ^∂f(x;θ)∂θ{1f(x;θ)f(x;θ)}dx=∫θ^{∂f(x;θ)∂θ1f(x;θ)}f(x;θ)dx=∫θ^∂log⁡f(x;θ)∂θf(x;θ)dx⋯∂f(x;θ)∂θ1f(x;θ)=∂log⁡f(x;θ)∂θ=E[θ^∂log⁡f(x;θ)∂θ]=E[θ^∂log⁡f(x;θ)∂θ]−θE[∂log⁡f(x;θ)∂θ]⋯スコア凾数の期待値は0(E[∂log⁡f(x;θ)∂θ]=0)なので加えても変わらない=E[θ^∂log⁡f(x;θ)∂θ−θ∂log⁡f(x;θ)∂θ]⋯cE[X]=E[cX],E[X]+E[Y]=E[X+Y]=E[(θ^−θ)∂log⁡f(x;θ)∂θ]=E[((θ^−θ)−E[(θ^−θ)])(∂log⁡f(x;θ)∂θ−E[∂log⁡f(x;θ)∂θ])]⋯E[(θ^−θ)]=E[θ^]−E[θ]=θ−θ=0,E[∂log⁡f(x;θ)∂θ]=0=Cov[θ^,∂log⁡f(x;θ)∂θ]⋯E[(X−E[X])(Y−E[Y])] −1≤ρ≤1⋯ρを相関係数とする−1≤Cov[X,Y]V[X]V[Y]≤1⋯ρ=Cov[X,Y]V[X]V[Y]−1≤Cov[θ^,∂log⁡f(x;θ)∂θ]V[θ^]V[∂log⁡f(x;θ)∂θ]≤1⋯ρ=Cov[θ^,∂log⁡f(x;θ)∂θ]V[θ^]V[∂log⁡f(x;θ)∂θ] ρ2≤1Cov[θ^,∂log⁡f(x;θ)∂θ]2V[θ^]V[∂log⁡f(x;θ)∂θ]≤112V[θ^]V[∂log⁡f(x;θ)∂θ]≤1⋯Cov[θ^,∂log⁡f(x;θ)∂θ]=11V[∂log⁡f(x;θ)∂θ]≤V[θ^]⋯V[θ^]:不偏推定量の分散V[∂log⁡f(x;θ)∂θ]−1≤V[θ^]I−1≤V[θ^]⋯I=V[∂log⁡f(x;θ)∂θ]:フィッシャー情報量 パラメタの推定(不偏推定量)の分散(パラメタの推定値と真の値(標本が従っている確率分布凾数のパラメタという意味で)との平均二乗誤差)は，フィッシャー情報量の逆数以下にはならないことを示す．
時刻:
ラベル: , , ,

0 件のコメント:

コメントを投稿

登録: コメントの投稿 (Atom)