LINEスタンプ制作代行サービス・LINEスタンプの作り方!

お電話でのお問い合わせ:03-6869-8600

stampfactory大百科事典

フィッシャー情報量

フィッシャー情報量(フィッシャーじょうほうりょう、) formula_1は統計学や情報理論で登場する量で、確率変数formula_2が母数formula_3に関して持つ「情報」の量を表す。統計学者のロナルド・フィッシャーに因んで名付けられた。formula_3を母数とし、formula_2を確率密度関数がformula_6で表される確率変数とする。このとき、formula_3の尤度関数formula_8はで定義され、スコア関数は対数尤度関数の微分により定義される。このとき、フィッシャー情報量formula_1はスコア関数の2次のモーメントにより定義される。紛れがなければ添え字のformula_2を省略し、formula_14とも表記する。なお、formula_2に関しては期待値が取られている為、フィッシャー情報量はformula_2の従う確率密度関数formula_6のみに依存して決まる。よってformula_2とformula_19が同じ確率密度関数を持てば、それらのフィッシャー情報量は同一である。スコア関数はを満たす事が知られているので、が成立する。ここでformula_22は分散を表す。またformula_23が二回微分可能で以下の標準化条件を満たすなら、フィッシャー情報量は以下のように書き換えることができる。このとき、フィッシャー情報量は、formula_26 の対数のformula_3についての2次の導関数にマイナスを付けたものになる。フィッシャー情報量は、formula_3についての最尤推定量付近のサポート曲線の「鋭さ」としてもとらえることができる。例えば、「鈍い」(つまり、浅い最大値を持つ)サポート曲線は、2次の導関数として小さな値を持つため、フィッシャー情報量としても小さな値を持つことになるし、鋭いサポート曲線は、2次導関数として大きな値を持つため、フィッシャー情報量も大きな値になる。パラメータが"N"個の場合、つまり、formula_29 が"N"次のベクトルformula_30であるとき、フィッシャー情報量は、以下で定義される"N"x"N" 行列に拡張される。これを、フィッシャー情報行列(FIM, Fisher information matrix)と呼ぶ。成分表示すれば、以下のようになる。フィッシャー情報行列は、"N"x"N" の正定値対称行列であり、その成分は、"N"次のパラメータ空間からなるフィッシャー情報距離を定義する。formula_33個のパラメータによる尤度があるとき、フィッシャー情報行列のi番目の行と、j番目の列の要素がゼロであるなら、2つのパラメータ、formula_34とformula_35は直交である。パラメータが直交であるとき、最尤推定量が独立になり、別々に計算することができるため、扱いやすくなる。このため、研究者が何らかの研究上の問題を扱うとき、その問題に関わる確率密度が直交になるようにパラメーター化する方法を探すのに一定の時間を費やすのが普通である。フィッシャー情報量はを満たす。またformula_2,formula_19が独立な確率変数であれば、が成立する。すなわち、「formula_40がformula_3に関して持つ情報の量」は「formula_2がformula_3に関して持つ情報の量」と「formula_19がformula_3に関して持つ情報の量」の和である。よって特に、無作為に取られたn個の標本が持つフィッシャー情報量は、1つの標本が持つフィッシャー情報量のn倍である(観察が独立である場合)。formula_3の任意の不偏推定量formula_47は以下のCramér–Rao(クラメール-ラオ)の不等式を満たす:この不等式の直観的意味を説明する為、両辺の逆数を取った上で確率変数formula_2への依存関係を明示すると、となる。一般に推定量はその分散が小さいほど(よって分散の逆数が大きいほど)母数formula_3に近い値を出しやすいので、「よい」推定量であると言える。formula_3を「推定する」という行為は、「よい」推定量formula_53を使ってformula_3を可能な限り復元する行為に他ならないが、上の不等式はformula_2から算出されたどんな不偏推定量であってもformula_2が元々持っている「情報」以上に「よい」推定量にはなりえない事を意味する。一般にformula_57が統計量であるならば、が成立する。すなわち、「formula_2から計算される値formula_60が持っているformula_3の情報」は「formula_2自身が持っているformula_3の情報」よりも大きくない。上式で等号成立する必要十分条件はformula_64が十分統計量であること。これはformula_65が formula_3に対して十分統計量であるならば、ある関数formula_26およびformula_68が存在してが成り立つ(ネイマン分解基準)事を使って証明できる。formula_70を母数formula_71を持つ確率変数とすると、カルバック・ライブラー情報量 formula_72とフィッシャー情報行列は以下の関係が成り立つ。すなわちフィッシャー情報行列はカルバック・ライブラー情報量をテイラー展開したときの2次の項として登場する。(0次、1次の項は0)。ベルヌーイ分布は、確率θ でもたらされる「成功」と、それ以外の場合に起きる「失敗」という2つの結果をもたらす確率変数が従う分布である(ベルヌーイ試行)。例えば、表が出る確率がθ、裏が出る確率が1 - θであるような、コインの投げ上げを考えれば良い。n回の独立なベルヌーイ試行が含むフィッシャー情報量は、以下のようにして求められる。なお、以下の式中で、"A" は成功の回数、"B" は失敗の回数、"n" ="A" +"B" は試行の合計回数を示している。対数尤度関数の2階導関数は、であるから、となる。但し、"A"の期待値は"n θ"、"B" の期待値は"n" (1-"θ" )であることを用いた 。つまり、最終的な結果は、である。これは、n回のベルヌーイ試行の成功数の平均の分散の逆数に等しい。形状パラメータα、尺度パラメータβのガンマ分布において、フィッシャー情報行列はで与えられる。但し、ψ(α)はディガンマ関数を表す。平均μ、分散σの正規分布N(μ, σ)において、フィッシャー情報行列はで与えられる。N個の変数の多変量正規分布についてのフィッシャー情報行列は、特別な形式を持つ。であるとし、formula_80がformula_81の共分散行列であるとするなら、formula_2~formula_83のフィッシャー情報行列、formula_84の成分は以下の式で与えられる。ここで、formula_86はベクトルの転置を示す記号であり、formula_87は、平方行列のトレースを表す記号である。また、微分は以下のように定義される。

出典:wikipedia

LINEスタンプ制作に興味がある場合は、
下記よりスタンプファクトリーのホームページをご覧ください。