第２０回助教の会

今回のブログを担当する東大情報基盤センターの佐藤一誠です。

今回は、東京大学情報理工学系研究科　助教の田中冬彦さんに発表していただきました。

田中さんは、統計理論の研究だけでなく、理論物理・実験物理への統計理論の啓蒙や研究交流に日夜励んでいらっしゃいます。

今回の発表では、情報幾何のベイズ統計における応用例について発表して頂きました。

過去のデータから未来のデータについて予測を行う場合、ベイズ統計ではベイズ予測分布を用います。

最尤推定が１つのモデルパラメータを用いて予測を行うのに対し、

ベイズ予測分布では、モデルパラメータの事後分布を求め、事後分布で未来のデータの分布を平均化することで予測を行います。

さて、このベイズ予測分布はどのような意味で最適なのでしょうか？
ベイズ予測分布は、平均リスクを最小にするという意味で最適であることが、1975年にAitchisonによって示されています。

ただし、この最適性は事前分布の取り方に依存するという問題点があります。

つまり、どのような事前分布が望ましいかという疑問が新たに生じます。

特にパラメータに関する事前情報がない場合に使う事前分布（無情報事前分布）を
統計モデルのみから決めるという研究が海外を中心に盛んに行われています。
ただし、無情報事前分布というのは慣用的な用語で、デフォルトで使う事前分布といった意味だそうです。
これまで様々な文脈で無情報事前分布が提案されてきました。
今回注目する事前分布は優調和事前分布です。
よく知られている汎用的な無情報事前分布にJeffreys事前分布がありますが，
もし優調和事前分布が存在するならば，Jeffreys事前分布より予測の意味でも最適であることが知られています。

ここで重要なのは

・優調和事前分布が存在するか

・存在するならばどのようにして構成できるのか

です。

これらを理論的に示す道具として、統計モデルの情報幾何学が活躍します。

統計研究者の中でもあまり理解されてない情報幾何の利点として以下が挙げられます

１．記述の簡潔さ（“縮約“やEinstein規約）

２．パラメータの取り方に依存しない結果の抽出

３．望ましいパラメータの取り方を見つける

４．微分幾何学的な道具立ての活用

これらは、今回の発表の後半で、時系列モデルを扱う場合に確認することができます。

Seminar 130107 ver2_public_embed from tanafuyu