「情報幾何」に入門するための資料PDF。解説論文と機械学習への応用の紹介

日本から発信された数理的手法である情報幾何を学ぶための資料。

機械学習などに応用されている。

無料で閲覧・学習できるマテリアルを集めた。

「情報幾何」を学ぶための資料

情報幾何の基礎となる考え方：

情報幾何学　甘利俊一
http://ci.nii.ac.jp/els/110007390345....

本家。オープンアクセスから論文PDFを読める。１９９２年「応用数理」より。

引用：「情報要素の一つ一つを分離して考えるのではなく，つながった全体つまり多様体として考えてそこに豊かな構造を導入すれば，情報の分野に新しい方法論を提供できるに違いない．これが情報幾何学の目指すところである」

情報幾何入門
http://www.eb.waseda.ac.jp/murata/nob...

６ページ。早稲田大の村田昇先生の解説論文。

引用：「情報幾何は確率分布の空間が持つ幾何学的な構造に基づいて，推定・検定・学習などの仕組みを解析する一つの方法論である．本稿では微分幾何的な記述を用いずに，ダイバージェンスにおけるピタゴラスの定理を用いて，基本的な考え方を解説する．」

学習に役立つ資料：

情報幾何の基礎的スタディ
http://ds9.jaist.ac.jp:8080/ResearchD...

Webページの形式で閲覧できる。

　1．情報幾何とその周辺
　2．情報幾何の基礎知識
　3．ニューラルネットと情報幾何
　４．ＥＭアルゴリズム

幾何を使った統計のはなし
http://www.slideshare.net/motivic/ss-...

motivic氏による５４ページのスライド。

　情報幾何のはなし
　　情報幾何って何？
　　検定への応用
　　最尤法を「見る」
　　EMアルゴリズムを「見る」
　　応用：マルチスケール・ブートストラップ
　代数統計のはなし
　　代数統計って何？
　　２×２分割表における代数幾何
　　一般学習モデルへの応用

情報幾何の基礎概念
http://www.sci.osaka-cu.ac.jp/~ohnita...

電通大の長岡浩司先生。２６ページ。大阪市立大学・数学研究所のミニスクールでの資料

情報幾何学と統計多様体の幾何学
http://www.math.okayama-u.ac.jp/~kawa...

松添博先生による４８ページのスライド。内容は英語。

　0　簡単な問題設定
　I　統計モデル
　II　統計的推論
　III　ベイズ推論
　IV　統計多様体と等積構造
　V　不可積分系のダイバージェンス

機械学習への応用：

情報幾何と機械学習
https://staff.aist.go.jp/s.akaho/pape...

産業総合研究所の赤穂昭太郎先生による「計測と制御」の記事。８ページ。機械学習を幾何的に説明するとどのようになるか。

　1.はじめに：なぜ情報幾何なのか
　2.情報幾何とは何か
　3.機械学習の情報幾何

Boosting Algorithmの情報幾何
http://gcoe-mi.jp/english/temp/publis...

早稲田大学の村田昇先生による。１０ページ。

引用：「本稿では，boostingアルゴリズムを統計的に定式化し，そのアルゴリズムの背後にある幾何学的構造を明らかにすることを目的とする．判別問題の学習を，Bregman divergenceを擬距離関数として用いた条件付測度の空間における推定問題として捉え，アルゴリズムの意味を情報幾何的な観点から考察することを試みる」

情報幾何と統計的パタン認識
https://www.jstage.jst.go.jp/article/...

２０ページ。

引用：「この論説では人工知能の分野の学習理論の方向から新しいパタン認識の方法として提案されたブースティングアルゴリズムに焦点を絞り,情報幾何による数理的考察を紹介する」

その他の研究：

「内点法と情報幾何 - 計算の複雑さへの微分幾何学的アプローチ」
http://www.ism.ac.jp/~tsuchiya/papers...

統計数理研究所の土谷隆先生と，大阪大の小原敦美先生による論文。６ページ，２００８年。

引用：「本稿では，計算と数理に関連した凸性にまつわる一つの話題として，情報幾何と凸最適化のためのアルゴリズムである内点法の関係についての筆者らの研究を紹介する。研究の目的は，情報処理の複雑さである「計算複雑度」と図形の複雑さである「微分幾何学的曲率」とを定量的に結びつけることである。これにより，情報科学と数学が新たな角度からの接点を見出すことが期待される。」

正定値対称行列上の情報幾何とそのいくつかの応用
http://www3.grips.ac.jp/~tsuchiya/PSD...

福井大の小原敦美先生による４８ページのスライド。

動画で学ぶ：

清研究室情報幾何学などの様々な側面を持つ統計学の発展に向けて - YouTube
https://www.youtube.com/watch?v=JPcv5...

2012/09/25 に公開, by keiouniversity

甘利先生講義１（午前冒頭）情報幾何学講義　【チャンネルA】
http://www.ustream.tv/channel/ssc-a