読者です 読者をやめる 読者になる 読者になる
スポンサーリンク

「情報幾何」に入門するための資料PDF。解説論文と機械学習への応用の紹介

数学 統計学 講義ノート リンク集 幾何学


日本から発信された数理的手法である情報幾何を学ぶための資料。

機械学習などに応用されている。


情報幾何の基礎となる考え方:

情報幾何学 甘利俊一
http://ci.nii.ac.jp/els/110007390345....

  • 本家。オープンアクセスから論文PDFを読める。1992年「応用数理」より。
  • 引用:「情報要素の一つ一つを分離して考えるのではなく,つながった全体つまり多様体として考えてそこに豊かな構造を導入すれば,情報の分野に新しい方法論を提供できるに違いない.これが情報幾何学の目指すところである」


情報幾何入門
http://www.eb.waseda.ac.jp/murata/nob...

  • 6ページ。早稲田大の村田 昇先生の解説論文。
  • 引用:「情報幾何は確率分布の空間が持つ幾何学的な構造に基づいて,推定・検定・学習などの仕組みを解析する一つの方法論である.本稿では微分幾何的な記述を用いずに,ダイバージェンスにおけるピタゴラスの定理を用いて,基本的な考え方を解説する.」


学習に役立つ資料:

情報幾何の基礎的スタディ
http://ds9.jaist.ac.jp:8080/ResearchD...

  • Webページの形式で閲覧できる。

 1.情報幾何とその周辺
 2.情報幾何の基礎知識
 3.ニューラルネットと情報幾何
 4.EMアルゴリズム


幾何を使った統計のはなし
http://www.slideshare.net/motivic/ss-...

  • motivic氏による54ページのスライド。

 情報幾何のはなし
  情報幾何って何?
  検定への応用
  最尤法を「見る」
  EMアルゴリズムを「見る」
  応用:マルチスケール・ブートストラップ
 代数統計のはなし
  代数統計って何?
  2×2分割表における代数幾何
  一般学習モデルへの応用


情報幾何の基礎概念
http://www.sci.osaka-cu.ac.jp/~ohnita...

  • 電通大の長岡浩司先生。26ページ。大阪市立大学・数学研究所のミニスクールでの資料


情報幾何学と統計多様体の幾何学
http://www.math.okayama-u.ac.jp/~kawa...

  • 松添博先生による48ページのスライド。内容は英語。

 0 簡単な問題設定
 I 統計モデル
 II 統計的推論
 III ベイズ推論
 IV 統計多様体と等積構造
 V 不可積分系のダイバージェンス


機械学習への応用:

情報幾何と機械学習
https://staff.aist.go.jp/s.akaho/pape...

  • 産業総合研究所の赤穂昭太郎先生による「計測と制御」の記事。8ページ。機械学習を幾何的に説明するとどのようになるか。

 1.はじめに:なぜ情報幾何なのか
 2.情報幾何とは何か
 3.機械学習の情報幾何


Boosting Algorithmの情報幾何
http://gcoe-mi.jp/english/temp/publis...

  • 早稲田大学の村田昇先生による。10ページ。
  • 引用:「本稿では,boostingアルゴリズムを統計的に定式化し,そのアルゴリズムの背後にある幾何学的構造を明らかにすることを目的とする.判別問題の学習を,Bregman divergenceを擬距離関数として用いた条件付測度の空間における推定問題として捉え,アルゴリズムの意味を情報幾何的な観点から考察することを試みる」


情報幾何と統計的パタン認識
https://www.jstage.jst.go.jp/article/...

  • 20ページ。
  • 引用:「この論説では人工知能の分野の学習理論の方向から新しいパタン認識の方法として提案されたブースティングアルゴリズムに焦点を絞り,情報幾何による数理的考察を紹介する」


その他の研究:

「内点法と情報幾何 - 計算の複雑さへの微分幾何学的アプローチ」
http://www.ism.ac.jp/~tsuchiya/papers...

  • 統計数理研究所の土谷隆先生と,大阪大の小原敦美先生による論文。6ページ,2008年。
  • 引用:「本稿では,計算と数理に関連した凸性にまつわる一つの話題として,情報幾何と凸最適化のためのアルゴリズムである内点法の関係についての筆者らの研究を紹介する。研究の目的は,情報処理の複雑さである「計算複雑度」と図形の複雑さである「微分幾何学的曲率」とを定量的に結びつけることである。これにより,情報科学と数学が新たな角度からの接点を見出すことが期待される。」


正定値対称行列上の情報幾何と そのいくつかの応用
http://www3.grips.ac.jp/~tsuchiya/PSD...

  • 福井大の小原敦美先生による48ページのスライド。


動画で学ぶ:

清研究室 情報幾何学などの様々な側面を持つ統計学の発展に向けて - YouTube
https://www.youtube.com/watch?v=JPcv5...

  • 2012/09/25 に公開, by keiouniversity


甘利先生講義1(午前冒頭)情報幾何学講義 【チャンネルA】
http://www.ustream.tv/channel/ssc-a

関連する記事:

多様体上の「積分幾何学」の,入門用講義ノートPDF。幾何学的な確率論への応用を学習
http://language-and-engineering.hatenablog.jp/entry/20140520/IntegralGeometry...


「関数解析学」の講義ノートPDF (Functional Analysis) 入門用の教科書
http://language-and-engineering.hatenablog.jp/entry/20140616/FunctionalAnalys...


「ルベーグ積分」の講義ノートPDF。測度論と確率論の入門(演習問題と解答付き)
http://language-and-engineering.hatenablog.jp/entry/20140510/LebesgueIntegral...


現代数学の最重要な関数,「リーマン・ゼータ関数」の教科書PDF。素数定理・リーマン予想を勉強するノート
http://language-and-engineering.hatenablog.jp/entry/20140529/ZetaFunctionPDFL...