ぎょーむ日誌 2014-06-19

2014 年 06 月 19 日 (木)

• 一度おきて， 0600 起床． 朝飯・とらめし・弁当の準備． とら坊がおきてきた …… お， ペイパークラフトのバスが気にいったようだね． 当方が予測してたより， 速い速度で「ぼろぼろ」にされているよーな気もするけれど ……
• とらめし． 朝飯． コーヒー． 0810 自宅発． 0820 保育所着． 0850 研究室着．
• ぢりぢり ……
• 昼飯たべながら， 統数研の 「教員有志による大学院勧誘＆研究紹介」 みてなごんだ ……
• 午後もぐだぐだ …… なぜか生成 (generative)・識別 (discriminate) モデルな勉強もすることに ……
• 「生成モデルと識別モデル」って以前からなんじゃらほい，予測可能性のこと? などと疑問だったんだけど， ibisforest.org/index.php?%E7%… ここで説明されてるベイズ統計モデルをみて，「あ，なるほど」とゆー気分になりました．予測とはとくに何も関係なさそう……   13:53:06
• RT @hillbig : 質問であった生成モデルと識別モデルの比較については以下の論文などが参考になるかと思います。 www.cs.berkeley.edu/~jordan/papers… cs.stanford.edu/~pliang/papers… #pfiseminar   13:55:45
• RT @hillbig : 実施の現象とモデルが一致していれば、生成モデルの方がリスクは少なくなり、モデルが不一致であれば、識別モデルの方がリスクが少なくなります。全ての現象が説明できてモデルが分かるのであれば生成モデル、分からないのであれば識別モデルでしょうか#pfiseminar   13:55:48
• すると伊庭さんからこのようなコメントをいただいたので ……
• RT @ibaibabaibai : 予測には関係ないというけど、久保さんの好きなシミュレーションには関係あるよね 割と自立してシミュレーションできるのが生成モデル   16:23:52
• ちょっと勉強してみた ……
• 「割と自立してシミュレーションできるのが生成モデル」という @ibaibabaibai さんのご指摘から，識別モデルとのちがいを考えなおしてみる…   17:00:52
• スジがよくないかもしれないけど，Wikipedia の生成モデル en.wikipedia.org/wiki/Generativ… と識別モデル en.wikipedia.org/wiki/Discrimin… にあげられている例をみながら，両者のちがいを考えてみようかな…   17:03:52
• ibisforest.org/index.php?%E7%… をみたときに，「あ，識別モデルってlogistic回帰のたぐいか」と思ったわけだが，この統計モデルの場合，パラメーターの値を全て与えても，識別のための変数 (GLM 的には説明変数) の分布は決まらない．これが識別モデルの特徴かな?   17:09:35
• en.wikipedia.org/wiki/Discrimin… にあげられている他の例，線形判別 (軸を決めてるだけ) ，SVM，直線回帰，ニューラルネット…いずれも特徴付けのデータ (説明変数など) の分布がどうなるかは決めていない．   17:13:28
• 一方，生成モデル en.wikipedia.org/wiki/Generativ… の例としてあげられている混合分布モデル・隠れマルコフモデルなどは統計モデルのパラメーターの値を決めれば，「クラス分けの参考につかうデータ」を生成することができる…といった理解，いちおうこれで矛盾はないはずだけど．   17:18:00
• もちろん，ゐきぺでぃあにしろ PRML にしろ，このあたりは同時確率分布・条件付き確率分布といったコトバできちんと説明されていますが，久保的な例示説明をこころみてみました．しかし Wikipedia は簡潔でいいですね……厳密じゃないかもしれないけれど．   17:23:08
• さて，これから徒歩にて保育所へ急行……   17:23:49
• 1720 研究室発． 買いもの． 保育所でとら回収． 1750 帰宅． 晩飯．
• 生成または識別モデルについて，
  • RT @ibaibabaibai : @KuboBook これとか ベイズ統計の流行の背後にあるもの ci.nii.ac.jp/naid/110004851…   20:54:57
  翌日になってこの文献ダウンロードしたけど (CiNii PDF なので大学に支払ってもらうため)， たしかに， 上記の私の説明よりきちんとしてるだけでなく， よりわかりやすいものでした．
• 神島さんからも おもしろい議論を紹介していただきました． 上記の伊庭さん論文を読むと， 内容がよりわかりやすくなります．
  • RT @shima__shima : . @KuboBook @hillbig Minkaさんのレポートがきっかけで起こった濃ゆい論争 ishiilab.jp/member/oba/bay…   20:56:56
• [今日の運動]
  • とらちゃんえくささいず．
• [今日の食卓]
  • 朝 (0630): にぎり飯 (小)．
  • 昼 (1200): 研究室． 米 0.7 合． ミニトマト．
  • 晩 (1900): 米 0.7 合． 豆腐の味噌汁． 野菜・豚肉の炒めもの．