ぎょーむ日誌 2014-06-12
2014 年 06 月 12 日 (木)
-
0600 起床.
朝飯・とらめし・弁当の準備.
ささっと朝飯.
とら坊がおきてきたので,
とらめし.
コーヒー.
0810 自宅発.
0820 保育所着.
0850 研究室着.
-
どうも Twitter にかまけてしまった
……
-
RT
@monotropastrum
: 『BDA 12.4 “Hamiltonian Monte Carlo”のメモ』Taglibro de H|
ito-hi.blog.so-net.ne.jp/2014-06-12
09:42:58
-
RT
@datasci_blogs
: 【
@DataSci
】 stanで階層ベイズ(空間構造を入れる): せっかくstanをやるなら階層ベイズやろうぜってことで,サンプルコードを公開します. モデル式は最近みどりぼんで大人気のポアソン回帰に空間構造を入れたもの...
bit.ly/1lbUmq5
10:25:28
-
RT
@datasci_blogs
: 【餡子付゛録】 [R言語]C言語を使ったRの拡張でライフゲームを作ってみる: わざわざC言語で書くほどのものではなく、単に行列の受渡しを確認しただけですが、Rの中で使えるライフゲームを作ってみたので公開します。 以下のソ...
bit.ly/1pHcSHD
10:25:35
-
みなさん,Conway のライフゲイム (CLG) お好きなようで…CRAN にいくつか CLG pacakge があり,たとえば library(simecol) で example(conway) とか.R による簡単な一実装例は
bmscblog.wordpress.com/2013/05/17/mod…
10:50:12
-
RT
@ibaibabaibai
: 樺島さんが符号とかはじめる前、まだLASSOとか流行ってない頃だったと思うが、重回帰にL2罰金の汎化をレプリカで計算したのをやってたのでL1の場合をやってみるように勧めた。
11:02:05
-
RT
@ibaibabaibai
: するとびっくり、期待対数尤度の値は「ゼロにならず残っているパラメータ数」を使って出したAICの値そのもの。
11:02:36
-
RT
@ibaibabaibai
: これを当たり前というなかれ。重回帰で変数選択を総当たり的に計算して最小AICを取ったら、期待対数尤度はAICにはならない。多重性があるから(複数のカイ2乗分布の最小値になるから) モデルの数が多すぎる(次数があがると「指数的に増える」)ときにはAICはいかんのですね。
11:03:01
-
RT
@ibaibabaibai
: で、今日聞いた話だと、Efronが2004年とかの論文で線形モデルについて同様の結果を導いてCAICと称したとのこと。 やっぱり本当だったのね。
11:04:10
-
RT
@ibaibabaibai
: 前にも書いたけど、モデルの数が次数に対して指数爆発する場合のモデル選択については、ブートストラップを使って補正項を出す話が北川先生の「情報量規準」(朝倉)のEICのところに、ネスト?した交差検証みたいなのの解説が丹後先生の「統計モデリング入門」のどっかにあります。
11:06:07
-
RT
@ibaibabaibai
: STANなどのハミルトニアンモンテカルロは 1)勢いをつけてランダムウォークを抑制 2)局所的にアフィン・インバリアント(Riemannian adaptation )、の双方の面があるが、本来これらは別系統のアイディアで、2)からすれば1)は実現の手段。
11:06:44
-
RT
@ibaibabaibai
: 2)は最急降下法とニュートン法の違いみたいなものだが、a) MCMCは最適化でないのでステップ数が進んでも局所的にならない b) シンプレクティックになるようにするのに技巧がいる(らしい) c) 高次元では計算量が増えるので元々重いMCMCではつらい などの問題点がありそう。 11:07:02
-
"多重性があるから(複数のカイ2乗分布の最小値になるから)モデルの数が多すぎる(次数があがると「指数的に増える」)ときにはAICはいかんのですね" とゆー
@ibaibabaibai
さんのご指摘みて,「あ!」とおどろいた……少しは理解が進んだのかもしれない……いまさらながら……
11:21:08
-
すみません……多数の説明変数のせいで生成される莫大な個数の「可能な統計モデル」全部をAICで比較するのは,感覚的にもマズそう&数値実験で示せるとわかっていたのですが…今回のご指摘を読むまで,その理由を簡潔に説明できませんでした…われながら,なんともはや…
@ibaibabaibai
11:42:43
-
RT
@ibaibabaibai
: 「複数のカイ2乗分布の最小値の分布」ってのは北川「情報量規準」(21世紀に出たほう)の片隅に1行出てる言い方だが、印象的かも。
12:03:54
-
これって log normal じゃなくて log linear ですなあ……いつものことながら,いまさら気づいた.うーむ,アタマがおかしくなっている……
13:12:00
-
アタマおかしいといえば…今朝,保育所でとら坊の着替え出して収納しようとしたら,
自分のパンツが山ほどでてきたので「もうダメだ!」と絶望した
…さいわいにも,とら着替えもちゃんと持ってきていたのだけど…育児ばてとは,ときとしてPTSDのごとき様相にまで亢進してしまうものなのだろうか…?
13:18:19
-
RT
@ibaibabaibai
: 「モデル選択という行為自体がモデル選択におけるバイアスの原因になる」っていうのは一寸難解。でもモデルたちをハイパーモデル?に埋め込んで、モデルを決めるビット(離散ラベル)をパラメータと思えば、そのフィットが期待対数尤度のバイアス(および汎化能力の低下)をもたらすのは不思議じゃない
13:40:28
-
"モデルを決めるビット(離散ラベル)をパラメータと思えば"……なるほど! こういう発想が自分のアタマから,まったく出てこない……と,これまた,いまさら気づく今日このごろ.
13:51:11
-
@ibaibabaibai
まー,いずれにせよ,何かべつものであるにせよ,海馬とやらが萎縮しつつあるような気分にひたる今日このごろです……
14:12:55
-
RT
@jnchito
: QiitaにVim記事第2弾を投稿しました。Vimに関しては僕に教えられることはもう何もない・・・。/脱初心者を目指すなら知っておきたい便利なVimコマンド20選 (Vimmerレベル診断付き)
qiita.com/jnchito/items/…
14:24:57
-
RT
@jnchito
: 自分は絶対プラグインなんかに頼らないぞ!!なんていう、つまらない意地は張らない方がいいですよ!あ、そんなこと考えてたのは僕だけか。/脱初心者を目指すVimmerにオススメしたいVimプラグインや.vimrcの設定
qiita.com/jnchito/items/…
14:25:31
-
RT
@riet911
: PHD Movieが無料で見れる!未見の方(特に院生経験ある人!)はぜひー RT
@phdcomics
has a Kickstarter campaign to fund a sequel to The PHD Movie
kck.st/1nKsuML
15:14:27
-
1720 研究室発.
保育所でとら回収.
1750 帰宅.
とらめし・晩飯の準備.
とらめし.
-
とらねかしつけ.
-
晩飯.
-
[今日の運動]
-
[今日の食卓]
- 朝 (0630):
にぎり飯 (小).
- 昼 (1200):
研究室.
米 0.7 合.
鶏肉.
ミニトマト.
- 晩 (2100):
米 0.7 合.
豆腐の味噌汁.
大丸地下のおそうざい.