ぎょーむ日誌 2004-12-31

2004 年 12 月 31 日 (金)

• 0730 起床． 朝飯． コーヒー． 0920 自宅発． 晴． 0930 研究室着．
• BIC 「ふつー定義」調査のつづき． もし， ものごとが多数決で決まるなら

  BIC = -2 × (最大化対数尤度) + (パラメーター数) × log(標本数)

  が「ふつー」である， と言っても良さそうだ (e.g. R の lme4 や nlme に含まれる BIC() の定義，あるいは多くの教科書)． ところで Ripley 御大の著書 ``Pattern recoginition and neural networks'' の glossary には

  BIC has two similar meanings. Akaike (1977, 1978) introduced `information criterion B'. Schwarz (1978) introduced something which has become konwn as a `Bayesian information criterion'. Although most references mean Schwarz's BIC, to avoid confusion this is also know as SBC (`Schwarz Bayes Criterion'). Both penalize the deviance by log n times the number of p of free parameters for n examples, but Akaike's has O(p) terms not depending on n.

  などとある． Schwarz's BIC は deviance と p log n なる本質さえおさえていれば形式は何でもヨシなのかもしれぬ． ``Akaike (1977, 1978)'' は入手困難な文献で， 何が書いてあったか不明．
• BIC のマイナー (?) な定義， つまり Schwarz (1978) の (まだ BIC と呼ばれてなかった) 規準 そのまま

  BIC = (最大化対数尤度) - 0.5 × (パラメーター数) × log(標本数)

  を掲載している教科書の例として， ``Learning Bayesian Networks'' (Neapolitan, 2004)， あるいは ``分子系統学'' (長谷川 & 岸野, 1996) など (後者は 霜月 さんにご教示いただいた)．
• とまあ， こういう現状なので， 「ここで用いる BIC の定義は○○であり， これを [最大 | 最小] 化するモデルを選択する」 と明記しておけば何でも OK なんかねえ …… AIC と BIC を「比較」してみたければ ふつー定義のほうがぜんぜん便利だし， 比較なんぞ意味ナシで Schwarz (1978) の最初の定義だけが唯一無二のものだ と考えるならまいなー定義つかうしかない．
• 蛇足ながら Rissanen (1989) の MDL (minimum description length; 最小記述長) 基準 なるものがあり (「基準」 (standard? index?) と「規準」 (criterion?) の使いわけのきじゅんがわからん)，

  MDL = - (最大化対数尤度) + 0.5 × (パラメーター数) × log(標本数)

  これは Schwarz's BIC と同等である．
• もひとつ蛇足で， ややこしいことに Akaike (1980) 提唱による ABIC (Akaike's Bayesian Information Criterion) なるものまである． これは階層ベイズモデル (ここでは経験ベイズモデルだけを考慮してる?) の最大化対数周辺尤度と超パラメーター (hyper parameter) の個数できまる規準である …… うーむ， 苫小牧直径成長モデルのモデル選択規準は現在のままで OK， ということだと理解してよいのだろうか?
• お， なぜか A 棟のスチーム暖房が稼働している．
• なんつーか， いやいやながらというようなまいんどせっとで， ぱいぷ樹木原稿のなおしにとりくみはじめる． 難しくはないけれど， めんどうだ．
• 昼飯． そのへんに誰かいるよーないないよーな．
• 夜までかかって， ぱいぷ樹木「水まわり」の補足説明かき． つまりは， C++ で長々と書かれてるのを (てきとーに省略しつつ) 敵国語にすればいいだけのことで．
• 1920 研究室発． くそう， ひさしぶりに札幌駅周辺の本屋でも， と思ったけど今日は早じまいか． 2000 帰宅． 体重 73.8kg． 運動． 晩飯．
• [今日の運動]
  • エアロバイク 45 分間．
  • 腹筋運動 30 × 3 回． 腕立ふせ 5 × 3 回．
• [今日の食卓]
  • 朝 (0800): 米麦 0.7 合． キャベツ・ブナシメジ・コンニャク・油揚・煮干の味噌汁．
  • 昼 (1310): 研究室お茶部屋． 米麦 0.7 合． キャベツ・ブナシメジ・コンニャク・油揚・煮干の味噌汁．
  • 晩 (2300): 米麦 0.7 合． キャベツ・ブナシメジ・コンニャク・豆腐・油揚・煮干 の味噌雑炊．