直感的な意味合いとしては, ある確率分布 X を (この問題の場合) 正規分布の代替物として使った場合, どれぐれらいの情報量が損なわれるか, をあらわしたのが KL-divergence (distance) です.と回答してみた (この場合は,あえて正規分布などと書いているけれど, KL-divergence はどんな確率分布にも適用可能), するとまた質問者の原嘉隆さん (九州沖縄農研・土壌) から「情報量ってなんでしょう」 という私信いただいた. こう, 質問されてる内容は 私がちゃんとよく理解してない領域に徐々に近づきつつあるわけだが …… このような説明を書いてみた.