CoverAndThomas
Relative Entropyとも言う。CoverAndThomasの2.26に定義がある。
関連する計算などはElements of Information Theoryの一章、二章 - なーんだ、ただの水たまりじゃないかにある。
クロスエントロピー