「机の上のエントロピー」を計算する

左のテーブル

　[ ○　○'　○”　□　□'　□" △　△'　△" ]

　エントロピー（平均情報量）Ｈは、３．１

右のテーブル

　似たものを輪ゴムでくくって、１つのグループにした。

　○　○'　○”　→ ○"'

　□　□'　□"　→ □"'

　△　△'　△"　→ △"'

　[ ○"' □"' △"' ]

　エントロピー（平均情報量）Ｈは、１．５に減少した。

※ここでは、エントロピーの式中のlogの底を２として計算している。