非平均互信息量的性質 _生活經驗

【非平均互信息量的性質】

文章插圖
非平均互信息量具有非負性。兩個離散事件的互信息量可正可負，但兩個集合的平均互信息量為非負，需要注意統計平均帶來的差異，而且平均互信息量等于零時正好對應兩個集合互相獨立，表明平均互信息量是相關性的一種度量。