設(shè)二元對稱信道的輸入概率分布分別為
求信道的輸入熵,輸出熵,平均互信息量; 求信道容量和最佳輸入分布; 求信道剩余度。
設(shè)隨機(jī)變量
計算熵H(X),H(Y),H(Z),H(XZ),H(YZ),以及H(XYZ); 計算條件熵 H(X|Y),H(Y|X),H(X|Z),H(Z|X),H(Y|Z),H(Z|Y),H(X|YZ),H(Y|XZ)以及H(Z|XY); 計算平均互信息量I(X;Y),I(X:Z),I(Y:Z),I(X;Y|Z),I(Y;Z|X)以及I(X:,Z|Y)