一阶马氏源X的符号集为{0,1,2}。转移概率如图3.5所示，求:(1)平稳后信源的概率分布;(2)信源的熵

一个一阶马氏源的状态转移图如图3.7所示，信源符号集为(0，1，2);求:

(1)信源的平稳分布;

(2)信源的符号熵:

(3)当p为何值时，信源的符号熵达到最大值？当p=0或1时，结果如何？

(4)如果将信源看成无记忆的且以平稳分布为概率分布，求信源的熵。

一阶马尔可夫信源的状态图如题2.13图所示。信源X的符号集为{0, 1,2}。

(1)求平稳后信源的概率分布:

(2)求信源的熵H∞。

下面为3个一阶平稳马氏链的转移概率矩阵:

其中，第3个矩阵中，每一行为前一行的左循环移位。

(1)求每个马氏链的平稳概率分布。

(2)求每个马氏源的熵。

19．设某离散平稳信源X，概率空间为

并设信源发出的符号只与前一个相邻符号有关，其联合概率为p(a_ia_j)如下表所示。

求信源的信息熵、条件熵与联合熵，并比较信息熵与条件熵的大小。

(1) 求联合熵H(X₁X₂X₃)和平均符号熵H3(X₁X₂X₃)。

(2)求此马氏链的符号熵。

一个信源的状态转移图如图3.8所示。

(1)该信源是否有平稳分布？

(2)如果在每个状态都按图中所示的路径进行等概率状态转移，设初始状态为a,

②由信源所产生的500个符号的熵是多少？

出现概率P(0)=0.7。

(1)假设图上黑白消息出现前后没有关联，求熵H(X)。:

(2)假设消息前后有关联，其依赖关系为P(白)=0.9，P(黑|白)=0.1,P(白|黑)=0.2，P(黑|黑)=0.8，求此一阶马氏源的熵H2。

(3) 分别求上述两种信源的剩余度，并比较H(X)和H2的大小，并说明其物理意义。

8．设m阶马尔可夫信源S，其符号集A={x₁，x₂，…x_q}，又设p₁，p₂，…，p_q为其平稳后的一维概率分布，现定义一无记忆信源，它的符号集也是A={x₁，x₂，…，x_q}，又其符号概率分布等于m阶马尔可夫信源S平稳后的一维概率分布，称信源为m阶马尔可夫信源的伴随信源，试证明。