如信源发出由m个“0”和（100-m）个“1”构成的序列，序列的自信息量为
mlog28?(100?m)log2(7/8)比特/符号。
4．离散对称信道输入等概率时，输出为 等概 分布。
5．根据码字所含的码元的个数，编码可分为 定长 编码和 变长 编码。
u2u3u4u5u6??U??u16．设DMS为???.??，用二元符号表
P0.370.250.180.100.070.03?U???X?{x1?0,x2?1}对其进行定长编码，若所编的码为{000，001，010，011，100，101}，
则编码器输出码元的一维概率P(x1)? 0.747 , P(x2)? 0.253 。
?1/21/31/6???４． 设有ＤＭＣ，其转移矩阵为?PY|X??1/61/21/3，若信道输入概率为????1/31/61/2???PX???0.50.250.25?，试确定最佳译码规则和极大似然译码规则，并计算出相应
的平均差错率。
?1/41/61/12???解：[PXY]?1/241/81/12 ????1/121/241/8??
?F(b1)?a1?最佳译码规则：?F(b2)?a1，平均差错率为1-1/4-1/6-1/8=11/24；
?F(b)?a33??F(b1)?a1?极大似然规则：?F(b2)?a2，平均差错率为1-1/4-1/8-1/8=1/2
?F(b)?a33?1． 信息的基本概念在于它的 不确定性 。
2． 按照信源发出的消息在时间和幅度上的分布情况，可将信源分成 离散 信源和 连续 信源两大类。
3． 一个随机事件的 自信息量 定义为其出现概率对数的负值。 4． 按树图法构成的码一定满足 即时码 的定义。 5． 有扰离散信道编码定理 称为香农第二极限定理。
6． 纠错码的检、纠错能力是指 检测、纠正错误码元的数目 。 7． 信道一般指传输信息的物理媒介，分为 有线 信道和 无线 信道。 8． 信源编码的主要目的是 提高通信系统的有效性 。
得分 评卷人
二、选择题（共10 分，每题2分）
1. 给定xi条件下随机事件yj所包含的不确定度和条件自信息量p(yj /xi)，（D）
A．数量上不等，单位不同 C．数量上相等，单位不同 2. 条件熵和无条件熵的关系是：
A．H(Y/X)＜H(Y) C．H(Y/X)≤H(Y) 3. 根据树图法构成规则，
A．在树根上安排码字 C．在中间节点上安排码字 4. 下列说法正确的是：
A．奇异码是唯一可译码 C．非奇异码不一定是唯一可译码 5. 下面哪一项不属于熵的性质：
A．非负性 C．对称性
得分 评卷人 三、名词解释（共15 分，每题5分）
1. 奇异码
包含相同的码字的码称为奇异码。
2. 码距
两个等长码字之间对应码元不相同的数目，称为码距。
3. 输出对称矩阵
转移概率矩阵的每一列都是第一列的置换（包含同样元素），则该矩阵称为输出对称矩阵。 三、简答题（共20 分，每题10分）
得分 评卷人
1. 简述信息的特征。
B．数量上不等，单位相同 D．数量上相等，单位相同
（C）
B．H(Y/X)＞H(Y) D．H(Y/X)≥H(Y)
（D）
B．在树枝上安排码字 D．在终端节点上安排码字
（C）
B．非奇异码是唯一可译码 D．非奇异码不是唯一可译码
（B）
B．完备性 D．确定性
答：信息的基本概念在于它的不确定性，任何已确定的事物都不含信息。 接收者在收到信息之前，对它的内容是不知道的，所以信息是新知识、新内容。 信息是能使认识主体对某一事物的未知性或不确定性减少的有用知识。 信息可以产生，也可以消失，同时信息可以被携带、贮存及处理。 信息是可以量度的，信息量有多少的差别。
2. 简单介绍哈夫曼编码的步骤。
① 将信源消息符号按其出现的概率大小依次排列 p(x1)≥p(x2)≥…≥ p(xn)
② 取两个概率最小的符号分别配以0和1，并将这两个概率相加作为一个新符号的概率，
与未分配码元的符号重新排队。
③ 对重排后的两个概率最小符号重复步骤2的过程。 ④ 继续上述过程，直到最后两个符号配以0和1为止。
⑤ 从最后一级开始，向前返回得到各个信源符号所对应的码元序列，即相应的码字。
得分 评卷人
1. 设有一个二进制一阶马尔可夫信源，其信源符号为X∈(0,1)，条件概率为
p(0/0)= p(1/0)=0.5 p(1/1)=0.25 p(0/1)=0.75 画出状态图并求出各符号稳态概率。（15分）
四、计算题（共35 分）
0.5 0.5 0.25
0
0.75 1
?W0?0.5W0?0.75W1 ?W?W?11?0W0?0.6 W1?0.4
2. 设输入符号与输出符号为X＝Y∈{0,1,2,3}，且输入符号等概率分布。设失真函数为汉
明失真。求Dmax和Dmin及R(Dmax)和R(Dmin)（20分） 解：p?x0??p?x1??p?x2??p?x3??1 4?0?1D???1??1111?011?? 101??110?失真矩阵的每一行都有0，因此Dmin=0
R?Dmin??R?0??H?X??log24?2bit/符号
11?1?3Dmax?min?p(xi)d(xi,yj)????1?1?1?,??1?1?1?,??1?1?1???j44?4?4 i?0R?Dmax??0
一、填空题
1. 设信源X包含4个不同离散消息，当且仅当X中各个消息出现的概率为___1/4___时，
信源熵达到最大值，为__2__，此时各个消息的自信息量为__2 __。
2.如某线性分组码的最小汉明距dmin=4，则该码最多能检测出___3____个随机错，最多能 纠正__1____个随机错。
3.克劳夫特不等式是唯一可译码___存在___的充要条件。
4.平均互信息量I(X;Y)与信源熵和条件熵之间的关系是___(X;Y)=H(X)-H(X/Y)___。 5._信源___提高通信的有效性，_信道____目的是提高通信的可靠性，_加密__编码的目的是保证通信的安全性。
6.信源编码的目的是提高通信的 有效性 ，信道编码的目的是提高通信的 可靠性 ，加密编码的目的是保证通信的 安全性 。
7.设信源X包含8个不同离散消息，当且仅当X中各个消息出现的概率为__1/8__时，信 源熵达到最大值，为___3____。
3
