信息论与编码试卷H
一 填空题(本题15空,每空1分,共15分)
1 互信息量I(x;y)被定义为( )和( )两个不确定度之差,是不确定度被消ij
除的部分,即从y得到的关于( )的信息量。 j
2 最大后验概率译码指的是( )。在()时,最大后验概率译码即为最大似然
译码。BSC信道的最大似然译码即为( )。
3 信息传输率的定义为(),经信源编码后,信源符号变成了码元符号进入信道
传输,此时信息传输率指的是();信息传输速率被定义为(),单位为bit/s。 4 若同时抛掷一对色子,设每个色子各面朝上出现的概率均为1/6,则“2和6同时
出现”这一事件的自信息量为()bit,“两个点数中至少有一个1”这一事件的
自信息量为()bit,“两个3同时出现”这一事件的自信息量为( )bit。 5 常用的差错控制方法有()、( )和混合纠错。
6 码距与检、纠错能力之间的关系是( )。
二 判断题(本题10小题,每小题1分,共10分)
(1) 完备码是一种监督位得到充分利用的码。( )
(2) (n,k)线性分组码的最小汉明距离d?n-k。 ( ) min
(4) 任意线性分组码中必包含全0码字。()
(5) 码字集合{1,01,000,0010,0011}是唯一可译码。() (6) 信息率失真函数R(D)的值域为[0,H(X)]。()
(7) K-L变换是按均方误差最小准则来计算的一种非正交变换。() (8) 信源的不确定度具有可加性。()
(9) 任一非系统码的生成矩阵都可以通过行运算转变成系统形式,结果是映射规则不变,码集发生线性变化。()
(10)非平稳有记忆随机序列实际信源,其极限熵是不存在的;解决方法是假设其为离散平稳随机序列信源,极限熵存在。 ( )
三 名词解释(本题4小题,每小题5分,共20分)
1 全损信道
2 随机错误
3 变换编码
4 非奇异码
四 计算题(本题3小题,共25分)
1. 已知一个信源包含8个符号消息,它们的概率分布如下表:
A B C D E F G H
0.1 0.18 0.4 0.05 0.06 0.1 0.07 0.04 1)设信源每秒钟内发出一个符号,求该信源的熵及信息传输速率; 2)对这8个符号作二进制码元的哈夫曼编码,并计算编码效率。 (4+4=8分)
5422 一组CRC循环冗余校验码,其生成多项式为(X+X+X+1)。假设发送段发
送的信息帧中所包含的信息是(1010001101)。试求附加在信息位后的CRC校验
码。(6分)
五 综合题(本题3小题,共30分)
222 一个(3,1,2)卷积码,G(D)=(1+D,1+D+D,1+D),试: 1)画出该码的编码器框图;
2)求该卷积码的状态图;
3)求该码的自由距离d(用网格图或梅森公式均可) (4+4+2=10分) f