信息论习题含答案docWord格式.docx
- 文档编号:22976280
- 上传时间:2023-02-06
- 格式:DOCX
- 页数:12
- 大小:169.28KB
信息论习题含答案docWord格式.docx
《信息论习题含答案docWord格式.docx》由会员分享,可在线阅读,更多相关《信息论习题含答案docWord格式.docx(12页珍藏版)》请在冰豆网上搜索。
14、定长编码的效率一般小于不定长编码的效率。
15、信道容量C是I(X;
Y)关于p(xi)的条件极大值。
16、离散无噪信道的信道容量等于log2n,其中n是信源X的消息个数。
17、信道无失真传递信息的条件是信息率小于信道容量。
18、最大信息传输速率,即:
选择某一信源的概率分布(p(xi)),使信道所能传送的信息率的最大值。
19、信源的消息通过信道传输后的误差或失真越大,信宿收到消息后对信源存在的不确定性就越小,获得的信息量就越小。
20、率失真函数对允许的平均失真度具有上凸性。
21、信源编码是提高通信有效性为目的的编码。
22、信源编码通常是通过压缩信源的冗余度来实现的。
23、离散信源或数字信号的信源编码的理论基础是限失真信源编码定理。
24、一般情况下,哈夫曼编码的效率大于香农编码和费诺编码。
25、在编m(m>
2)进制的哈夫曼码时,要考虑是否需要增加概率为0的码字,以使平均码长最短。
26、对于BSC信道,信道编码应当是一对一的编码,因此,消息m的长度等于码字c的长度。
27、汉明码是一种线性分组码。
28、循环码也是一种线性分组码。
29、卷积码是一种特殊的线性分组码。
30、可以用克劳夫特不等式作为唯一可译码存在的判据。
()
31、线性码一定包含全零码。
32、确定性信源的熵H(0,0,0,1)=1。
()
33、信源X的概率分布为P(X)={1/2,1/3,1/6},对其进行哈夫曼编码得到的码是唯一的。
()
34、离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。
35、非奇异的定长码一定是唯一可译码。
()
36、信息率失真函数R(D)是在平均失真不超过给定失真限度D的条件下,信息率容许压缩的最小值。
37、信源X的概率分布为P(X)={1/2,1/3,1/6},信源Y的概率分布为P(Y)={1/3,1/2,1/6},则
信源X和Y的熵相等。
()
38、互信息量I(X;
Y)表示收到Y后仍对信源X的不确定度。
()
39、对信源符号X={a1,a2,a3,a4}进行二元信源编码,4个信源符号对应码字的码长分别为K1=1,K2=2,K3=3,K3=3,满足这种码长组合的码一定是唯一可译码。
()
40、设C={000000,001011,010110,011101,100111,101100,110001,111010}是一个二元线性分组码,则该码最多能检测出3个随机错误。
二、选择题(共10分,每题2分)
1.下面表达式中正确的是()。
A.
B.
C.
D.
4.线性分组码不具有的性质是()。
A.任意多个码字的线性组合仍是码字
B.最小汉明距离等于最小非0重量
C.最小汉明距离为3
D.任一码字和其校验矩阵的乘积cmHT=0
5.率失真函数的下限为()。
A.H(U)B.0C.I(U;
V)D.没有下限
6.纠错编码中,下列哪种措施不能减小差错概率()。
A.增大信道容量B.增大码长C.减小码率D.减小带宽
7.一珍珠养殖场收获240颗外观及重量完全相同的特大珍珠,但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗。
一人随手取出3颗,经测量恰好找出了假珠,不巧假珠又滑落进去,那人找了许久却未找到,但另一人说他用天平最多6次能找出,结果确是如此,这一事件给出的信息量()。
A.0bitB.log6bitC.6bitD.log240bit
8.下列陈述中,不正确的是()。
A.离散无记忆信道中,H(Y)是输入概率向量的凸函数
B.满足格拉夫特不等式的码字为惟一可译码
C.一般地说,线性码的最小距离越大,意味着任意码字间的差别越大,则码的检错、
纠错能力越强
D.满足格拉夫特不等式的信源是惟一可译码
10.下列离散信源,熵最大的是()。
A.H(1/3,1/3,1/3);
B.H(1/2,1/2);
C.H(0.9,0.1);
D.H(1/2,1/4,1/8,1/8)
11.下列不属于消息的是()。
A.文字B.信号C.图像D.语言
12.为提高通信系统传输消息有效性,信源编码采用的方法是()。
A.压缩信源的冗余度B.在信息比特中适当加入冗余比特
C.研究码的生成矩阵D.对多组信息进行交织处理
13.最大似然译码等价于最大后验概率译码的条件是()。
A.离散无记忆信道B.无错编码
C.无扰信道D.消息先验等概
14.下列说法正确的是()。
A.等重码是线性码
B.码的生成矩阵唯一
C.码的最小汉明距离等于码的最小非0重量
D.线性分组码中包含一个全0码字
15.二进制通信系统使用符号0和1,由于存在失真,传输时会产生误码,用符号表示下列事件,u0:
一个0发出u1:
一个1发出v0:
一个0收到v1:
一个1收到
则已知收到的符号,被告知发出的符号能得到的信息量是()。
A.H(U/V)B.H(V/U)C.H(U,V)D.H(UV)
16.同时扔两个正常的骰子,即各面呈现的概率都是1/6,若点数之和为12,则得到的自信息为()。
A.-log36bitB.log36bitC.-log(11/36)bitD.log(11/36)bit
17.下列组合中不属于即时码的是()。
A.{0,01,011}B.{0,10,110}C.{00,10,11}D.{1,01,00}
18.已知某(6,3)线性分组码的生成矩阵
,则不用计算就可判断出下列码中不是该码集里的码是()。
A.000000B.110001C.011101D.111111
20.设有一个无记忆信源发出符号A和B,已知
,发出二重符号序列消息的信源,无记忆信源熵
为()。
A.0.81bit/二重符号B.1.62bit/二重符号C.0.93bit/二重符号D.1.86bit/二重符号
21.给定xi条件下随机事件yj所包含的不确定度和条件自信息量p(yj/xi),()
A.数量上不等,单位不同B.数量上不等,单位相同
C.数量上相等,单位不同D.数量上相等,单位相同
22.条件熵和无条件熵的关系是:
()
A.H(Y/X)<H(Y)B.H(Y/X)>H(Y)
C.H(Y/X)≤H(Y)D.H(Y/X)≥H(Y)
23.根据树图法构成规则,()
A.在树根上安排码字B.在树枝上安排码字
C.在中间节点上安排码字D.在终端节点上安排码字
24.下列说法正确的是:
()
A.奇异码是唯一可译码B.非奇异码是唯一可译码
C.非奇异码不一定是唯一可译码D.非奇异码不是唯一可译码
25.下面哪一项不属于熵的性质:
A.非负性B.完备性
C.对称性D.确定性
三、二元对称信道如图。
1)若
,
,求
、
和
;
2)求该信道的信道容量。
解:
1)共6分
2),此时输入概率分布为等概率分布。
四、已知信源
(1)用霍夫曼编码法编成二进制变长码;
(6分)
(2)计算平均码长
;
(4分)
(3)计算编码信息率
(2分)
(4)计算编码后信息传输率
(5)计算编码效率
。
(1)
编码结果为:
(2)
(3)
(4)
其中,
(5)
五、一个一阶马尔可夫信源,转移概率为【说明:
以书上的解法为准】
(1)画出状态转移图。
(2)计算稳态概率。
(3)计算马尔可夫信源的极限熵。
(4)计算稳态下
及其对应的剩余度。
解:
(1)
(2)由公式
有
得
(3)该马尔可夫信源的极限熵为:
(4)在稳态下:
对应的剩余度为
六、设X、Y是两个相互独立的二元随机变量,其取0或1的概率相等。
定义另一个二元随机变量Z=XY(一般乘积)。
试计算
(2)
(3)
(4)
Z
1
P(Z)
3/4
1/4
七、
,通过一个干扰信道,接受符号集为
,信道转移矩阵为
试求:
(1)H(X),H(Y),H(XY);
(2)H(Y|X),H(X|Y);
(3)I(Y;
X)。
(4)该信道的容量C
(5)当平均互信息量达到信道容量时,接收端Y的熵H(Y)。
计算结果保留小数点后2位,单位为比特/符号。
八、设有离散无记忆信源
,试对信源进行四元Huffman编码,求信源熵H(S),平均码长和编码效率。
(编码时码树各分枝概率从大到小分别编0至3码)(15分)
!
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 信息论 习题 答案 doc