信息论作业答案.docx
- 文档编号:29918120
- 上传时间:2023-08-03
- 格式:DOCX
- 页数:16
- 大小:45.35KB
信息论作业答案.docx
《信息论作业答案.docx》由会员分享,可在线阅读,更多相关《信息论作业答案.docx(16页珍藏版)》请在冰豆网上搜索。
信息论作业答案
第二章
。
且令Si=ai,i=1,2,3,
1■一阶齐次马尔柯夫信源消息集
X{引心色},状态集s{Si,S2,Ss}
符号条件转移概率为P(aj/Si)】J412141
[1/4141/2
A[
訓W2
Id1
(2)3W1+4W2
=W3
3
V\
4
vi
4
v\
H(X|Si)=H(1/3,1/3,1/3)=1.58bit/符号
H(X|S2)=H(1/4,1/2,1/4)=1.5bit/符号=H(X|Ss)
3
H/X)=EwH(X|SJ二寻勺.58+春咒1.5咒2=1.52bit/符号
id:
你的
2如果你确定你的朋友是6月的生日,但是不知道具体是哪一天。
那么你问你的朋友
生日是6月哪一天?
”,则答案中含有的信息量为4.91bit;
3p422-12
4p422-13
5p432-19
6p442-29
第三章
1-■设信道的转移概率矩阵为
0.90.1I
P二
IL0.10.9
⑴若P(Xo)=O.4,p(Xi)=0.6,求H(X),H(Y),H(Y|X)和l(X;Y);
(2)求该信道的信道容量及其达到信道容量时输入符号的概率分布。
(3)设该信道以1800个二元符号/秒的速度传输输入符号。
现有一消息序列共有10000个二元符号,在P(Xo)=l/2,p(刈=1/2情况下,从信息传输的角度来考虑'10秒内能否
将这消息序列无失真地传送完?
0.360.04
解:
(1)(P(x,y)I-006054,[P(y)]=[°420.58]
H(X)二H(0.4,0.6)=0.97bit/符号
H(Y)=H(0.42,0.58)=0.98bit/符号
H(Y|X)=H(0.9,0.T0.47bit/符号
l(X;Y)=H(Y)-H(Y|X)=0.51biV符号
(2)(护1—H(Y|X)=0.53biV符号po=pi=O.5
(3)H(X)X10=104bit
4
1800XCX10=9540bit<10
所以不能无失真传送完。
2■信道的特征如图所示>求该信道的信道容量及其达到信道容量的信源所发送符号的概率分布。
0.5
10.5.d
解:
假设信源发送符号0的概率为P,则发送符号1的概率为1-P
1
H(Y/X)
P(Xi)aP(yj/x)log・1-P
jP(yMx)
[P(Y-c)P(Y-d)|.|p1_p100.5(1-p)0.5(1-p)l
0.50.5
1彳0.5(1-p)log1—
H(Y)八P(yj)log0.5(1p)log0.5(1一p)
jiP(yj)0.5(1+p)
l(X;Y)=H(Y)_H(Y/X)
由:
KX;Y)=0可得到:
p"5
CP
0
0
0
1-6
1
1Y
1
mrr丄/\Z\/\a
3两个BSC信道的级联如右图所示:
(1)写出信道转移矩阵;
(2)求这个信道的信道容量。
解:
(1)
DDD1—呂w1(1—名)22A(1—E)
i—农」名i—农一[2名(1—名)(i—町2+名2
⑵C=log2-H((1-;)2;今
4■电视图像由30万个像素组成,一个像素可取10个可分辨的灰度等级,假设各个像素的10个灰度等级均等概率出现,实时传送电视图像每秒发送25帧图像,为保证图像质量,信号与噪声的平均功率比值为30dB,试计算
(1)电视图像的信源嫡;
(2)传送电视的视频信号所需要的最小带宽。
解:
(1)由于每个灰度等级等概岀现,则在不同像素点由不同灰度等级组成的画面也等概出
现,每幅画面出现的概率为
p(G=1/1031°=10Ai°5
信源循
n
H(X)=—Ep(x)logp(Xj)=—lb(10职丈)=9.97沃10sbit/画面
(2)视频信号所需要的最小信道容量为
Ct=H(X)/t=9.97105/(1/25)=2.4910^bit/s
30
SNR=3OdB=1Oio=1OOO
根据香农公式,传送电视的视频信号所需要的最小带宽为
w=G/log(1SNR)=2.4910Vlog(11000A2.51042.5MHz
5某信号为随机变量X,信号X(t)幅度的概率密度为均匀分布,
(1)0乞x(t),求信源炳HC(X);
(2)该信号在7MHz带宽的某高斯信道上传输,若信道中的信号功率与噪声功率谱密度之比(Ps/No)为21MHz,求该信道的信道容量。
解:
c)p(x)-1
1
Hc(X)二.Px(x)logPx(x)d(x)=-o1logldx=0(比特)
(2)
SNR二P/N二Ps/(NoW)=21/7=3
C=Wlog(1S/N)=7log(121/7)=14Mbps
6考虑一个BSC信道,其转移差错概率为P。
若R为信源码字的比特数,每信源码字代表量化器输出的2只个可能的电平之一。
试计算
(1)码字通过BSC信道被正确接收的概率;
(2)码字通过BSC信道后至少有1比特差错的概率;
(2)在一个码字中,差错比特数小于等于Ne的概率;
(3)若R=5,P=0.01,Ne=5,计算
(1)、
(2)、(3)各题中的概率。
解:
P(码字被正确接收)=(1-pF
R
P(至少有1比特差W=1-(1-P)
Ne
P差错比特数小于等于Ne上xCRP心p)RL
i土
P(码字被正确接收)=0.951
P(至少有1比特差错)=0.049
P差错比特数小于等于Ne)=0.049
第四章
1■设输入符号表为X二{0,1},输出符号表为Y二{0,1}。
输入信号的概率分布为p二(1/2,
1/2),失真函数为d(0,0)=d(1,1)=0,d(0,1)=2,d(1,0)=1,试求Dmin,Dmax,R(Dmin),R(Dmax)以及相应的编码器转移概率矩阵。
-101
[p(y/x)]二01
Dmax二0-5
R(Dmax)=mi0(1分),相应的编码器转移概率矩阵
[p(y/x)]二°
n{0.5*0+0.5*1,0.5*0+0.5*2}=
10
解:
Dmin=
0,R(Dmin)=1bit/symbol,相应的编码器转移概率矩阵第五章
1■某信源有7个符号{5,……7,}|概率分别为0.3,0.2,0.15,0.12,0.1,0.07,0.06;
(1)求信源的符
号燔H(U);
(2)求出相应的费诺编码(写出编码过程,否则不得分)和对应的编码效率;
(3)求出相应的哈夫曼编码(写出编码过程,否则不得分)和对应的编码效率
解:
(1)H(U)=H(0.3,0.2,0.15,0.12,0.1,0.07,0.06)=2.6074biV符号;
(2)费诺编码
A-A-口
付7
P
码长
U1
0.3
0
0
00
2
U2
0.2
1
01
2
U3
0.15
1
0
0
100
3
U4
0.12
1
101
3
U5
0.1
1
0
110
3
U6
0.07
1
0
1110
4
U7
0.06
1
1111
4
K=E[K]二2.63=H(u)/K=99.14%
(2)哈夫曼编码
付号
P
码长
U1
0.3
0.3
0.3
0.3
0.42
0.58
1
00
2
U2
0.2
0.2
0.22
0.28
0.3
0.42
11
2
U3
0.15
0.15
0.2
0.22
0.28
010
3
U4
0.12
0.13
0.15
0.2
100
3
U5
0.1
0.12
0.13
101
3
U6
0.07
0.1
0110
4
U7
0.06
0111
4
K二E[K]=2.63=H(u)/K=99.14%
2■设有离散无记忆信源输出两个符号,概率分布为a132,则信源嫡等于多少?
若用
090.1丿
哈夫曼编码方法对两个信源符号组成的序列进行二进制编码,则每个信源符号的平均码长是多少?
其编码效率是多少?
。
解:
H(X)=0.469比特/符号
°aiai0.81
10aia20.09
110a2ai0.09Ho.19
11132320.01丄0[0
_=1_0.8120.0930.0930.01=1.29码元/序列
R二心/2=0.645码元/符号
=HXU叽72.7%
K0.645
Xxx
3若有一信源=|12每秒钟发出2.55个信源符号。
将此信源的输出符号送入
'P0.80.2
某一个二元信道中进行传输(假设信道是无噪无损的,容量为1bit/二元符号),而信道每秒
钟只传递2个二元符号。
(1)试问信源不通过编码(即Xi_;0,X2-;1在信道中传输)能否直接与信道连接?
(2)若通过适当编码能否在此信道中进行无失真传输?
(3)试构造一种哈夫曼编码(两个符号一起编码),使该信源可以在此信道中无失真传输。
1•不能,此时信源符号通过0,1在信道中传输,2.55二元符号/s>2二元符号/s
2•从信息率进行比较,2.55*H(0.8,0.2)=1.84<1*2
可以进行无失真传输
0
xixi0.64
11
X1X20.16
100
X2X10.161
101
泌o.oJ
0.64-
A0.161234
•0.64
4
K2二為PiKi=0.640.16*2
i生
0.2*3=1.56二元符号/2个信源符号
此时1.56/2*2.55=1.989二元符号/s<2二元符号/s
xk亠一
弟八早
1001110
1・(7,3)码的生成矩阵G=0
100111
・0111010
1
|1
1
01
11
1
0
0
1
00
0
0
h=roTi.=
1
10
0
0
1
0
L
0
11
0
0
0
1
(2)所有码字:
C=MG'
000000010011100011101
10100110100111110100101110101110100
(3)最小距离就是非零码字最小重量,为4;
(4)C=MG
m=110,c=1101001
0111001
2■已知(7,3)线性分组码的生成矩阵G=0101110,
1011100-
(1)求该码的码集;
(2)求对应的系统形式的生成矩阵G;
(3)计算系统码的校验矩阵H;
⑷该码的最小码距dmin,该码的纠错能力t=?
(5)列出可纠差错图案和对应的伴随式;
(2)G*=
1
0
1
1
1
0
1
0
0
1
001
00
⑶H=
1
1
1
0
0
1
0
1
0
1
0
0
0
1.
⑷dmin=
消息
m
码字
c
000
0000000
001
1011100
010
0101110
011
1110010
100
0111001
101
1100101
110
1110010
111
1001011
*10010111
0101110
1001011
S
E
0000
0000000
0001
0000001
0010
0000010
0100
0000100
1000
0001000
1011
0010000
1110
0100000
1011
1000000
3■某系统(7,4)码(?
)dmin=3
c=(C6c5c4C3c2CiCo)二rfn
m2
m。
C2CiCo)其三位校验
位与信息位的矢系为:
C2=:
rri3mimo
ci二m3m2mi
co-:
m2mim0
(1)求对应的生成矩阵和校验矩阵;
(2)计算该码的最小距离;
1101
01
11
10
11o(T
0010
1001
(3)列出可纠差错图案和对应的伴随式。
000
0100
=0010
卫
s
E
000
0000000
001
0000001
010
0000010
100
0000100
101
0001000
111
0010000
011
0100000
110
1000000
432
4■若(7,3)循环码的g(x)二Xxx
32
1‘则相应的校验多项式h(x)=XX1。
k为_3—,校验多项式
5■已知n二7的循环码g(x)・*X2X1,则信息位长度
h(x)=x+x+1。
例]6-56-6
第七章
1在公开密钥密码算法RSA中,设令两个素数p=5,q=17,加密指数e=5,试计算解密密
钥d,并加密M=3。
解:
n二pxq=85
*(n)=(p一1)x(q一1)=4x16=64
exdmod64=1,贝Ud二13
35mod85=73
2■用户A选取p=5,q=11,e二27,用户B选取p=3,q=13,e二7,
(1)采用RSA算法,分别计算A、B的公钥和私钥;
⑵试计算用户A对用户B发送m=25的签名保密消息。
解:
nA=p*q=55
(D(nA)=(p-1)*(q-1)=40
nB=p*q=39
(D(nB)=(p-1)*(q-1)=24
由(27*dA)mod①(nA)=1
可得dA=3
由(7*dB)mod(D(nB)=1
可得dB=7
用户A先用自己的秘密密要签名,然后用用户B的公开密要加密
dA3
y=xmodnA=25mod55=5y1=ymodnB=5mod39=8
(1)求系统形式的生成矩阵G和校验矩阵H;
(2)写出系统码的所有码字;
(3)计算该码的最小距离;
(4)若m二110,求生成矩阵G相应码字;
解:
(1)根据初等行变换可有系统生成矩阵:
1001110
G”=0100111=[lkQ]
0011101-
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 信息论 作业 答案