基于算术编码的信源编码解码系统设计与仿真.docx
- 文档编号:3121123
- 上传时间:2022-11-17
- 格式:DOCX
- 页数:21
- 大小:228.58KB
基于算术编码的信源编码解码系统设计与仿真.docx
《基于算术编码的信源编码解码系统设计与仿真.docx》由会员分享,可在线阅读,更多相关《基于算术编码的信源编码解码系统设计与仿真.docx(21页珍藏版)》请在冰豆网上搜索。
基于算术编码的信源编码解码系统设计与仿真
******************
实践教学
*******************
运算机与通信学院
通信系统仿真训练
题目:
基于算术编码的信源编码/解码系统设计与仿真
摘要
随着社会的飞速进展,数字化已经成了现今通信技术的主流进展方向,而实现数字化的重要步骤确实是对信源进行编码。
信源编码理论是信息论的一个重要分支,其理论基础是信源编码的两个定理:
无失真信源编码定理和限失真信源编码定理。
信源编码是以提高通信有效性为目的的编码。
通常通过紧缩信源的冗余度来实现。
人们通过不断地探讨,制造了许多种有效的信源编码的方式,比如说哈弗曼编码、算术编码、游程编码等,通过这些有效地信源编码方式,专门好的提高了通信的有效性。
本文从算术编码原理、和研究算术编码的目的意义等,到具体算术编码方案的分析比较和其MATLAB语言的实现方案,有重点的对算术编码的编码进程进行了分析和论述。
具体说确实是针对信源输出符号序列的统计特性,寻觅必然的方式把信源输出符号序列变换为最短码字的序列的方式。
设计利用MATLAB语言设计并实现了基于算术编码的信源编码/解码进程。
算术编码是一种能够趋近于熵极限的最正确编码方式对显现概率较大的符号利用短码,对概率较小的符号利用长码。
过本课程设计能够实现从键盘随意输入待传输信息,依照算术编码原理输出编码结果,若是选择译码,会输出之前输入的传输信息。
关键词:
算术编码译码MATLAB仿真
一、信源编码1
信源编码的概念1
信源编码简介1
信源编码的目的:
2
信源编码的原理2
二、算术解码的理论基础7
算术编码算法的大体原理7
算术编码的特点7
算术编码的分析进程8
算术编码举例9
三、算术编码MATLAB仿真实现15
MATLAB仿真程序实现15
仿真设计流程图15
算术编码仿真设计16
结果分析21
设计总结21
参考文献23
一、信源编码
信源编码的概念
信源编码是为了减少信源输出符号序列中的剩余度、提高符号的平均信息量,对信源输出的符号序列所实施的变换。
具体说,确实是针对信源输出符号序列的统计特性来寻觅某种方式,把信源输出符号序列变换为最短的码字序列,使后者的各码元所载荷的平均信息量最大,同时又能保证无失真地恢恢复先的符号序列。
既然信源编码的大体目的是提高码字序列中码元的平均信息量,那么,一切旨在减少剩余度而对信源输出符号序列所实施的变换或处置,都能够在这种意义下归入信源编码的范围,例如过滤、预测、域变换和数据紧缩等。
固然,这些都是广义的信源编码。
信源编码简介
信源编码是以提高通信有效性为目的的编码。
通常通过紧缩信源的冗余度来实现。
采纳的一样方式是紧缩每一个信源符号的平均比特数或信源的码率,一样多的信息用较少的码率来传输,使单位时刻内传送的平均信息来量增加,从而提高通信的有效性。
信源编码理论是信息论的一个重要分支,其理论基础是信源编码的两个定理:
无失真信源编码定理和限失真信源编码定理。
前者是离散信源或数字编码的基础,后者那么是持续信源或模拟信号的基础。
编码实质上确实是对信源的原始符号按必然规那么进行的一种变换。
编码可分为信源编码和信道编码。
由于信源符号之间存在散布不均匀和相关性,使得信源存在冗余度,信源编码的要紧任务确实是减少冗余,提高编码效率。
信源编码是为了减少信源输出符号序列中的剩余度、提高符号的平均信息量,对信源输出的符号序列所实施的变换。
具体说,确实是针对信源输出符号序列的统计特性来寻觅某种方式,把信源输出符号序列变换为最短的码字序列,使后者的各码元所载荷的平均信息量最大,同时又能保证无失真地恢恢复先的符号序列。
信源编码的大体途径有两个:
使序列中的各个符号尽可能地彼此独立,即解除相关性;使编码中各个符号显现的概率尽可能地相等,即概率均匀化。
采纳的一样方式是紧缩每一个信源符号的平均比特数或信源的码率。
即一样多的信息用较少的码率传送,使单位时刻内传送的平均信息量增加,从而提高通信的有效性。
信源编码的目的:
一、信源存在冗余度。
二、缘故是信源符号之间存在概率散布不均匀和相关性。
3、信源编码的要紧任务确实是减少冗余,提高编码效率。
4、信源编码是以提高通信的有效性为目的编码。
五、通常通过紧缩信源的冗余度来实现。
六、即用较少的码字传送较多的信息,使单位时刻内传送的平均信息量增加,从而提高通信的有效性。
信源编码的原理
一般来讲,减少信源输出符号序列中的剩余度、提高符号平均信息量的大体途径有两个:
①使序列中的各个符号尽可能地相互独立;②使序列中各个符号的显现概率尽可能地相等。
前者称为解除相关性,后者称为概率均匀化。
信源编码的一样问题能够表述如下:
假设某信源的输出为长度等于M的符号序列集合
式中符号A为信源符号表,它包括着K个不同的符号,A={ɑk|k=1,…,K},那个信源最多能够输出K个不同的符号序列。
记‖U‖=K。
所谓对那个信源的输出进行编码,确实是用一个新的符号表B的符号序列集合V来表示信源输出的符号序列集合U。
假设V的各个序列的长度等于N,即
式中新的符号表B共含L个符号,B={bl|l=1,…,L}。
它总共能够编出L个不同的码字。
类似地,记‖V‖=L。
为了使信源的每一个输出符号序列都能分派到一个独特的码字与之对应,至少应知足关系‖V‖=L≥‖U‖=K,或N/M≥logK/logL;
假假设编码符号表B的符号数L与信源符号表A的符号数K相等,那么编码后的码字序列的长度N必需大于或等于信源输出符号序列的长度M;反之,假设有N=M,那么必需有L≥K。
只有知足这些条件,才能保证无过失地还原出原先的信源输出符号序列(称为码字的唯一可译性)。
可是,在这些条件下,码字序列的每一个码元所载荷的平均信息量不但不能高于,反而会低于信源输出序列的每一个符号所载荷的平均信息量。
这与编码的大体目标是直接相矛盾的。
下面的几个编码定理,提供了解决那个矛盾的方式。
它们既能改善信息载荷效率,又能保证码字唯一可译。
离散无经历信源的定长编码定理关于任意给定的ε>0,只要知足条件N/M≥(H(U)+ε)/logL
那么,当M足够大时,上述编码几乎没有失真;反之,假设那个条件不知足,就不可能实现无失真的编码。
式中H(U)是信源输出序列的符号熵。
通常,信源的符号熵H(U)<logK,因此,上述条件还能够表示为【H(U)+ε】/logL≤N/M≤logK/logL
专门,假设有K=L,那么,只要H(U)<logK,就可能有N<M,从而提高信息载荷的效率。
由上面那个条件能够看出,H(U)离logK越远,通过编码所能取得的效率改善就越显著。
实质上,定长编码方式提高信息载荷能力的关键是利用了渐近等分性,通过选择足够大的M,把本来各个符号概率不等[因此H(U)<logK]的信源输出符号序列变换为概率均匀的典型序列,而码字的唯一可译性那么由码字的定长性来解决。
离散无经历信源的变长编码定理变长编码是指V的各个码字的长度不相等。
只要V中各个码字的长度Ni(i=1,…,‖V‖)知足克拉夫特不等式。
这‖V‖个码字就能够唯一地正确划分和译码。
离散无经历信源的变长编码定理指出:
假设离散无经历信源的输出符号序列,式中A={ɑk|k=1,…,K},符号熵为H(U),对U进行唯一可译的变长编码,编码字母表B的符号数为L,即B={bl|l=1,…,L},那么必然存在一种编码方式,使编出的码字Vi=(vi1,…,viNi),(i=1,…,‖V‖),具有平均长度嚻:
MH(U)/logL≤嚻<MH(U)/logL+1假设L=K,那么当H(U)<logK=logL时,必有嚻<M;H(U)离logK越远,那么嚻越小于M。
具体实现唯一可译变长编码的方式很多,但比较经典的方式仍是仙农编码法、费诺编码法和霍夫曼编码法。
其他方式都是这些经典方式的变形和进展。
所有这些经典编码方式,都是通过以短码来表示常显现的符号那个原那么来实现概率的均匀化,从而取得高的信息载荷效率;同时,通过遵守克拉夫特不等式关系来实现码字的唯一可译。
霍夫曼编码方式的具体进程是:
第一把信源的各个输出符号序列按概率递降的顺序排列起来,求其中概率最小的两个序列的概率之和,并把那个概率之和看做是一个符号序列的概率,再与其他序列依概率递降顺序排列(参与求概率之和的这两个序列再也不出此刻新的排列当中),然后,对参与概率求和的两个符号序列别离给予二进制数字0和1。
继续如此的操作,直到剩下一个以1为概率的符号序列。
最后,依照与编码进程相反的顺序读出各个符号序列所对应的二进制数字组,就可别离取得各该符号序列的码字。
例如,某个离散无经历信源的输出符号序列及其对应的概率散布为
对这些输出符号序列进行霍夫曼编码的具体步骤和结果如表。
表1-1
由表中能够看出,在码字序列中码元0和1的概率别离为10/21和11/21,二者近乎相等,实现了概率的均匀化。
同时,由于码字序列长度知足克拉夫特不等式2×2+3×2+2×2=1
因此码字是唯一可译的,可不能在长的码字序列中显现划错码字的情形。
以上几个编码定理,在有经历信源或持续信源的情形也有相应的类似结果。
在实际工程应用中,往往并非追求无过失的信源编码和译码,而是事前规定一个译码过失率的允许值,只要实际的译码过失率不超过那个允许值即以为中意(见信息率-失真理论和多用户信源编码)。
针对信源输出符号序列的统计特性,寻觅必然的方式把信源输出符号序列变换为最短的码字序列。
一、解除相关性:
使序列中的各个符号尽可能地相互独立。
二、概率均匀化:
使编码中各个符号显现的概率尽可能地相等。
信源编码的实现方式:
离散信源编码有香农编码、费诺编码、赫夫曼编码、游程编码、冗余位编码;持续信源编码有最正确标量量化、矢量量化;相关信源编码的预测编码、差值编码;变换编码的子带编码、小波变换。
一样来讲,减少信源输出符号序列中的剩余度、提高符号平均信息量的大体途径有两个:
一是使序列中的各个符号尽可能地相互独立;
二是使序列中各个符号的显现概率尽可能地相等。
前者称为解除相关性,后者称为概率均匀化。
信源编码的一样问题能够表述如下:
假设某信源的输出为长度等于M的符号序列集合
式中符号A为信源符号表,它包括着K个不同的符号,A={ɑk|k=1,…,K},那个信源最多能够输出K个不同的符号序列。
记‖U‖=K。
所谓对那个信源的输出进行编码,确实是用一个新的符号表B的符号序列集合V来表示信源输出的符号序列集合U。
假设V的各个序列的长度等于I,即
式中新的符号表B共含L个符号,B={bl|l=1,…,L}。
它总共能够编出L个不同的码字。
类似地,记‖V‖=L。
为了使信源的每一个输出符号序列都能分派到一个独特的码字与之对应,至少应知足关系‖V‖=L≥‖U‖=K,或N/M≥logK/logL;
假假设编码符号表B的符号数L与信源符号表A的符号数K相等,那么编码后的码字序列的长度N必需大于或等于信源输出符号序列的长度M;反之,假设有N=M,那么必需有L≥K。
只有知足这些条件,才能保证无过失地还原出原先的信源输出符号序列(称为码字的唯一可译性)。
可是,在这些条件下,码字序列的每一个码元所载荷的平均信息量不但不能高于,反而会低于信源输出序列的每一个符号所载荷的平均信息量。
这与编码的大体目标是直接相矛盾的。
下面的几个编码定理,提供了解决那个矛盾的方式。
它们既能改善信息载荷效率,又能保证码字唯一可译。
(1)离散无经历信源的定长编码定理
关于任意给定的ε>0,只要知足条件N/M≥(H(U)+ε)/logL
那么,当M足够大时,上述编码几乎没有失真;反之,假设那个条件不知足,就不可能实现无失真的编码。
式中H(U)是信源输出序列的符号熵。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 算术 编码 信源 解码 系统 设计 仿真