信息论论文报告

信息论与编码课程论文

学生姓名： 学 号： 系 别： 专 业： 指导教师： 起止日期：

目 录

1

摘要………………………………………………………………………………… 1 关键词……………………………………………………………………………… 1 Abstract…………………………………………………………………………… 1 Key words………………………………………………………………………… 2 前言…………………………………………………………………… …………… 2 一、 信道编码大致分为类

1.1信道编码定理………………………………………………………………4 1.2构造性的编码方法以及这些方法能达到的性能界限…………………3 二、信道编码技术………………………………………………………………… 4 三、下面是纠错码的各种类型……………………………………………………5 3.1、RS编码…………………………………………………… …………… 6 3.2、卷积码…………………………………………………… ………………6 3.3、Turbo码…………………………………………………… ……………6 3.4、交织…………………………………………………… ……………7 3.5、伪随机序列扰码…………………………………………………… ……8

结论………………………………………………………………………………… 9 参考文献…………………………………………………………………………… 11 致谢 …………………………………………………………………………………11

摘要

信息是自从人类出现以来就存在于这个世界上了，天地万物，飞禽走兽，以及人类的生存方式都离不开信息的产生和传播。人类每时每刻都在不停的接受信息，传播信息，以及利用信息。从原来的西汉时期的造纸，到近代西方的印刷术，以及现在的计算机，信息技术在人类历史的进程当中随着生产力的进步而发展。而信息理论的提出却远远落后于信息的出现，它是在近代才被提出来而形成一套完整的理论体系。信息论的主要基本理论包括：信息的定义和度量；各类离散信源和连续信源的信息熵；有记忆、无记忆离散和连续信道的信

2

道容量；无失真信

关键词

信道编码定理 信道编码技术 纠错码 RS编码 卷积码

伪随机序列扰码 交织Turbo码 Abstract

：

The design is based on what we learn the course syllabus, according to the requirements of our first course examination, is the necessary training course of our mission, and SCM are of great help. Master microcontroller technology is one of the indispensable to our future technology, the work and the life and learning are very close connection. In recent years, with the electronic technology and the rapid development of the microcomputer chip, continuously improve the grade, its applications are constantly expanding in industrial control, has advanced science, intelligent instrument。

前言

人类社会的生存与发展无时无刻都离不开信息的获取、传递、处理再生控制和利用。

信息论正是一门把信息作为研究对象，以揭示信息的本质特性和规律为基础，应用概率论，随机过程和数理统计等方法来研究信息的存储、传输、处理、控制和利用等一般规律的科学。它主要研究如何提高信息系统的可靠性、有效性、保密性和认证性，以使系统最优化。

3

二、 信道编码大致分为类

1.1、信道编码定理，从理论上解决理想编码器、译码器的存在性问题，也就是解决信道能传送的最大信息率的可能性和超过这个最大值时的传输问题。

1.2、构造性的编码方法以及这些方法能达到的性能界限。编码定理的证明，从离散信道发展到连续信道，从无记忆信道到有记忆信道，从单用户信道到多用户信道，从证明差错概率可接近于零到以指数规律逼近于零，正在不断完善。编码方法，在离散信道中一般用代数码形式，其类型有较大发展，各种界限也不断有人提出，但尚未达到编码定理所启示的限度，尤其是关于多用户信道 ，更显得不足。在连续信道中常采用正交函数系来代表消息 ，这在极限情况下可达到编码定理的限度。不是所有信道的编码定理都已被证明。只有无记忆单用户信道和多用户信道中的特殊情况的编码定理已有严格的证明；其他信道也有一些结果，但尚不完善。 二、信道编码技术

数字信号在传输中往往由于各种原因，使得在传送的数据流中产生误码，从而使接收端产生图象跳跃、不连续、出现马赛克等现象。所以通过信道编码这一环节，对数码流进行相应的处理，使系统具有一定的纠错能力和抗干扰能力，可极大地避免码流传送中误码的发生。误码的处理技术有纠错、交织、线性内插等。

提高数据传输效率，降低误码率是信道编码的任务。信道编码的本质是增加通信的可靠性。但信道编码会使有用的信息数据传输减少，信道编码的过程是在源数据码流中加插一些码元，从而达到在接收端进行判错和纠错的

4

目的，这就是我们常常说的开销。这就好象我们运送一批玻璃杯一样，为了保证运送途中不出现打烂玻璃杯的情况，我们通常都用一些泡沫或海棉等物将玻璃杯包装起来，这种包装使玻璃杯所占的容积变大，原来一部车能装5000各玻璃杯的，包装后就只能装4000个了，显然包装的代价使运送玻璃杯的有效个数减少了。同样，在带宽固定的信道中，总的传送码率也是固定的，由于信道编码增加了数据量，其结果只能是以降低传送有用信息码率为代价了。将有用比特数除以总比特数就等于编码效率了，不同的编码方式，其编码效率有所不同。

数字电视中常用的纠错编码，通常采用两次附加纠错码的前向纠错（FEC）编码。RS编码属于第一个FEC，188字节后附加16字节RS码，构成（204，188）RS码，这也可以称为外编码。第二个附加纠错码的FEC一般采用卷积编码，又称为内编码。外编码和内编码结合一起，称之为级联编码。级联编码后得到的数据流再按规定的调制方式对载频进行调制。 前向纠错码（FEC）的码字是具有一定纠错能力的码型，它在接收端解码后，不仅可以发现错误，而且能够判断错误码元所在的位置，并自动纠错。这种纠错码信息不需要储存，不需要反馈，实时性好。所以在广播系统（单向传输系统）都采用这种信道编码方式。 三、下面是纠错码的各种类型: 3.1、RS编码

RS码即里德-所罗门码，它是能够纠正多个错误的纠错码，RS码为（204，188，t=8），其中t是可抗长度字节数，对应的188符号，监督段为16字节(开销字节段）。实际中实施（255，239，t=8）的RS编码，即在204字

5

节（包括同步字节）前添加51个全“0”字节，产生RS码后丢弃前面51个空字节，形成截短的（204，188）RS码。RS的编码效率是：188/204。 3.2、卷积码

卷积码非常适用于纠正随机错误，但是，解码算法本身的特性却是：如果在解码过程中发生错误，解码器可能会导致突发性错误。为此在卷积码的上部采用RS码块， RS码适用于检测和校正那些由解码器产生的突发性错误。所以卷积码和RS码结合在一起可以起到相互补偿的作用。卷积码分为两种：

(1)基本卷积码:

基本卷积码编码效率为，η＝1/2, 编码效率较低,优点是纠错能力强。 (2)收缩卷积码:

如果传输信道质量较好，为提高编码效率，可以采样收缩截短卷积码。有编码效率为：η＝1/2、2/3、3/4、5/6、7/8这几种编码效率的收缩卷积码。 编码效率高，一定带宽内可传输的有效比特率增大,但纠错能力越减弱。 3.3、Turbo码

1993 年诞生的Turbo 码，单片Turbo 码的编码/解码器，运行速率达40Mb/s。该芯片集成了一个32×32 交织器，其性能和传统的RS 外码和卷积内码的级联一样好。所以Turbo码是一种先进的信道编码技术，由于其不需要进行两次编码，所以其编码效率比传统的RS+卷积码要好。 3.4、交织

在实际应用中，比特差错经常成串发生，这是由于持续时间较长的衰落谷点会影响到几个连续的比特，而信道编码仅在检测和校正单个差错和不太

6

长的差错串时才最有效（如RS只能纠正8个字节的错误）。为了纠正这些成串发生的比特差错及一些突发错误，可以运用交织技术来分散这些误差，使长串的比特差错变成短串差错，从而可以用前向码对其纠错，例如：在DVB-C系统中，RS(204,188)的纠错能力是8个字节，交织深度为12，那么纠可抗长度为8×12＝96个字节的突发错误。 实现交织和解交织一般使用卷积方式。

交织技术对已编码的信号按一定规则重新排列，解交织后突发性错误在时间上被分散，使其类似于独立发生的随机错误，从而前向纠错编码可以有效的进行纠错，前向纠错码加交积的作用可以理解为扩展了前向纠错的可抗长度字节。纠错能力强的编码一般要求的交织深度相对较低。纠错能力弱的则要求更深的交织深度。

下图是交织的原理图： 陪 集 说 明 h1=e，h1g1=g1 =e g2 … 陪集首 gn-1 gn 子群G′ h2，陪h2g1 h2g2 … 陪集首 h2gn-1 h2gn … 集h2G′ … hm-1，hm-1g1 hm-1g2 … 陪集首 hm-1gn-1 hm-1gn 陪集hm-G′

hm，陪hmg1 hmg2 … 陪集首 7

hmgn-1 hmgn 集hmG′ 一般来

说，对数据进行传输时，在发端先对数据进行FEC编码，然后再进行交积处理。在收端次序和发端相反，先做去交积处理完成误差分散，再FEC解码实现数据纠错。另外，从上图可看出，交积不会增加信道的数据码元。 根据信道的情况不同，信道编码方案也有所不同，在DVB-T里由于由于是无线信道且存在多径干扰和其它的干扰，所以信道很“脏”，为此它的信道编码是：RS＋外交积＋卷积码＋内交积。采用了两次交积处理的级联编码，增强其纠错的能力。RS作为外编码，其编码效率是188/204（又称外码率），卷积码作为内编码，其编码效率有1/2、2/3、3/4、5/6、7/8五种（又称内码率）选择，信道的总编码效率是两种编码效率的级联叠加。设信道带宽8MHZ，符号率为6.8966Ms/S，内码率选2/3，16QAM调制，其总传输率是27.586Mbps,有效传输率是27.586*(188/204)*(2/3)=16.948Mbps,如果加上保护间隔的插入所造成的开销，有效码率将更低。

在DVB-C里，由于是有线信道，信道比较“干净”，所以它的信道编码是：RS＋交积。一般DVB-C的信道物理带宽是8MHZ，在符号率为6.8966Ms/s，调制方式为64QAM的系统，其总传输率是41.379Mbps,由于其编码效率为188/204，所以其有效传输率是41.379*188/204=38.134Mbps。 在DVB-S里，由于它是无线信道，所以它的信道编码是：RS＋交积＋卷积码。也是级联编码。

下图是DVB-T、DVB-C、DVB-S各自的信道编码方式： 3.5、伪随机序列扰码

8

进行基带信号传输的缺点是其频谱会因数据出现连“1”和连“0”而包含大的低频成分，不适应信道的传输特性,也不利于从中提取出时钟信息。解决办法之一是采用扰码技术,使信号受到随机化处理，变为伪随机序列，又称为“数据随机化”和“能量扩散”处理。扰码不但能改善位定时的恢复质量，还可以使信号频谱平滑，使帧同步和自适应同步和自适应时域均衡等系统的性能得到改善。

扰码虽然“扰乱”了原有数据的本来规律，但因为是人为的“扰乱”，在接收端很容易去加扰，恢复成原数据流。

实现加扰和解码，需要产生伪随机二进制序列（PRBS）再与输入数据逐个比特作运算。PRBS也称为m序列，这种m序列与TS的数据码流进行模2加运算后，数据流中的“1”和“0”的连续游程都很短，且出现的概率基本相同。

利用伪随机序列进行扰码也是实现数字信号高保密性传输的重要手段之一。一般将信源产生的二进制数字信息和一个周期很长的伪随即序列模2相加，就可将原信息变成不可理解的另一序列。这种信号在信道中传输自然具有高度保密性。在接收端将接收信号再加上（模2和）同样的伪随机序列，就恢复为原来发送的信息。

在DVB-C系统中的CA系统原理就源于此，只不过为了加强系统的保密性，其伪随机序列是不断变化的（10秒变一次），这个伪随机序列又叫控制字（CW)。

结论

9

1)任何整数可表示为a = qd + r的形式，任何多项式可表示为f (x) = q (x)  p (x) + r (x) 的形式，d、p (x)为模，r、r (x) 为余数(式)。首一多项式的最高次数的系数为1，每一个首一多项式必可分解为首一即约多项式之积。

(2) 群是一些元素在某种运算下构成的集合，满足封闭性、结合律、存在单位元和逆元。

群G的非空子集G′对于G中所定义的代数运算也构成群，则称G′为G的子群。

两个群在各自的运算下若存在一一对应关系，则这两个群同构。 循环群是由一个元素的所有幂次（倍次）构成。 群可由其非空子群完备地分解为若干互不相交的陪集。

(3) 环中元素对加法是交换群，对乘法满足封闭性、结合律，分配律成立。 模d的余数全体对模d运算构成整数剩余类环； 模p (x)的余式全体对模p (x)运算构成多项式剩余类环。

(4)域中元素对加法是交换群，非零元素对乘法是交换群，满足分配律。 有限域中元素的个数是有限的或可数的。以素数d为模的整数剩余类环构成d阶有限域GF(d)，以n阶即约多项式p (x)为模的多项式剩余类环构成qn阶有限域GF(qn)。

有限域GF(q )中某一元素 的阶为q - 1，则 为本原元。

GF(q)中的q个元素就是方程xq –x = 0的q个根，每一个非零元素可表示为本原元 的方幂或线性组合形式。

有限域GF( pm )中元素与互为共轭，每一个共轭根系对应唯一的最小多项式，最小多项式在GF(p )上是即约的且能整除多项式。

10

多项式可在GF( p )上因式分解为其所有最小多项式的乘积

参考文献

《纠错编码与差错控制》王新梅 北京人民邮电出版社，1989 《信源编码原理》周炯磐，丁晓明 北京人民邮电出版社，1996 《纠错编码原理和应用》张宗橙 北京电子工业出版社，2003

《信息论与编码学习辅导及习题详解》傅祖芸 北京电子工业出版社，2004 《信息论——基础理论与应用》（第二版）傅祖芸 北京电子工业出版社，2008

致谢

这一个学期的信息论报告完成了，在此要特别感谢我的科任老师，万莉莉老师。在万老师的悉心教导下，不厌其烦的为我们讲解。在此，也对他表示衷心感谢。

通过这次课程论文设计使我了解到自己的不足，遇到了很多难题，今后还要进一步努力。

11