信息论与编码题库

信息论与编码 模拟题

一 、填空题

1、已知 8 个码组为（000000）、（001110）、（010101）、（011011）、（100011）、（101101）、 （110110）、（111000）。则该码组的最小码距是 3 ，若只用于检错可检测 2 位错码，若只用于纠错可纠正 1 位错码。

2、同时掷两个正常的骰子，也就是各面呈现的概率都是 1/6，则“两个 1 同时出现”这一事件的自信息量为 5.17 比特。

3、已知信源的各个符号分别为字母A，B，C，D，现用四进制码元表示，每个码元的宽度为10ms，如果每个符号出现的概率分别为1/5，1/4，1/4，3/10，则信源熵H（x）为 1.985 比特/符号，在无扰离散信道上的平均信息传输速率为 198 bit/s。

4．1948 年，美国数学家 香农 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。

5．对离散无记忆信源来说，当信源呈____________分布情况下，信源熵取最大值。 6、对于某离散信道，具有3 x 5的转移矩阵，矩阵每行有且仅有一非零元素，则该信道噪声熵为 ；最大信息传输率为 。

7、二元删除信道BEC(0.01)的信道转移矩阵为 ，信道容量为 ；信道

?1?矩阵为?0?0??0??0001010??1?0??1?0??的DMC的信道容量为 。

8．数据处理定理：当消息经过多级处理后，随着处理器数目的增多，输入消息与输出消息之间的平均互信息量 趋于变小 。

9.(7,3)码监督矩阵有 4 行,生成矩阵有 3 行。

10.对线性分组码,若要求它能纠正3个随机差错,则它的最小码重为 7 ,若要求它能在纠错2位的同时检错3位,则它的最小码重为 8 。

11．汉明码是一种线性分组码，其最小码距为 3 。

12.信道编码的目的是提高数字信息传输的 可靠性 ,其代价是降低了信息传输的 有效性。 13.在通信系统中,纠检错的工作方式有 反馈重发纠错 、 前向纠错 、 混合纠错 等。 14.离散对称信道输入等概率时，输出为( 等概)分布。

15.根据码字所含的码元的个数，编码可分为( 定长 )编码和(变长 )编码。

16、(n,k)线性循环码中，生成多项式g(x)的最高项次数为 ，校验多项式h(x)的最高项次数为 ，g(x)和h(x)满足 的关系，若其最小码距d，则能检错的位数为 ，能纠错的位数为 。

17、若有一离散无记忆平稳信道，其容量为C，输入序列长度为L,只要待信息率R C，总可以找到一种编码，当L足够长时，译码差错概率Pe??，?为任意大于零的正数。反之，当R

C时，任何编码的Pe必大于零，且当L??时，Pe?1。

第 1页

18、(7,4)线性分组码中，接受端收到分组R的位数为 ，伴随式S可能的值有 _ 种,差错图案e的长度为 ，系统生成矩阵Gs为 行的矩阵，系统校验矩阵Hs为 行的矩阵，Gs和Hs满足的关系式是 。

?0.25?19、设有一个信道，其信道矩阵为 0.25???0.50.50.250.250.25?0.5?，则它是 信道 （填对称，准

?0.25??对称）， 其信道容量是 比特/信道符号。

20、在下面空格中选择填入数学符号“?，?，?，?”或“?”

H?XY? H?Y??H?X|Y? H?Y??H?X?。

21、信源编码的主要目的是提高 ，信道编码的主要目的是提高 。 22、一个八进制信源的最大熵为 。

23、根据是否允许失真，信源编码可分为无失真信源编码和 。 24、一个事件发生概率为0.125，则自信息量为 。

二 、选择题

1、设有一个离散无记忆信源X，其符号数为n,则有（ ）成立。 A、H(X)?log2n; B、H(X)?log2n; C、H(X)?2log2n; D、以上结论都不对。 2、通信系统的性能指标主要有（ ）。

A、有效性 可靠性 安全性 经济性 B、有效性 可行性 安全性 保密性 C、保密性 可靠性 安全性 经济性 D、高效性 可行性 安全性 经济性 3、信源存在冗余度的主要原因是（ ）。

A、信源符号间的相关性 B、信源符号分布的不均匀性 C、信源符号间的相关性和分布的不均匀性 D、以上都不对 4、下列关于信源编码和信道编码的说法中错误的是（ ） A、信源编码是减少冗余度，信道编码是有意的增加冗余度。 B、信源编码提高了可靠性，降低了有效性。

C、首先对信源进行编码，到信道的输入端再对其进行信道编码。 D、信道编码提高了可靠性，降低了有效性。

5、以下关于平稳离散信源的说法不正确的是（ ）。 A、平稳信源发出的符号序列的概率分布与时间起点无关。

第 2页

B、平均符号熵随着L的增大而减小。

C、对于平稳信源一般情况下，齐次包括平稳，平稳不包括齐次。 D、平稳信源的概率分布特性具有时间推移不变性。 6、关于线性分组码，下列说法正确的是（ ） A、卷积码是线性分组码的一种。

B、最小码距是除全零码外的码的最小重量。 C、具有封闭性，码子的组合未必是码子。 D、不具有封闭性，码子的组合未必是码子。

7、若一离散无记忆信源的符号熵为H(X),对信源符号进行m元变长编码， 一定存在一种无失真编码方法，其码字平均长度K满足（ ）。 A、1?H(X)log2mH(X)log2m?K?H(X)log2m； B、1?H(X)log2m?K?H(X)log2m；

C、1??K； D、K?H(X)log2m。

8、有一离散无记忆信源X，其概率空间为?其无记忆二次扩展信源的熵H(X)=( )

2

x2?X??x1???P???0.50.25x4??，则

0.1250.125?x3A、1.75比特/符号； B、3.5比特/符号； C、9比特/符号； D、18比特/符号。

0000??P(y1/x1)P(y2/x1)?00P(y3/x2)P(y4/x2)00?， 9、信道转移矩阵为???000P(y5/x3)P(y6/x3)??0?其中P(yj/xi)两两不相等，则该信道为( )

A、一一对应的无噪信道 B、具有归并性能的无噪信道 C、对称信道 D、具有扩展性能的无噪信道 10、设信道容量为C，下列说法正确的是：（ ） A、互信息量一定不大于C B、交互熵一定不小于C C、有效信息量一定不大于C D、条件熵一定不大于C

三 、计算题

1、设有离散无记忆信源，其概率分布如下：

?x?X??1????1?P(X)???2x214x318x4116x5132x6164x7??1? 64?? 第 3页

对其进行费诺编码，写出编码过程，求出信源熵、平均码长和编码效率。

2.一个离散无记忆信源

?x?x??1????1p(x)????16x2116x3116x4116x5x6??11 ?42??对其进行2进制费诺编码，写出编码过程，求出信源熵、平均码长和编码效率。（保留两位小数）

3.设有离散无记忆信源，其概率分布如下：

?X??x1?q(X)???0.2???x20.19x30.18x40.17x50.15x60.10x7?0.01??

对其进行2进制赫夫曼编码，写出编码过程，求信源熵、平均码长和编码效率。（保留两位小数）

4.信道输入符号集X = {x1, x2}，输出符号集Y = {y1, y2, y3, y4}，给定信道转移概率矩阵

?1?4P???1??8121218141?8??，求该信道的信道容量C。 （保留四位小数，单位取为：比特/符号） 1?8???1/21/41/81/8??，求信道容

?1/41/21/81/8?5、设有一个离散无记忆信道，其信道矩阵P??量C。（要求保留四位小数，单位取为：比特/符号）

6.设某信道的传递矩阵为

?1?3 P???1??6131616131?6?? 1?3??计算该信道的信道容量，并说明达到信道容量的最佳输入概率分布。（保留四位小数，单位取为：比特/符号） 四 、综合题

第 4页

? X??x1?P(X)???0.6??1 设信源?x2??0.4? 通过一干扰信道，接收符号为Y??y1,y2?，信道传递矩阵为

?5?6?1?4?1?6?3??，求 4? （1）信源X中事件x1和x2分别含有的自信息量。 （2）收到消息

yj?j?1,2?后，获得的关于xi?i?1,2?的信息量。

（3）信源X和信宿Y的信息熵。

（4）信道疑义度H?X/Y?和噪声熵H?X/Y?。 （5）接收到信息Y后获得的平均互信息量。

?x?X??1??12、设信源???P(X)???4x2??3?，通过某信道，接受符号集为Y??y14??13y2?，信道转移矩阵

（aij??23p(yj/xi)）为?1?3?2?，求： 3?（要求：计算结果保留三位小数，单位是：比特/符号。）试求： （1）H(X),H(Y)；

（2）求联合熵H(XY)、信道疑义度H(X/Y)和噪声熵H(Y/X)； （3）接收到Y后所获得的平均互信息量是多少；

（4）若改变信源的概率分布，则收到Y后能获得的最大信息量是多少，并且求出此时信源的概率分布。

3、信道编码

已知n=7的（7，k）循环码g(x)?x?x?1

(1). 如信息多项式m(x)?x?1，求相应的码多项式。 (2). 求对应的系统形式的生成矩阵Gs，系统校验矩阵Hs。

(3). 计算该码的最小距离，此码能纠几位错？列出可纠差错图案和对应得伴随式，填入下表

中

23 第 5页

e 发送信息M（针对系统码）。

4.设某二元码为C={110001000，100010111，000101111，001011110} （1）求此码的最小距离dmin；

（2）将此码用于检错最多可以检出多少位错吗？ （3）若用于纠错，最多纠正几位？

（4）若同时用于检错和纠错，能检出几位，纠正几位？

5、信道编码

s ?及对应的(4). 若接收码字为R?(1100100)，试问接收是否有错？用伴随式法求译码结果C?1?0现有生成矩阵Gs???0??0010000100001110111101?0?? 1??1?

(1). 求对应的系统校验矩阵Hs。

(2). 求该码字集合的最小码字距离d、最大检错能力lmax 、最大纠错能力t max 。 (3). 填写下面的差错图案e和伴随式s表

e 0000000 0000001 0000010 0000100 0001000 0010000 0100000 1000000 s ?。 (4). 现有接收序列为r?(1100100)，求纠错译码输出c

第 6页

百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读，免费范文网，提供经典小说综合文库信息论与编码题库在线全文阅读。