Skip to content

Chap2 信息论

物质、能量、信息是构成客观世界的三大要素

信息是物质和能量在空间和时间上分布的不均匀程度,或者说信息是关于事物运动的状态和规律

信息论是研究信息的基本性质与度量方法,研究信息的获取、传输、存储和处理的一般规律的科学

消息是信息的载体,信号是消息的载体

信源:产生信息的源

编码器:将消息变成适合于信道传送的信号的设备

信道:信息传输和存储的媒介

译码器:译码是编码的逆变换,分为信道译码和信源译码

信宿:消息的接收者

离散信源及其数学模型

离散无记忆信源(Discrete Memoryless Source, DMS:输出单个符号的消息,不同时刻发出的符号之间彼此统计独立,且符号集中的符号数目是有限的或是可数的,数学模型为离散性的概率空间

\[\begin{matrix}\end{pmatrix}\]

评论区

如果有什么问题或想法,欢迎大家在下方留言~