十一周导论课后笔记

1.1信息

1.1.1 信息的定义
1.维纳：

        信息是信息，不是物质，也不是能量。
    信息是人们在适应外部世界并使这种适应副作用于外部的过程当中，同外部世界进行相互交换的内容的名称。
2.差别类：
    朗高：

信息是反映事物的形式关系和差异的东西。信息存在于客体间的差异之中，而不是存在于客体之中。

阿希贝：

信息的本性在于事物自己具备变异度。
3.钟义信

钟义信教授分别在本体论和认识论层次上提出了信息定义体系。

本体论层次的信息是指事物运动的状态及其变化方式的自我表述。

认识论层次的信息是指认识主体所感知或所表述的事物运动的状态和方式，包括这种状态或方式的形式、含义和效用。
    ①语法信息。它是指主体所感知或所表述的事物运动状态和方式的形式化关系。
    ②语义信息。它是指认识主体所感知或所表述的事物运动状态和方式的逻辑含义。
    ③语用信息。它是指认识主体所感知或所表述的事物运动状态和方式相对于某种目的的效用。
    ④先验信息。观察者关于某事物的先验信息是指他在观察以前经过某种途径所感知的该事物运动的状态和方式。

⑤实得信息。在观察过程当中观察者关于某事物的实得信息，是指他经过观察所新感知到的该事物运动的状态和方式。

⑥实在信息。它是指在理想观察条件下，观察者所得到的关于该事物实际的运动状态和方式等所有信息。

4.香农

假定事物状态能够用一个以经典集合论为基础的几率模型来描述，则信息就是用来消除不肯定性的东西，或信息是事物运动状态或存在方式的不肯定性描述。但要在实际中寻找个合适的几率模 型每每是很是困难的，甚至这样一种模型是否存在还值得探讨。此外信息有很强的主观性和实用性，但该定义没有考虑信息接收者的主观特性和主观意义，不顾信息的具体含义、具体用途、重要程度和可能引发的后果等因素,这就与实际状况不彻底一致。

 

5.种加属差定义

种加属差定义亦称“真实定义”、“实质定义”或“事物定义”。

被定义概念(属概念)=邻近的种概念+属差

简单地说，种加属差就是一个信息相加的运算，

信息是可加的。

1.1.2信息的种类

按照产生信息的物体的性质，能够将信息分为天然信息(声、光热、电等),生物信息(生物为繁衍生存而表现出来的各类形态和行为，如遗传信息、生物体内的交流信息、动物种群内的交流信息等)，机器信息和社会信息等。

按照人类活动领域，能够将信息分为科技信息、经济信息、政治信息、军事信息、文

化信息等。

按照信息所依附的载体，能够将信息分为文献信息、口头信息、电子信息、生物信

息等。

按照携带信息的信号性质，能够将信息分为连续信息、半连续信息和离散信息。

按照信息所起的做用，可将信息分为无用信息、有用信息和干扰信息。

1.1.3 信息的度量

信息量的度量就等于其不肯定性的多少。

 

因为不肯定性的大小可以度量，所以,信息是能够度量的。

 

自信息量

自信息量是指一个事件本 身所包含的信息量，它是由事件的不肯定性所决定的。即自信息量是对单个事件不肯定性的度量。

随机变量X产生的事件xi的自信息量定义为:

I(xi)= -log2P(xi)= log21/p(xi)(比特，即bit,经常使用单位)

 

信息熵。

 

信息论的基本假设

①信息是能够用一组符号来编码的。

②信息的产生和传输是能够用几率论和随机过程来描述的。

③从几率角度看，一样的信息包含一样的信息量。

 

在事件发生之前，自信息量等于事件发生的不肯定性的大小。

在事件发生之后，自信息量表示事件所含有的或所能提供的信息量。

所以，自信息的含义为:收到某信息得到的信息量等于不肯定性减小的量。

可是，自信息量不能用来做为随机变量X的信息度量。

 

离散随机变量X ~p(xi)的信息熵是从平均意义上对信息不肯定性的度量，也称为平均自信息量,定义为

H(X)=-∑p(xi)log2 p(xi)

 

当各个事件出现的几率相等即“不肯定性”最高时,信息熵最大。

 

1.2 计算机信息处理

1.2.1 位模式的信息表示

计算机外部的各类不一样类型的数据都是在按照统一的数据格式进行转换后存人计算机,并在从计算机输出时再还原回来的，这种统一的格式称为位模式。位模式是一个序列，有时也称为位串,它是0和1的组合。一般长度为8的位模式被称为1个字节(byte),一个字由若干字节组成。

1.文本的表示

英文通常采用ASCII编码

美国标准Unicode编码等

而中文则大多采用与前者兼容的GB 2312- -1980编码。

2.数值的表示

十进制表示式

二进制表示式

对于二进制而言，数据分为无符号数和有符号数两类。

无符号数:就是二进制数的所有二进制位均表示数值位(没有符号位)，至关于数的绝对值。

有符号数:约定二进制数的最高位为符号由“0”表示正数，“1”表示负数]这种在计算机中使用的数的表示形式称为机器数。根据编码的不一样，又可将其分为原码反码和补码。

 

重要：补码变反码：从后往前直到第一个1，再往前的数都取反。

 

3.音频的表示

要在计算机上表示音频信息，必须对声波进行数字化处理，即把模拟的声波转换成离散的数字信号。

    4.图像的表示

5.视频的表示

1.2.2计算机信息处理过程

信息处理就是对信息进行接收、存储、转化、传输和发布等，其中:

①    信息接收包括信息感知信息测量、信息识别信息获取以及信息输人等。

②信息存储就是把计算机接收到的信息或计算机处理的中间信息经过存储设备

进行缓冲、保存、备份等处理。

③信息转化就是将信息根据人们的特定须要进行分类、计算分析、检索、管理和

综合等处理。

④信息传输是经过计算机内部的指令或计算机之间的网络把信息从一个位置传

送到另一个位置。

⑤信息发布就是把信息经过各类表示形式展现出来。

(图灵机待续)