第三章 从Shannon信息论到认知信息论.pdfVIP

32 8 Vol． 32 № ． 8 第 卷第 期 哈 尔 滨 工 程 大 学 学 报 2011 8 Aug． 2011 年 月 Journal of Harbin Engineering University doi :10 ． 3969 /j ． issn． 1006-7043． 2011． 08． 018 从Shannon 信息论到认知信息论 卢侃 ( ， 150001 ) 哈尔滨工程大学信息与通信工程学院 黑龙江哈尔滨 : ， ． Shannon ， 摘 要 人类认知属于特定的信息活动 应该有其相应的数学理论 以 信息论的熵理论为基础 探讨了认知的数 ， ， 学原理 指出认知活动其实就是从庞大的感知输入信号之中 以一次次减熵的数学运算获得外界事物的存在信息和其属 ． ， ． ， 性信息 并且还在事物性态的相互约束中 以减熵运算总结出事物间的规律信息 至于事物的状态信息 可以通过规律知 ， ， ． 识加以预测 并在当前适时的观察中 从象信息参数的变异里检测到 : ; ; ; ; 关键词 认知 减熵 象信息 物信息 规律知识信息 中图分类号:G201 文献标识码:A 文章编号:1006-7043 (2011)08-1063-05 From Shannons information theory to cognitive information theory LU Kan (College of Information and Communication Engineering ，Harbin Engineering University ，Harbin 150001，China) Abstract :Human cognition is a kind of information activity ，so it must have relevant mathematical theories of its own． Based on the entropy theory of Shannon＇s information theory ，the fundamental mathematical principle of cogni- tion was discussed． It was pointed out that cognition is a series of decreases in entropy through which the object in- formation and information of regularities are obtained from enormous input perception signals． As for the state of in- formation ，it can be partly determined by prediction and partly detected in real observation of the va