信息与信号读书报告（定稿）_信号与系统读书报告
信息与信号读书报告（定稿）由刀豆文库小编整理，希望给你工作、学习、生活带来方便，猜你可能喜欢“信号与系统读书报告”。
学习报告1 信息论的形成及其现阶段的发展
1.信息论概念的形成信息论是一门应用近代数理统计方法来研究信息的传输和处理的科学。通信是人类活动中最为普遍的现象之一，信息的传递与交换是时时处处都发生着的事情。在信息的传递与交换中，人们当然希望能够又多、又快、又好、又经济地传递信息。
1948年，美国一位数学家克劳特·香农(C.E．Shannon)发表了一篇著名的论文《通信的数学理论》。差不多与此同时，美国另一位数学家诺伯特·维纳也发表了题为《时间序列的内插、外推和平滑化》的论文以及题为《控制论》的专著。在这些著作中，他们分别解决了按“通信的消息”来理解的信息(狭义信息)的度量问题，并得到了相同的结果。香农的论文还给出了信息传输问题的一系列重要结果，建立了比较完整而系统的信息理论，这就是香农信息论，也叫狭义信息论(简称“信息论”)
信息论形成的几个阶段：
1928年，哈特莱首先提出了对数度量信息的概念。哈特莱的工作给香农很大的启示，他在1941~1944年对通信和密码进行深入研究，用概率论和数理统计的方法系统地讨论了通信的基本问题，得出了几个重要的带有普遍意义的结论。阐述通信系统传递的对象就是信息，并对信息给与科学的定量描述，提出信息熵的概念。
20世纪50年代，信息论在学术界引起了巨大的反响。1951年，美国无线电工程师协会成立了信息论组，并于1955年正式出版信息论汇刊。
20世纪60年代，信道编码技术有了较大的发展，成为信息论的又一重要分支。他把代数的方法引入到纠错码的研究，使分组技术达到了高峰，找到了可纠正多个错误的码，并提出了可实现的译码方法。其次是卷积码和概率码有了重大突破，提出了序列译码和维特比译码方法。
1961年，香农的重要论文“双路通信信道”开拓了多用户信息理论的研究。
第五次变革是计算机技术与通信技术相结合，促进了网络通信的发展。宽带综合业务数字网的出现，给人们提供了除了电话服务以外的多种服务，是人类社会逐渐进入信息化时代。
2.信息论的主要内容
信息论是研究信息的产生、获取、变换、传输、存贮、处理识别及利用的学科。信息论还研究信道的容量、消息的编码与调制的问题以及噪声与滤波的理论等方面的内容。信息论还研究语义信息、有效信息和模糊信息等方面的问题。信息论有狭义和广义之分。
广义信息论的内容：
广义信息论又称信息科学，主要研究以计算机处理为中心的信息处理的基本理论，包括评议、文字的处理、图像识别、学习理论及其各种应用。广义信息论则把信息定义为物质在相互作用中表征外部情况的一种普遍属性，它是一种物质系统的特性以一定形式在另一种物质系统中的再现。广义信息论包括了狭义信息论的内容，但其研究范围却比通讯领域广泛得多，是狭义信息论在各个领域的应用和推广，因此，它的规律也更一般化，适用于各个领域，所以它是一门横断学科。广义信息论，人们也称它为信息科学。
狭义信息论的内容：
狭义信息论即香农早期的研究成果，它以编码理论为中心，主要研究信息系统模型、信息的度量、信息容量、编码理论及噪声理论等。
3.信息论的应用
信息论是应用近代数理统计方法研究信息的传输、存储与处理的科学。其基本任务是为设计有效而可靠的通信系统提供理论依据，主要特点是理论的成功应用。
信息论在数据压缩理论中的应用：
数据压缩的主要目的是力求用最少的数据表示信源所发出的信号，使信号占用的存储空间尽可能小，以达到提高信息传输速度的目的。香农在 1948 年发表的论文《通信的数学理论》一文中指出，任何信息都有冗余，冗余大小和信息中每个符号的出现概率或者说不确定性有关。香农把信息中排除了冗余后的平均信息量称为信息熵，并给出了计算信息熵的数学表达式，这为数据压缩奠定了理论基础。
数据压缩技术的不断完善是依靠在信息论这门学科的成长上的，信息能否被压缩以及能在多大程度上被压缩与信息的不确定性有直接的关系，人工智能技术将会对数据压缩的未来产生重大影响。信息论在密码学中的应用： 密码学是研究编制密码和破译密码的技术科学。从传统意义上来说，密码学是研究如何把信息转换成一种隐蔽的方式并阻止其他人得到它。密码术的研究和应用虽有很长的历史，但在信息论诞生之前，它还没有系统的理论，直到香农发表的保密通信的信息理论一文，为密码学确立了一系列的基本原则与指标，如加密运算中的完全性、剩余度等指标，它们与信息的度量有着密切相关。信息论在统计中的应用：
信息论在统计中的应用一般指信息量在统计中的应用，也有编码定理与码结构在统计中的应用等问题。由于统计学研究的问题日趋复杂，如统计模型从线性到非线性，统计分布从单一分布到混合分布，因此信息量在统计中的作用日趋重要，在许多问题中以信息量作为它们的基本度量。
统计计算技术Bayes 计算的方法有很多，其中一类是直接应用于后验分布以得到后验均值或后验众数的估计，以及这种估计的渐进方差或其近似，如EM算法。它的特点与信道容量的递推渐近算法相似，但应用更为广泛。信息与统计相结合的其他典型问题还很多，如假设检验中的两类误差估计问题，试验设计问题，信息量在有效估计中的应用问题等，这些问题已使信息论与统计学想成相互推动发展的局面
信息论在信号处理中的应用：
信号处理包括数据、影象、语声或其他的信号的处理，从信息论的观点看，信号则是观察客观事物表达其相应信息的技术手段，也就是特定信息的载体。
由于信息论在数据压缩、密码学、信号处理和统计等方面有突出贡献，在信息膨胀的今天，随着人类社会对于信息高速处理和运用的需求，信息论将在电子通讯、生化工程、医药应用、教育科研、国防军事等各种领域里发挥更大的作用，并且有其不可替代的作用。
4.信息论现阶段的发展情况
迄今为止，人类社会已经发生过四次信息技术革命。第一次革命是人类创造了语言和文字，接着现出了文献。语言、文献是当时信息存在的形式，也是信息交流的工具。
第二次革命是造纸和印刷技术的出现。这次革命结束了人们单纯依靠手抄、撰刻文献的时代，使得知识可以大量生产、存贮和流通，进一步扩大了信息交流的范围。
第三次革命是电报、电话、电视及其它通讯技术的发明和应用。这次革命是信息传递手段的历史性变革，它结束了人们单纯依靠烽火和驿站传递信息的历史，大大加快了信息传递速度。
第四次革命是电子计算机和现代通讯技术在信息工作中的应用。电子计算机和现代通讯技术的有效结合，使信息的处理速度、传递速度得到了惊人的提高；人类处理信息利用信息的能力达到了空前的高度。今天，人类社会已经进入了所谓的信息社会。
在当今的信息社会里，信息技术不断创新，改造着我们的生产和生活方式，信息论的内涵也不断加以补充和完善，信息论不是止步某个科学家的研究，它会随着历史现实的改变而不断发展向前，接受新时代的考验，并在各个领域发挥其不可替代的作用。
5.个人心得
通过对信息论相关知识和书籍的查阅、摘录和整理，我对信息论的基本概念和应用有了比较清晰的了解，这有助于我接下来更好的学习《信息与信号》这门课程。一开始对这门课的理解有些偏差，觉得信息与信号学的就是现在各种传媒和通讯的运作，没想到是要了解信息形成和传送的各种基本原理，觉得比学高等数学还要复杂，上了一节课自己就有点想要放弃的心思，但后来想想，如果原理都没有了解，怎么很好去操控信息，使信息和信号在自己的生活和工作中发挥作用呢？所以我希望通过这个学期的学习，自己能有所收获！
备注：报告内容大部分引自相关论文，并进行一定的摘录整合；图片直接截自相关书籍。
