信息论、推理与学习算法
当前位置:首页 > 计算机网络 > 计算机理论 > 信息论、推理与学习算法
出版社:高等教育出版社
出版日期:2006-7
ISBN:9787040196412
作者:麦凯
页数:743页
作者简介
本书是英国剑桥大学卡文迪许实验室的著名学者David J．C．MacKay博士总结多年教学经验和科研成果，于2003年推出的一部力作。本书作者不仅透彻地论述了传统信息论的内容和最新编码算法，而且以高度的学科驾驭能力，匠心独具地在一个统一框架下讨论了贝叶斯数据建模、蒙特卡罗方法、聚类算法、神经网络等属于机器学习和推理领域的主题，从而很好地将诸多学科的技术内涵融会贯通。本书注重理论与实际的结合，内容组织科学严谨，反映了多门学科的内在联系和发展趋势。同时，本书还包含了丰富的例题和近400道习题(其中许多习题还配有详细的解答)，便于教学或自学，适合作为信息科学与技术相关专业高年级本科生和研究生教材，对相关专业技术人员也不失为一本有益的参考书。...
书籍目录
第1章 信息论导论
第2章 概率、熵与推理
第3章 有关推理的更多内容
第一部分 数据压缩
第4章 信源编码定理
第5章 符号码
第6章 符号流码
第7章 整数的码
第二部分 噪声信道编码
第8章 相关随机变量
第9章 噪声信道上的通信
第10章 噪声信道编码定理
第11章 纠错码与实际信道
第三部分 信息论中的更多专题
第12章 散列码：用于有效信息检索的码
第13章 二进制码
第14章 存在很好的线性码
第15章 有关信息论的更多习题
第16章 消息传递
第17章 受限无噪信道上的通信
第18章 纵横字谜与密码破译
第19章 为何有性?信息获取与进化
第四部分 概率与推理
第20章 一个推理任务示例：聚类
第2l章 基于完全枚举的精确推理
第22章 最大似然与聚类
第23章 有用的概率分布
第24章 精确边缘化
第25章 网格中的精确边缘化
第26章 图中的精确边缘化
第27章 拉普拉斯方法
第28章 模型比较与奥卡姆剃刀原理
第29章 蒙特卡罗方法
第30章 有效的蒙特卡罗方法
第31章 伊辛模型
第32章 精确蒙特卡罗采样
第33章 变参法
第34章 独立元素分析与隐含变量建模
第35章 有关随机推理的专题
第36章 决策论
第37章 贝叶斯推理与抽样理论
第五部分 神经网络
第38章 神经网络引言
第39章 单神经元分类器
第40章 单神经元的容量
第41章 以学习作推理
第42章 HopfieId网络
第43章 玻耳兹曼机
第44章 多层网络的有监督学习
第45章 高斯过程
第46章 反卷积
第六部分 稀疏图码
第47章 低密度奇偶校验码
第48章 卷积码与Turbo码
第49章 重复累加码
第50章 数字喷泉码
第七部分 附录
附录A 记号
附录B 一些物理知识
附录C 一些数学知识
英汉词汇表
参考文献
内容概要
作者：(英)麦凯
图书封面
发布书评
精彩书评 (总计2条)
-
Mackay在我心中是一个多才多艺的天才，他重新发现了LDPC码的价值，使得这一具有革命性影响的信道码没有沉没在故纸堆中。这本书神奇地把数据压缩、通信理论、神经网络甚至是分布式算法这些我们在多门课程中学习的东西统一到了统计尤其是Bayesian统计的大框架下来，使得我们的知识不再支离破碎，相互孤立，俨然成为一个互相联系，相互依存，且服从于一个大的原则的有机整体，这才是信息论的独特魅力所在。信息论是一个从生活中来，在生活的各个角落（如那些绕人的智力题，那些关于生命的进化的问题）都有有趣的体现的科学，而不仅仅是那些枯燥的公式。公式只是形式，最重要的是公式后面的内容，只有明白了内容，你才会发觉那些公式是那么地有趣，那么地美，否则他们对你而言只会是应付考试时的烦人的必背点，很遗憾的是，我们目前从学校学到的是后者。我觉得在信号处理、计算机算法等方面需要进一步深造的研究生需要读一读它，它把我们在本科学到的东西串起来，让你恍然大悟：原来我学的这些东西都有这些门道啊；进一步地，顺其自然地深化这些东西，这对于研究生是非常重要的一点。我们在做项目、搞科研的过程中，如果对一个方法论的东西有比较深的体会，对于解决问题是非常重要的，毕竟项目中的问题没有标准答案，没有解题技巧，它更需要这些软实力。这本书背后的统计、Beyesian思想是目前信号处理的主流思想，也是维纳所创造的控制论之后的新的方法论。在网络飞速发展、技术日新月异的今天，越来越多的数据出现了，对这些数据的处理和信息提取，已经成为一个新的任务。传统的以Weiner为领军人物的数据处理思路，是以模型为背景的。即我们在处理任何问题时首先都需要假设这些数据服从某一个模型（最常用的是高斯分布），然后对它进行参数估计等分析，再来进行滤波等信号变换；随着数据量的增多以及数据来源的不可控，数据越来越偏离模型，这个时候“弱假设”可能成为更好的办法，Bayesian方法为弱假设条件下的数据处理提供了一套不错的方法。因此，这本书的可看性是相当高的。 -
学习信息论的时候，老师推荐的，然后就买来了。实例很多，习题也很经典，花费了一个学期看了一遍，感觉对信息论的理解完全高了好多个层次。
精彩短评 (总计27条)
-
内容不够详细 有些介绍了就带过了。 -
机器学习研究者推荐看 -
结构很好，内容丰富细致，相对其他同类教材比较前沿。关键是作者也很牛，自己还有公司在做信道编码。其实就是数字喷泉码公司（DigitalFountain）。 -
书的内容很好，可是书有磨损，不太开心 -
以更本质的信息论的角度去看待机器学习问题 将概率视作推理的强大工具 -
书不错，不过似乎我需要实践性强一点的。如果例子多一点就好了。 -
牛人写的牛书。对于理解变分贝叶斯绝对是必备教材之一。 -
还行，读起来有些作用，也没说的那么好 -
内容很多，还没来得及看，正品，满意 -
对于信息传递的讲的非常清楚。 -
我是在看《数学之美》的过程中，对熵这部分的介绍感兴趣，才按照参考书目买这本书的。内容没啥好评价的，当然好！原书是5星，翻译以后是4星，经过国内出版社印刷和发行就剩3星了。这书的质量，非常让我不满意：第一，书拿在手里，跟盗版书的感觉差不多。这么厚的一本书，封面是薄薄的亮光纸，里面的纸张更让人担心。第二，封面有一条重重的折痕，打开封面看到的一页就出现纸张撕裂的现象，还有点脏，真不知道这种书亚马逊也会发给读者。总之，很不满意！ -
不错，正版，还便宜 -
有提到模型和数据信息量等问题 -
真是不错，发货速度很快 -
刚开始看，任重道远啊，公式一大堆！！ -
后面比较精彩 尤其是基因 -
内容取材很广泛，有很多有趣的例子，能够引起阅读兴趣， -
还要再读的书 -
感觉不怎么样。。 -
质量不错哦！～～～很好的一本书！～～～赞一个 -
看完了贝叶斯推理相关，写得挺清楚的。 -
英文书好贵呀，只能买中文的了 -
感兴趣的书，写的很生动，深入浅出。 -
:
TN911.2/5427 -
没有读完，时间不是太够 -
总的来说还行，其主要内容主要是针对那些初步学习信息理论的学生。 -
很原创。