免费小说阅读网

手机浏览器扫描二维码访问

第441章 香农的信息熵（第4页）

虽然俺是个马虎的人，这里的遣词造句是极其考究，极负责任，极具情怀的。

咱们用老千掷硬币的例子先看看大数定理到底说了些啥子嘛。

假设那个老千掷了n次硬币，那么他就得到了n个在{0，1}里取值的数。

因为这n个数都是随机的，这n个数的均值当然也是个随机变量，就是说也有一个概率分布函数，有一定的不确定性。

大数定理告诉俺们，当n很大的时候，这n个数的平均值“几乎总是很接近”

13。

“几乎总是”

和“很接近”

是可以在数学上严格定义的，不过当俺讲完它们的定义的时候，估保守，但俺码字已经快要吐血，正在后悔俺为什么要揽下这么个差事，所以就随便套了一下切比晒夫不等式得出下面这些“至少有”

的结论）：

当n=1000时，至少有91.1%的概率这个平均值很接近13。

当n=10000时，至少有99.1%的概率这个平均值很接近13。

当n=100000时，至少有99.9%的概率这个平均值很接近13。

如果把“很接近13”

理解为跟13相差不到0.02，那么：

当n=1000时，至少有44.4%的概率这个平均值很接近13。

当n=10000时，至少有94.4%的概率这个平均值很接近13。

当n=100000时，至少有99.4%的概率这个平均值很接近13。

当n=1000000时，至少有99.9%的概率这个平均值很接近13。

现在展开你想象的翅膀，你应该看到当n变成无穷大的时候，这个平均值就不再是“几乎总是很接近13”

，而是“就是13”

了！

至此同学们可能已经体会出俺极其考究、极负责任的“几乎总是很接近”

了吧。

这里的情怀还是让俺带你们领略一下吧。

老千掷出的序列当然是随机的、不确定的、没有规律的。

这个序列的平均数虽然也在13周围随机跳动，但却随着n的增大越发确定起来。

当n很小、她就在你跟前的时候，变化多端、捉摸不定的她让你无法看清；当n增大的时候，她渐行渐远，但她在风中颤动的身影却在你记忆的相机里慢慢聚焦，越来越清晰；直到她消逝在无限的远方，她竟定格成一幅永恒而又无比真切的画面......

学霸们可能会觉得俺太矫情了：不就一个简单的大数定理吗，有必要这么忽悠吗？其实俺也觉得自己有些矫情。

但看完本文之后，俺请你再回头体会一下大数定理的情怀。

“二十个问题”

游戏的准确规则及特例

用概率论武装一下之后，同学们应该已经认识到，在“二十个问题”

游戏中俺心里想的神秘数字其实就是一个随机变量X。

我们可以假设它的取值范围S={1，2，…，M}和概率分布函数P（x）都已知。

当然在实际情况下我们未必真知道P（x），但往往可以大致估计这个函数。

如果对这个分布函数我们一无所知，我们不妨认为P（x）是个均匀分布。

对于任意一个给定的问问题策略，如果俺心里的神秘数字是x，我们把所需的问题个数记作L（x）。

比如M=8，而我们用前面提到的那个从1问到7的策略问问题，我们就会得到：

L（1）=1，L（2）=2，L（3）=3，L（4）=4，