前言

发现一本概率论与随机过程的好书《概率、随机变量与随机过程》，把笔记记录成博客。

我们首先要问，什么是概率论，为什么会有概率论？

我们对物理世界和其抽象模型的区别是容易接受的，比如物理学. 同时我们会认为：宇宙是按确定性规律发展的，一些规律精确地规定了宇宙的未来，只是由于我们的无和或获得信息的不充足，才需要概率地描述一件事。这也是宏观现象给我们的经验.

这是从根本上对概率的正确性的怀疑,只有通过对概率的意义作出正确的解释才能说明其重要性:

  • 首先，在微观物理层次，经典力学失去意义，表现为量子力学，而它基于概率论，即上帝也是扔骰子的。我们所看到的确定性的宏观现象，都是由大量随机事件组成的。

  • 其次，概率论是一门演绎的科学，可以用公理化的办法来展开。

  • 最后，概率论是一种逻辑推理，可以说适用于生活的方方面面。

概率论的目的

概率论是要通过对各种事件指定概率这一术语，以描述和预测大量该种事件发生的平均。

为了这个目的,我们可分为3个步骤实现:

  1. 物理的. 通过不精确也不可能成为精确的手续,确定事件$\mathscr A$的概率 $P(\mathscr{A})$:

$$P(\mathscr{A})\approx \frac{n_\mathscr{A}}{n}$$

  1. 概念的. 假设概率满足某些公理,我们可从一些事件的概率演绎推理出来另外一些事件的概率. 如我们知道均匀骰子每个面出现的概率是$\frac16$,所以我们知道出现偶数点的概率是$\frac36$
  2. 物理的. 在书籍事件出现的概率后对物理现象作出预测.这一步也是不明确的.

概率论只涉及其中的第二步,它会告诉我们怎样从某些假定为已知的概率来推算其它的概率.所以它是一种推理方法. 而第一步和第三步其实是属于统计学的研究对象. 同时概率论为统计学提供理论支持.

后面的系列文章将围绕这几点进行说明.

概率论的方法

是同时对事件和概率量化. 这也可能是产生混淆的原因. 比如说扔骰子,我们对各个面进行了赋值,所以区分了各个事件和组合事件,同时我们对概率也进行赋值,为$1/6$.

概率的各种定义

概率的定义比较多,这也是让人头疼的事.

公理化定义

这是一个纯数学上的定义(测度),指出了一事件的概率是针对此事件指定的一个数,它是非负的,必然事件的概率是1,互斥事件的概率是各事件概率之和.

相对频率定义

它用相对频率的极限当作事件发生的概率,但是不可能实验验证: $$P(\mathscr{A})=\lim_{n->\infty} \frac{n_\mathscr{A}}{n}$$

而公理化定义就很好地解决了这个问题,能过证明大数定理,公理化定义推出了事件的概率几乎必然地等于相对频率的极限.

古典定义

古典定义概率基于等可能实验: $$P(\mathscr{A})=\frac{n_\mathscr{A}}{n}$$

这在现在看来当然是错的.

归纳推理定义

概率常被用作对某些可能发生或可能不发生的东西的判断的测度,比如有罪无罪的判断,主观上我们会认为没犯过罪的犯罪概率低,犯过罪的人犯罪概率高.但是必须强调的是,这和自然科学中应用的概率论是不同的. 所以我们应该明确概率的定义,用到生活中适合的地方.

这里推荐一本书:《Probability Theory: the logic of science》.