统计学系列条目
概率论
  • 概率公理
  • 概率空间
  • 样本空间
  • 基本事件
  • 事件
  • 随机变量
  • 概率测度
  • 对立事件
  • 联合分布
  • 边缘分布
  • 条件概率
  • 统计独立性
  • 条件独立
  • 全概率公式
  • 大数定律
  • 贝叶斯定理
  • 布尔不等式
  • 文氏图
  • 树形图

概率空间是概率论的基础。概率的严格定义基于这个概念。

定义

概率空间(Ω, F, P)是一个总测度为1的测度空间(即P(Ω)=1).

第一项Ω是一个非空集合,有时称作“样本空间”。Ω 的集合元素称作“样本输出”,可写作ω。

第二项F是样本空间Ω的幂集的一个非空子集。F的集合元素称为事件Σ。事件Σ是样本空间Ω的子集。集合F必须是一个σ-代数:

  1. Φ F {\displaystyle \Phi {\in }{\mathcal {F}}}
  2. A F {\displaystyle A{\in }{\mathcal {F}}} ,则 A ¯ F {\displaystyle {\bar {A}}{\in }{\mathcal {F}}}
  3. A n F {\displaystyle A_{n}{\in }{\mathcal {F}}} n = 1 , 2 , . . . {\displaystyle n=1,2,...} ,则 n = 1 A n F {\displaystyle \bigcup _{n=1}^{\infty }A_{n}{\in }{\mathcal {F}}}

(Ω, F)合起来称为可测空间。事件就是样本输出的集合,在此集合上可定义其概率。

第三项P称为概率,或者概率测度。这是一个从集合F到实数域R的函数, P : F R {\displaystyle P:\;F{\mapsto }R} 。每个事件都被此函数赋予一个0和1之间的概率值

概率测度经常以黑体表示,例如 P {\displaystyle \mathbb {P} } Q {\displaystyle \mathbb {Q} } ,也可用符号"Pr"来表示。

离散模式

离散几率理论仅需要可数集的样本空间 Ω {\displaystyle \Omega } 。 几率指的是由几率质量函数 p : Ω [ 0 , 1 ] {\displaystyle p:\Omega \to [0,1]} 求得 Ω {\displaystyle \Omega } 上的使得 ω Ω p ( ω ) = 1 {\displaystyle \textstyle \sum _{\omega \in \Omega }p(\omega )=1} 的点。 Ω {\displaystyle \Omega } 全部的子集合可视为随机事件(也就是 F = 2 Ω {\displaystyle {\mathcal {F}}=2^{\Omega }} 为幂集)。几率测度可简写为 ( ) P ( A ) = ω A p ( ω ) for all  A Ω {\displaystyle (*)\qquad P(A)=\sum _{\omega \in A}p(\omega )\quad {\text{for all }}A\subseteq \Omega }

使用σ-代数 F = 2 Ω {\displaystyle {\mathcal {F}}=2^{\Omega }} 能够完整描述样本空间。一般来说,σ-代数相当于一个有限或可数的集合划分 Ω = B 1 B 2 {\displaystyle \Omega =B_{1}\cup B_{2}\cup \dots } ,事件A的一般型 A F {\displaystyle A\in {\mathcal {F}}} A = B k 1 B k 2 {\displaystyle A=B_{k_{1}}\cup B_{k_{2}}\cup \dots }

p ( ω ) = 0 {\displaystyle p(\omega )=0} 是被定义允许的情况但极少使用,因为如此的 ω {\displaystyle \omega } 可以安全的从样本空间中移除。

一般模式

如果Ω不可数,存在某些ω使得p(ω) ≠ 0 的情况仍然存在,那些ω称为原子。他们大部分都是可数的集合(有可能为空集合),其可能性为所有原子几率的和。如果这个和等于1,那么其他的点可以安全地从样本空间中移除,回归离散模式。反之,如果和少与1(有可能为零)那么几率空间分解成为离散(原子)部分(可能为零),以及非原子部分。

例子

若样本空间是关于一个机会均等的抛硬币动作,则样本输出为“正面”或“反面”。事件为:

相关概念

随机变量

随机变量是一个从Ω映射到另一个集合(通常是实数域R)的函数。 它必须是一个可测函数。比如说,若X是一个实随机变量,则使X为正的样本输出的集合{ω∈Ω:X(ω)>0}是一个事件。

为简便起见,{ω∈Ω:X(ω)>0}经常只写作{X>0}。P({X>0})更被简化为P(X>0)。

独立

P(AB)=P(A)P(B),则AB两个事件是独立的。

若任何与随机变量X有关的事件和任何与随机变量Y有关的事件独立,则XY两个随机变量是独立的。

独立这个概念是概率论和测度论分道扬镳的地方。

互斥

P(AB)=0,则称AB两个事件互斥或不相交(这个性质要比AB=弱一些,后者是集合不相交的定义)。

若两个事件AB不相交,则P(AB)=P(A)+P(B)。这个性质可以扩展到由(有限个或者可数无限个)事件组成的事件序列。 但不可数无限个事件组成的事件集合对应的概率与集合元素对应概率之和未必相等,例如若Z是正态分布的随机变量,则对任意xP(Z=x)=0,但是P(Z是实数)=1。

事件AB的意思是A并且B;事件AB的意思是A或者B.

www.zuoweixin.com
问题反馈联系QQ:暂无联系方式,也可发qq邮箱。