导图社区 概率论的基本概念
概率论入门,第一章内容的思维导图,逻辑清楚,层次分明,主要包含随机试验、 样本空间、随机事件、频率与概率、等可能概型(古典概型)、几何概型、条件概率、独立性等详细知识点。
编辑于2025-03-26 21:17:32概率论的基本概念
前言
现象
确定性现象/必然现象
在一定条件下必然发生的现象
随机现象/不确定现象
在个别试验中其结果呈现出不确定性,在大量重复试验中其结果又具有统计规律性的现象
统计规律性
在大量重复试验或观察中所呈现出的固有规律性
本书中以后提到的试验都是随机试验
我们是通过研究随机试验来研究随机现象的
P(B|A)
P(B)
子主题
随机试验
试验
在这里,我们把试验作为一个含义广泛的术语。它包括各种各样的科学实验,甚至对某一事物的某一特征的观察也认为是一种试验
随机试验
具有以下三个特点的试验称为随机实验
可以在相同的条件下重复地进行
每次试验的可能结果不止一个,并且能事先明确试验的所有可能结果
进行一次试验之前不能确定哪一个结果会出现
样本空间、随机事件
样本空间
我们将随机试验E的所有可能结果组成的集合称为E的样本空间,记为S
样本点
样本空间的元素,即E的每个结果,称为样本点
随机事件
一般,我们称试验E的样本空间S的子集为E的随机事件,简称事件
在每次试验中,当且仅当这一子集中的一个样本点出现时,称这一事件发生
基本事件
特别,由一个样本点组成的单点集,称为基本事件
复合事件
多个样本点组成
必然事件
样本空间S包含所有的样本点,它是S自身的子集,在每次试验中它总是发生的,S称为必然事件
不可能事件
空集Ø不包含任何样本点,它也作为样本空间的子集,它在每次试验中都不可能发生,Ø称为不可能事件
事件间的关系与事件的运算
事件是一个集合,因而事件间的关系与事件的运算自然按照集合论中集合之间的关系和集合运算来处理。 下面给出这些关系和运算在概率论中的提法,并根据“事件发生”的含义,给出它们在概率论中的含义。
频率与概率
频率
描述了事件发生的频繁程度
定义
性质
非负性
规范性
可加性
推广
有限可加性
定义
有限个互斥事件的并的概率等于各事件概率之和
适用范围
仅适用于有限个互斥事件的集合,无法直接推广到无限情形
可列可加性
定义
无限可数个互斥事件的并的概率等于各事件概率的级数和
无限可数
数学中,若集合的元素能与自然数建立一一映射,则该集合是可数无限的
举例
不可数无限
适用范围
适用于无限可数个互斥事件的集合,是现代概率论公理体系(柯尔莫哥洛夫公理)的核心要求
联系
可列可加性蕴含有限可加性
若一个测度满足可列可加性,则它必然满足有限可加性(取无限序列中有限项后补零即可)
有限可加性不蕴含可列可加性
存在仅满足有限可加性但不可列可加的“概率”(如某些非标准测度)
由于事件A发生的频率是它发生的次数与试验次数之比,其大小表示A发生的频繁程度.频率大,事件A发生就频繁,这意味着事件A在一次试验中发生的可能性就大。反之亦然,因而,直观的想法是用频率来表示事件A在一次试验中发生的可能性的大小.
大量试验证实,当重复试验的次数n逐渐增大时,频率呈现出稳定性,逐渐稳定于某个常数。 这种“频率稳定性”即通常所说的统计规律性。 我们让试验重复大量次数,计算频率,以它来表征事件A发生可能性的大小是合适的
但是,在实际中,我们不可能对每一事件都做大量的试验,然后求得事件的频率,用以表征事件发生可能性的大小。 同时,为了理论研究的需要,我们从频率的稳定性和频率的性质得到启发,给出如下表征事件发生可能性大小的概率的定义
概率
表征事件在一次试验中发生的可能性大小的数
定义
这三个条件是三条公理,也即柯尔莫哥洛夫公理
概率的定义只给出概率必须满足的三条基本性质,并未对事件A的概率P(A)给定一个具体的数 只在古典概型的情况下,对于每个事件A给出了概率P(A)=k/n
性质
奇数加,偶数减
等可能概型(古典概型)
定义
1º 试验的样本空间只包含有限个元素
2º 试验中每个基本事件发生的可能性相同
具有以上两个特点的试验是大量存在的,这种试验称为等可能概型。 它在概率论发展初期曾是主要的研究对象,所以也称为古典概型。 等可能概型的一些概念具有直观、容易理解的特点,有着广泛的应用
等可能概型中事件概率的计算公式
可列可加性:n→∞
有限可加性:n为有限值
当样本空间的元素较多时,我们一般不再将S中的元素一一列出,而只需分别求出S中与A中包含的元素的个数(即基本事件的个数),再由(4.1)式即可求出A的概率
扩展
发生概率不等可能
样本空间无穷
几何概型
实际推断原理
概率很小的事件在一次实验中实际上几乎是不发生的
由人们在长期的实践中总结得到
几何概型
特点
样本点数不可数无穷多
每个样本点出现的可能性相同
定义
设E的所有结果构成区域 Ω(一维、二维、三维,…),样本点落在区域 Ω 的子区域g 中可能性大小与g的测度成正比,而与g在Ω中的位量与形状无关,这类概率问题被称为几何概型
测度—长度、面积、体积…
与古典不同处在于无穷多的样本空间E,所以每点的可能性→0而无意义,只能取一段区间,在长度相同的区间内可能性相同
条件概率
条件概率
条件概率是概率论中的一个重要而实用的概念。所考虑的是事件A已发生的条件下事件B发生的概率
定义
条件概率符合概率定义中的三个条件
性质
由于条件概率符合上述三个条件,故第三节中对概率所证明的一些重要结果都适用于条件概率
求条件概率P(B|A)的两种方法
按条件概率的含义,直接求出P(B|A)
注意到,在求P(B|A)时事件A已发生,样本空间S中所有不属于A的样本点都被排除,原来的样本空间S缩减成为S'=A. 在缩减了的样本空间S'=A中计算事件B的概率就得到P(B|A)
在古典概型中
在几何概型中
乘法定理
全概率公式和贝叶斯公式
先介绍样本空间的划分的定义
全概率公式
贝叶斯公式
贝叶斯公式(Bayes' Theorem)是概率论中的一个核心定理,用来描述在已知某些条件下,如何更新对事件发生概率的估计。它的核心思想是通过新证据(观测数据)来修正先验概率,得到后验概率
公式的数学表达式为
P(B|A):在事件A发生的条件下,事件B发生的概率(后验概率)
P(A|B):在事件B发生的条件下,事件A发生的概率(似然概率)
P(B):事件B独立发生的先验概率(初始假设)
P(A):事件A独立发生的总概率(通常通过全概率公式计算)
举例
意义
动态更新认知
通过新数据(A)修正对事件(B)的初始判断(先验概率)
应用广泛
如垃圾邮件分类(根据关键词出现更新是否为垃圾邮件的概率)、医学诊断、机器学习中的贝叶斯网络
简而言之,贝叶斯公式教会我们:不要孤立地看待证据,而是结合背景信息(先验)和证据本身(似然)做出更合理的推断
对比全概率公式
思想
常用
独立性
两个事件的独立性
定义
定理
三个事件的独立性
相互独立
两两独立
设A,B,C是三事件,如果仅具有等式 P(AB)=P(A)P(B) P(BC)=P(B)P(C) P(AC)=P(A)P(C) 则称三事件A、B、C两两独立
一般,当事件A、B、C两两独立时 P(ABC)=P(A)P(B)P(C)不一定成立
n个事件的独立性
相互独立
推论
另一种定义表达方式
两两独立
应该注意到,在实际应用中,对于事件的独立性,我们往往不是根据定义来验证而是根据实际意义加以判断的。 根据实际背景判断事件的独立性,往往并不困难。