导图社区 概率论与数理统计
基于《概率论与数理统计讲义》,包括概率、分布、数字特征、大数定律、数理统计、参数估计、假设检验的概念、公式与例题。
编辑于2020-12-06 16:36:19随机事件及运算
定义
确定性现象
一定条件必然发生
随机现象
可能出现不出现
试验
随机试验E
重复性
不可预见性
不确定性
随机事件
ABC
样本空间一个子集
一个随机事件发生,当且仅当事件包含一个样本点出现
随机变量
IA指示变量
基本事件
随机试验的每一个可能结果构成事件,随机试验中最简单的随机事件
单点集
复合事件
基本事件组成
多点集
不可能事件
=>0
必然事件
=>1
样本空间
样本点
随机实验每个可能结果
全体样本点
事件间关系运算
包含
A发生必然导致B发生
A包含于B
相等
A=B
并
A∪B
AB至少一个发生的事件
可列和
至少有一个发生
交
A∩B
AB同时发生的事件
同时发生
差
A-B
A发生而B不发生
互不相容
AB不可能同时发生
逆/对立事件
A不发生为A的逆事件
Ω所有不含在A的样本点的集合
完备事件组
差
A-B
含于A不含于B
性质
分配律
对偶律
概率与性质
频率
实验进行n次
性质
非负性
规范性
可列可加性
两两不相容
若AB不相容 AB=Φ
单调性
减法公式
容斥原理 加法公式
概率0不一定不可能
区间取一点
相互独立
P(B)>0
多事件
两两独立
相互独立
不相互推出
AB相互独立
<=>
贝叶斯公式
全概率公式
A1,A2~An
Ω的一个分割
完备事件组
乘法公式
Polya罐模型
b黑r红
取1放回
+c同d异
c=0,d=0
放回抽样
c=-1,d=0
不放回抽样
c>0,d=0
传染病模型
c=0,d>0
安全模型
条件概率
公理
非负
P(B|A)≥0
规范
P(Ω|A)=1
可列可加
B1-Bn不相容
m
A含样本点总数
k
AB含样本点
古典概型 等可能概型
特征
Ω只包含有限个样本点
每个样本点出现可能性相同
A含样本点总数/Ω含样本点总数
几何概型
与A度量正比、面积无关
P(A)=A的度量//Ω的度量
排列组合
随机变量与分布
随机变量与分布函数
随机变量X
每个ω∈Ω有确定实数X(ω)
离散型
非离散型
概率分布函数
F(x)=P{X≤x}
任意函数0→1
非负有界
-∞=0 +∞=1
单调不减函数
右连续函数
<<
-P
≤≤
+P
≤<
+P{X=x1}-P{X=x2}
P{X=a}=F(a+0)-F(a-0)
离散型随机变量分布
概率分布率
P{X=xk}=pk, k=1,2,..
pk≥0, k=1,2,...
分布
两点分布
X~B(1, p)
二项分布
伯努利试验
每次两个可能结果
A每次概率不变
各次实验相互独立
n次
1
最大值
泊松分布
泊松定理
是常数
n很大p很小
超几何分布
不放回抽样
几何分布
首次发生
无记忆性
随机变量函数分布
离散
相同值合并
连续
Y=g(x)
h(y)是g(x)反函数
X有概率密度函数
连续型随机变量
X
连续型随机变量
f(x)
概率密度函数
性质
≥0
x=∞ F=1
f(x)在x连续=>F'(x)=f(x)
常用
均匀分布
尺刻度
等车问题
指数分布
无记忆性
元器件寿命
正态分布
标准正态分布
X~N(0,1)
E(X)=0
多维随机变量
分 布
联合概率布函数
边缘概率分布函数
性质
对x、y单调不减
x、y右连续
F(x+0, y =F(X, y F(x, y+0 = F(x, y
x1<x2 y1<y2
F(x2, y2) - F(x1, y2) - F(x2, y1) +F(x1, y1)
独立
二 维 离 散 型 随 机 变 量
联合分布率
性质
边缘概率分布率
条件概率分布率
p·j>0
性质
独立
二 维 连 续 型 随 机 变 量
联合概率密度
f(x,y)≥0
满足则必是联合概率密度
f(x,y)在(x,y)连续
边缘分布
边缘概率密度
二维均匀分布
二维正态分布
两个边缘密度和ρ无关
联合确定边缘
边缘不确定联合
条件概率密度
Y=y
独立
XY相互独立
<=>
二位随机变量函数分布
子主题
离散
子主题
卷积
随机变量的数字特征
数 学 期 望
离散
收敛
连续
收敛
随机变量函数
Y=g(X)
离散
收敛
连续
收敛
Z=g(X,Y)
离散
收敛
连续
收敛
性质
XY相互独立
分解法
方 差
离散
连续
X²期望不存在 => X方差不存在
标准差
性质
平移不改方差
XY相互独立
D(X)=0 <=> P{X=c}=1
f(x)=E(X-x)²
当x=E(X), f(x)有最小值D(X)
变换
正态分布
矩 阵
矩
k阶原点矩
X一阶原点矩
数学期望
k阶中心矩
X二阶中心矩
方差
X和Y的k+l阶混合原点矩
X和Y的k+l阶混合中心矩
XY二阶混合中心矩
协方差
协方差矩阵
对称阵
cii=D(Xi)
非负定
相 关 系 数
变换
性质
柯西-施瓦茨不等式
<=> P{Y=aX+b}=1
相关
ρ=0
XY不线性相关
ρ>0
XY正(线性)相关
ρ<0
-
(X,Y)是二维随机变量
四命题等价
XY不相关,ρ=0
正态
协 方 差
性质
大数定律
Chebyshev不等式
E(X)=μ
D(X)=σ²
任意正数ε
大数定律
序列X1X2...Xn依概率收敛于X
Chebyshev大数定律
X1X2...Xn两两不相关的随机变量序列,方差有界
伯努利大数定律
n重伯努利试验中 每次实验A概率p μn为n重伯努利试验A发生次数
khinchin大数定律
X1X2...Xn一列独立同分布的随机变量序列 数学期望存在E(Xi)=μ
中心极限定理
X1X2...Xn独立同分布 E(X)=μ d(Xi)=σ²>0
的分布函数F(n(x)
独立重复实验序列,A概率p Yn表示A在n次试验次数
n充分大时
服从二项分布B(n,p)随机变量Yn近似服从正态分布N(np,np(1-p))
数理统计
总体
研究对象某项数量指标
个体
总体的每个元素
样本
总体X随机抽取n个体X1-Xn
样本容量
样本中个体数n
简单随机样本
独立性
每个观测结果不影响也不受影响
代表性
个体Xi与总体同分布
经验分布函数
指标函数
单调非减右连续
Fn(x)是事件{X≤x}发生频率
F(x)=P{X≤x}是事件{X≤x}发生概率
样本容量足够大时,经验分布函数与总体分布函数相差大的概率小
统计量分布
样本矩
样本均值
样本方差
样本标准差
k阶原点矩
k=1,2,...
k阶中心矩
次序统计量
取自总体X的样本
样本观测值
由小到大重排
次序统计量
最小次序统计量
最大次序统计量
概率密度
X概率密度函数f(x) 分布函数F(x)
概率密度函数
X分布函数
X(1)概率密度函数
X(n)概率密度函数
分布
分布
自由度为n
概率密度函数
Y1Y2相互独立
t分布
自由度为n
概率密度函数
F分布
X Y相互独立
抽样分布定理
来自正态总体
样本均值
样本方差
相互独立
参数估计
点估计
矩估计法
最大似然估计
似然函数·
H θ取值范围
θ的最大似然估计值
对数似然函数
对数似然方程组
优良性准则
无偏性
UE
均值μ 方差σ² (X1...Xn)是取自X的样本
有效性
θ1比θ2有效
相合估计
θn是θ相合估计两/一致估计量
区间估计
置信区间
置信下限/上限
置信度/置信水平
假设检验
基本
原假设/零假设
备择假设/对立假设
步骤
由实际问题要求,提出原假设H0和备择假设H1
由H0选择合适的检验统计量
对显著水平α,确定小概率事件(拒绝域)W
由
拒绝域
样本落入拒绝域W,拒绝原假设H0;否则不拒绝H0
两类错误
第一类错误
原假设为真,观测值落在拒绝域
第二类错误
H0不真,观测值落在接受域
显著性检验
讨论假设检验时只控制第一类错误的概率α
显著性水平α
检验
双侧检验
右侧检验
左侧检验
假设检验
最小显著水平 p值
事 件 关 系
分 配 律
对 偶 律
相互独立
减法公式
容斥原理
条件概率
m
A含样本点总数
k
AB含样本点
乘法公式
全概率公式
贝叶斯公式
分 布
概率分布函数
F(x)=P{X≤x}
右连续性
分布
两点分布
二项分布
最大值
泊松分布
泊松定理
n很大p很小
超几何分布
不放回抽样
几何分布
首次发生
无记忆性
连 续 型 随 机 变 量
常用
均匀分布
尺刻度
等车问题
指数分布
无记忆性
元器件寿命
正态分布
标准正态分布
X~N(0,1)
E(X)=0
概率密度函数
多 维 随 机 变 量
分 布
边缘概率分布函数
性 质
对x、y单调不减
x、y右连续
F(x+0, y =F(X, y F(x, y+0 = F(x, y
独立
二 维 离 散 型 随 机 变 量
边缘概率分布率
条件概率分布率
独立
二 维 连 续 型 随 机 变 量
联 合 概 率 密 度
联 合 分 布
边 缘 分 布
条 件
区 域
边 缘 分 布
边缘 概率 密度
二维 均匀 分布
二维 正态 分布
两个边缘密度和ρ无关
联合确定边缘
边缘不确定联合
条 件 概 率 密 度
Y=y
范围
独 立
XY相互独立
<=>
分 布 函 数 判 断
密 度 函 数 判 断
二 维 随 机 变 量 函 数 分 布
Z=X+Y
卷积
独立
M=max{X,Y} N=min{X,Y}
数 字 特 征
泰勒
收敛
随 机 变 量 函 数
Y=g(X)
离 散
收敛
连 续
收敛
Z=g(X,Y)
离 散
收敛
连 续
收敛
性 质
独立
分 解 法
X²期望不存在 => X方差不存在
性质
平移不改方差
独立
D(X)=0 <=> P{X=c}=1
f(x)=E(X-x)²
当x=E(X), f(x)有最小值D(X)
变换
性质
变换
性质
柯西-施瓦茨不等式
<=> 线性关系P{Y=aX+b}=1
相关
ρ=0
XY不线性相关
ρ>0
XY正(线性)相关
ρ<0
-
(X,Y)是二维随机变量
四命题等价
XY不相关,ρ=0
正态
矩 阵
矩
k阶原点矩
X一阶原点矩
数学期望
k阶中心矩
X二阶中心矩
方差
X和Y的k+l阶混合原点矩
X和Y的k+l阶混合中心矩
XY二阶混合中心矩
协方差
协方差矩阵
对称阵
cii=D(Xi)
非负定
大 数 定 律
切比雪夫
大 数 定 律
Chebyshev大数定律
样本均值和真实期望的关系
伯努利大数定律
频率与概率的关系
khinchin大数定律
算术平均值和数学期望的关系
独立同分布
中 心 极 限 定 理
X1X2...Xn独立同分布 E(X)=μ d(Xi)=σ²>0
的分布函数F(n(x)
独立重复实验序列,A概率p Yn表示A在n次试验次数
数 理 统 计
样 本
独立性
X1~Xn是相互独立的随机变量
代表性
总体分布函数F(x)
总体概率密度函数f(x)
样 本 矩
样本均值
样本方差
样本标准差
k阶原点矩
k=1,2,...
k阶中心矩
次 序 统 计 量
最小
自由度为n
概率密度函数
Y1Y2相互独立
X Y相互独立
抽样分布定理
来自正态总体
样本均值
样本方差
相互独立
参 数 估 计
矩 估 计
最 大 似 然 估 计
似然函数·
H θ取值范围
θ的最大似然估计值
对数似然函数
对数似然方程组
优 良 性 准 则
无偏性
UE
均值μ 方差σ² (X1...Xn)是取自X的样本
有效性
θ1比θ2有效
相合估计
θn是θ相合估计两/一致估计量
区 间 估 计
置信区间
置信下限/上限
置信度/置信水平
置 信 区 间
1
已知,求μ
σ²未知,求μ
μ未知,求σ²
2
σ1²,σ2²已知,求μ1-μ2
σ1²=σ2²=σ²未知,求μ1-μ2
σ1²≠σ2²未知,m=n,求μ1-μ2
σ1²/σ2²
非正态
假 设 检 验
步骤
由实际问题要求,提出原假设H0和备择假设H1
由H0选择合适的检验统计量
对显著水平α,确定小概率事件(拒绝域)W
由
拒绝域
样本落入拒绝域W,拒绝原假设H0;否则不拒绝H0
已知σ²=σ0²,μ双侧检验
未知σ²,μ的t检验
μ未知,σ²的卡方检验