导图社区 隐马尔科夫
隐马尔科夫的思维导图,主要参考《统计学习方法》,包含隐马尔科夫问题的三个问题,以及公式推导过程
论文《Attention is all you need》细节的整理,包括transformer结构的详解,以及更细节的计算逻辑。
对于二类分类器/分类算法,评价指标主要有accuracy, [precision,recall,F-score,pr曲线],ROC-AUC曲线,gini系数。对于多类分类器/分类算法,评价指标主要有accuracy, [宏平均和微平均,F-score]。对于回归分析,主要有mse和r2/拟合优度。
最大熵模型(maximum entropy model, MaxEnt)也是很典型的分类算法了,它和逻辑回归类似,都是属于对数线性分类模型。在损失函数优化的过程中,使用了和支持向量机类似的凸优化技术。
社区模板帮助中心,点此进入>>
互联网9大思维
组织架构-单商户商城webAPP 思维导图。
域控上线
python思维导图
css
CSS
计算机操作系统思维导图
计算机组成原理
IMX6UL(A7)
考试学情分析系统
HMM 隐马尔科夫模型
笔记内容主要来源于《统计学习》
定义
关于时序的模型
由一个隐藏马尔科夫链生成不可观测状态序列,再由不可观测状态序列生成观测序列
三要素
初始状态概率
状态转移概率矩阵
观测矩阵
数学符号定义
隐藏状态
状态集合,可能的状态值
状态转移矩阵
表示t时刻处于qi状态条件下,t+1时刻转移到qj的转移概率
状态序列
初始状态
t=1时刻,处于状态qi的概率
观测
观测集合,可能的观测值
在qj状态观测到的vk值的概率
观测序列
主要问题
概率计算问题
原始计算方法
向前计算
向前概率
到t时刻,部分观测序列为O1,O1...Ot,且当前状态为qi时的概率
观测序列向前算法
向后计算
在t时刻,状态为qi条件下,部分序列t+1...T的概率
观测序列向后算法
模型学习问题
监督学习
数据包括观测序列和状态序列
转移概率的计算
观测概率的计算
非监督学习
数据只包括观测序列
马尔科夫模型是含有隐变量的概率模型
I为隐变量
参数学习可以由EM算法实现
EM算法E步,Q函数
O是观测序列,I是隐藏序列
λ是要极大化的隐马尔可夫模型参数
λ冒是隐马尔可夫模型参数的当前估计值
P(O,I|λ^)在对数外边
P(O,I|λ^)是一个确定值
此公式的含义是对随机变量I求期望,E(f(I))
序列预测问题