隐马尔科夫

隐马尔科夫的思维导图，主要参考《统计学习方法》，包含隐马尔科夫问题的三个问题，以及公式推导过程

HMM 隐马尔科夫模型

• 笔记内容主要来源于《统计学习》
• 定义
  • 关于时序的模型
  • 由一个隐藏马尔科夫链生成不可观测状态序列,再由不可观测状态序列生成观测序列
  • 三要素
    • 初始状态概率
    • 状态转移概率矩阵
    • 观测矩阵
  • 数学符号定义
    • 隐藏状态
      • 状态集合，可能的状态值
      • 状态转移矩阵
        • 表示t时刻处于qi状态条件下，t+1时刻转移到qj的转移概率
      • 状态序列
      • 初始状态
        • t=1时刻，处于状态qi的概率
    • 观测
      • 观测集合，可能的观测值
      • 观测矩阵
        • 在qj状态观测到的vk值的概率
      • 观测序列
• 主要问题
  • 概率计算问题
    • • 原始计算方法
      • 向前计算
        • 向前概率
          • 到t时刻，部分观测序列为O1,O1...Ot，且当前状态为qi时的概率
        • 观测序列向前算法
      • 向后计算
        • 向前概率
          • 在t时刻，状态为qi条件下，部分序列t+1...T的概率
        • 观测序列向后算法
  • 模型学习问题
    • • 监督学习
        • 数据包括观测序列和状态序列
          • 转移概率的计算
          • 观测概率的计算
      • 非监督学习
        • 数据只包括观测序列
          • 马尔科夫模型是含有隐变量的概率模型
            • I为隐变量
          • 参数学习可以由EM算法实现
            • EM算法E步，Q函数
              • O是观测序列，I是隐藏序列
              • λ是要极大化的隐马尔可夫模型参数
              • λ冒是隐马尔可夫模型参数的当前估计值
              • P(O,I|λ^)在对数外边
              • P(O,I|λ^)是一个确定值
              • 此公式的含义是对随机变量I求期望，E(f(I))
  • 序列预测问题