大型语言模型的三大技术路线

这是一个关于大型语言模型的三大技术路线的思维导图，讲述了大型语言模型的三大技术路线的相关故事，如果你对大型语言模型的三大技术路线的故事感兴趣，欢迎对该思维导图收藏和点赞~

大型语言模型的三大技术路线

• 基于深度学习的自然语言处理技术
  • 循环神经网络（RNN）
    • 长短时记忆网络（LSTM）
    • 门控循环单元（GRU）
  • 卷积神经网络（CNN）
    • 卷积层
    • 池化层
    • 全连接层
  • 自注意力机制（Transformer）
    • 自注意力层
    • 多头注意力机制
    • 位置编码
• 基于知识图谱的自然语言处理技术
  • 知识图谱构建
    • 知识抽取
    • 知识融合
    • 知识推理
  • 知识图谱表示学习
    • 知识嵌入
    • 知识图卷积网络（KGCN）
    • 知识图注意力网络（KGAT）
  • 知识图谱应用
    • 问答系统
    • 推荐系统
    • 语义搜索
• 基于强化学习的自然语言处理技术
  • 强化学习基础
    • 马尔可夫决策过程（MDP）
    • 策略梯度方法
    • 值函数近似
  • 强化学习在自然语言处理中的应用
    • 机器翻译
    • 文本摘要
    • 对话生成;