AI人工智能

这是一篇关于AI人工智能的思维导图，此模板围绕AI人工智能展开，涵盖了其发展简史和思想理论两大关键板块。在AI发展简史部分，从早期的神经元模型与计算基础，到符号主义、联结主义等不同阶段的兴起与发展，再到机器学习、深度学习等重要技术突破，以及大语言模型的崛起和智能体时代的来临，清晰地呈现了AI发展的脉络。每一个阶段都详细列举了关键事件、代表人物和重要技术，让读者能够深入了解AI是如何一步步发展至今。在AI思想理论方面，模板对众多常见核心概念进行了详尽阐释。从机器学习中的相关概念、大语言模型（LLM）的原理与应用，到Transformer架构、自注意力机制等关键技术，再到RAG、智能体（Agent）、AI Agent等前沿概念，帮助读者构建起完整的AI知识体系。对于科技爱好者，这是一份探索AI世界的绝佳指南，能满足他们对AI知识的好奇与求知欲；从业者可以借助模板快速回顾和掌握关键知识点，为实际工作提供理论支持；研究人员则能从中获取全面的概念梳理，助力深入研究和创新。无论是AI入门学习，还是专业研究参考，该模板都具有极高的价值。

AI人工智能

• AI发展简史
  • 起步期（1956–1960s初）
    • 1943年麦卡洛克与皮茨提出首个‌人工神经元模型（M-P模型）奠定神经计算基础；
    • 1950年图灵提出‌图灵测试‌，确立智能判定标准；
    • 1956年达特茅斯会议首次提出“人工智能”概念，标志学科诞生；
    • 早期基于符号主义，用规则模拟推理，规则系统是早期AI的核心范式，属于“符号主义AI” 的范畴，如1956年西蒙发明的“逻辑理论机”是第一个能自动证明数学定理的程序； 1966年‌麻省理工学院的Joseph开发了‌ELIZA系统‌，这是世界上首个里程碑式的基于规则的对话系统；
  • 反思期（1960s–1970s初）
    • 规则系统难以应对复杂现实，进展缓慢，进入第一次“AI寒冬”
  • 应用期（1970s初–1980s中）
    • 专家系统兴起，如医疗诊断系统MYCIN，通过“知识库+推理机”解决特定领域问题，迎来短暂繁荣
      • 专家系统是‌规则系统的扩展与升级‌，通常也使用IF-THEN规则，但‌更强调知识库与推理引擎的分离‌。专家系统 = 规则系统 + 知识库 + 推理引擎 + 解释机制 + 知识获取模块
  • 低迷期（1980s中–1990s中）
    • 专家系统依赖人工规则，知识获取难、通用性差，再度陷入低谷
  • 稳定期（1990s中–2010）
    • 机器学习崛起，反向传播算法(1986)使神经网络可训练，重新激活多层神经网络研究，属连接主义复兴期
    • 1997年IBM“深蓝”战胜国际象棋冠军卡斯帕罗夫
    • 1998年LeNet在手写识别中取得突破
  • 爆发期（2011至今）
    • 技术突破期(2011-2019年) 大数据、云计算、GPU算力提升和深度学习算法（如Transformer）共同推动AI从理论走向实用
      • 2012年AlexNet在ImageNet(图像识别)竞赛中夺冠，引爆深度学习革命
      • 2016年AlphaGo战胜李世石，强化学习受关注
      • 2017年Google提出‌Transformer架构‌，以‌自注意力机制（Self-Attention）‌ 替代RNN/CNN，实现并行化训练与长程依赖建模，成为后续所有大模型的基石
      • 2018年‌Google提出基于Transformer 架构的预训练语言模型BERT模型，首次在多项NLP任务中超越人类基准，标志语言理解进入新纪元
    • 大语言模型崛起(2020-2022年)以大模型（如GPT、Claude、通义千问等）为代表，AI能力从“能用”迈向“好用”,开始融入千行百业‌.
      • 2020年GPT-3参数规模达1750亿，展现‌小样本学习与‌上下文学习能力，无需微调即可完成多种任务，揭示“规模即能力”的新规律。
      • 2022年11月ChatGPT发布，首次将大语言模型以‌自然对话界面‌普及至大众，随后Claude、通义千问、deepseek应用相继发布。
      • 2022–2023年多模态模型突破 以‌DeepMind的Flamingo（2022）‌、‌OpenAI的GPT-4V（2023）‌、‌Google的Gemini（2023）‌ 等为代表，‌多模态大模型（MLLMs）‌ 实现文本、图像、音频、视频的统一处理，标志多模态技术从“感知融合”迈向“原生认知” ‌
      • 2022–2023年大模型转向高效化、轻量化、场景化，如 GPT-4 Turbo、MoE 架构、开源模型 LLaMA 3、Qwen、ChatGLM 等广泛应用 ‌。
    • 智能体时代Agent(2023-2026年) AI智能体（Agent）兴起，具备‌感知-规划-记忆-工具调用-行动‌五层闭环能力，实现从“回答问题”到“完成任务”的范式跃迁。关键技术:RAG（检索增强生成）、Function Calling、记忆机制‌
• AI思想理论
  • 数学理论基础
    • 贝叶斯理论：概率推理与认知不确定性处理
    • 泰勒展开：函数逼近能力与线性计算
    • 拉格朗日极值：最优解的计算方法
  • 三大流派思想根基
    • 经验主义(猜概率)：大语言模型
    • 行为主义(试错奖惩)：强化学习(例AlphaGo)
    • 理性主义(讲规则)：专家系统
  • 核心技术演进
    • 机器学习：从数据中学习模式
    • 深度学习：多层神经网络自动提取数据特征
    • 生成式AI：基于Transformer架构创作内容
• 常见核心概念速览
  • ai相关概念间关系
    • 机器学习(ML)
      • 监督学习
        • 含义:监督学习使用人类标记的输入和输出数据集，以训练 ML 模型。
        • 算法:SVM支持向量机、随机森林、回归算法、分类算法、朴素贝叶斯分类器、神经网络
      • 无监督学习
        • 从未标记的数据集中得出推论的机器学习
        • 算法:K-Means、分层聚类、概率聚类
      • 自监督学习
        • 自监督学习 (SSL) 使模型能够在无标记的数据上进行自我训练，而无需大量带注释和/或标记的数据集。
      • 半监督学习
        • 结合了监督学习和无监督学习的特点，半监督学习通过一个小型标记数据集和一个大型未标记数据集来训练算法，其中小规模的标记数据用于指导大规模未标记数据的学习过程。生成对抗网络 (GAN) 是一种通过训练两个神经网络生成无标签数据的深度学习工具，是半监督机器学习的一个示例。
      • 强化学习RL
        • 是一种通过奖惩机制训练算法的动态编程方法。 强化学习主要由代理、环境和目标之间的关系组成。方法:动态规划、蒙特卡罗和时序差分学习。强化学习允许自主智能体通过试错进行学习，并以奖励或惩罚的形式接收其行为的反馈
      • 深度学习DL
        • 采用多层神经网络（称为深度神经网络）模拟人脑的决策机制。
          • 与传统机器学习明确定义的数学逻辑不同，深度学习模型的神经网络由许多相互连接的神经元层组成，每个神经元都执行特定的数学运算操作。通过机器学习技术调整相邻层神经元之间的连接强度（即不断优化的模型权重与偏置），可以使网络逐步优化并产生更精确的输出结果。虽然神经网络和深度学习已变得彼此密不可分，但它们严格来说并不是同义词：深度学习是指至少具有 4 层的模型训练。
    • 其他AI方法(专家系统、搜索算法)
  • 神经网络模型架构差异
    • RNN(循环神经网络)：一维序列数据处理(文本、时间序列、语音)，注重历史和先后逻辑
    • CNN(卷积神经网络)：二维网格状结构数据(图像、视频）使用‌卷积核‌滑动提取局部特征
    • GNN(图神经网络)：三维图结构数据(社交网络、分子结构、知识图谱)，通过‌消息传递聚合邻居节点信息更新自身表示
  • 大语言模型（LLM）
    • 基于海量文本训练的深度学习模型能理解与生成自然语言
    • 基于Transformer大语言模型流程
      • 详细流程：1.文本输入‌ → 2. ‌分词/标记化‌（如 "unbreakable" → ["un", "##break", "##able"]）→ 3. ‌Token ID 映射‌ → 4. ‌查嵌入表‌ 得到稠密向量 → 5. ‌加位置编码‌ → 6. 注意力机制(多头注意力),计算相关性生成新向量 → 7.前馈神经网络FFN对注意力处理后的向量进行非线性变换,通过激活函数（如 ReLU）让模型学习更复杂的语义模式 → 8.残差连接与层归一化 → 9.文本分类(分类筛子，概率计算器):给文本"贴标签" → 10.文本生成：“逐词创作” 完整回答
        • 大语言模型流程相关概念详解1
        • 大语言模型流程详解2
  • Tokenization与词嵌入
    • Tokenization(分词)：将文字转换为Token（词元化）
    • 词嵌入：将Token转化为向量，表示词的特征
      • 利用Word2Vec、GloVe等词向量模型将词语映射到低维连续向量空间，使得语义相近的词在向量空间中距离相近。
    • 位置嵌入：将词的位置信息转换为向量，与词嵌入向量相加
  • NTP (Next Token Prediction 下一个词元预测)
  • MTP（Multi-Token Prediction 多词元预测）
    • 提升大语言模型（LLM）生成效率的技术
    • 并行预测多个后续词元（token）
  • LSTM(Long Short-Term Memory,长短期记忆网络)
    • 属于‌循环神经网络（RNN）‌的一种变体，具有记忆单元和门控机制‌（遗忘门、输入门、输出门），可捕捉‌长序列中的时序依赖关系，适用于‌序列建模任务‌，如自然语言处理、时间序列预测等
  • FNN(Feed-Forward Network,前馈神经网络)
    • 泛指‌无循环、无反馈‌的神经网络，信息单向流动（输入 → 隐藏层 → 输出）
  • MLP(Multi-Layer Perceptron,多层感知器)
    • 是‌前馈神经网络的一种具体形式‌，由‌多个全连接层 + 非线性激活函数‌堆叠而成。MLP 是 FFN 的一种特例‌：MLP 强调“全连接层堆叠”，而 FFN 强调“前馈结构”（无环路）
  • NLP自然语言处理
    • 它旨在让计算机能够理解、解释、生成和操作人类语言。
  • TensorFlow‌框架
    • 是一个‌开源机器学习框架‌，由 Google 开发维护，提供构建、训练和部署模型的工具库与基础设施，支持多种硬件加速。
    • Transformer 是深度学习模型架构，而 TensorFlow 是机器学习开发框架 开发者常使用 TensorFlow 框架来编写和训练 Transformer 模型，以开发聊天机器人、翻译系统等应用。
  • Transformer架构
    • 是一种‌神经网络模型架构‌，由 Google 于 2017 年提出，核心基于自注意力机制（Self-Attention），专为处理序列数据（如文本、语音）设计，能实现高效并行计算。
  • 自注意力机制（Attention）
    • 概念：Transformer架构核心，允许模型关注序列内部不同位置之间的关联关系，实现“自己和自己对话”，捕捉全局上下文依赖
    • 特点:模仿人类注意力‌、自相关性计算、全局感知
    • 原理:
  • Transformer架构升级(2017-2026)
    • MOE-稀疏门控专家混合架构,优化效率和算力
    • 线性注意力机制
    • KV Cache对短期记忆优化，让有限内存记得更多用户上下文
    • Titans架构让大模型具有了更新长期记忆参数持续学习的能力
    • RAG(检索增强生成)让大模型模型具有搜索再回答的能力
    • 多模态感官能力与逻辑推理能力
  • RAG（检索增强生成）
    • 结合外部知识库与大模型，提升回答的准确性与时效性
  • 智能体（Agent）
    • 能感知环境、自主决策并行动的系统
    • AI从“回答问题”向“解决问题”演进
  • AI按照智能程度划分
    • ANI(狭义人工智能)
      • 某特定领域的智能
    • AGI(通用人工智能)
      • 多领域综合智能
    • ASI(超级人工智能)
      • 超越人类的智能