【OpenAI】史上最强人工智能ChatGPT发展史思维导图

2022年11月30日，OpenAI发布ChatGPT，ChatGPT（ChatGenerativePre-trainedTransformer），ChatGPT是人工智能技术驱动的自然语言处理工具，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码，写论文等任务。2022年12月，ChatGPT发布后的短短5天，注册用户数就超过100万。2023年1月，ChatGPT的月活用户已突破1亿，成为史上增长最快的消费者应用。

ChatGPT发展史

• 2017年6月
  • Google发布 Transformer，成为后来所有LLM（大型语言模型 - Large Language Model）的基础架构 DeepMind提出RLHF（Reinforcement Learning with Human Feedback - 基于人类反馈的强化学习）
• 2018年6月
  • OpenAI发布基于Transformer Decoder的 GPT-1（1.1亿参数）
• 2018年10月
  • Google发布编码器的 BERT（最大3.5亿参数），用于微调下游任务
• 2019年2月
  • OpenAI发布 GPT-2（15亿参数）
• 2019年10月
  • Google发布基于Transformer Decoder的T5，兼容BERT和GPT的下游任务
• 2020年5月
  • OpenAI发布GPT-3（1750亿参数）
• 2021年10月
  • Google发布 FLAN（微调语言网络 -fine-tuned language net），转向decoder-only，提出 Instruction Tuning（指令微调）
• 2021年11月
  • DeepMind发表 Gopher（2800亿参数），加入LLM大战
• 2022年1月
  • Google再次发布LaMDA（1370亿参数，对话编程语言模型），并称其具有“意识”
• 2022年3月
  • OpenAI发布 InstructGPT，用到Instruction Tuning和RLHF
• 2022年4月
  • Google发布 PaLM（5400亿参数，decoder-only，Pathways Language Model），提出神奇的思维链
• 2022年9月
  • DeepMind发布 Sparrow，加入RLHF和Retrival（谷歌搜索）
• 2022年11月
  • 2022年11月30日，OpenAI发布 ChatGPT，ChatGPT（Chat Generative Pre-trained Transformer），ChatGPT是人工智能技术驱动的自然语言处理工具，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码，写论文 等任务。
• 2022年12月
  • ChatGPT发布后的短短5天，注册用户数就超过100万。
• 2023年1月
  • ChatGPT的月活用户已突破1亿，成为史上增长最快的消费者应用。
• 2023年2月
  • Google 官宣发布基于LaMDA的 Bard