导图社区 科技前沿·GPT
GPT:一个被神化的语言模型的衍生品,知道ChatGPT以及类似的产品是怎么一回事,它们能做什么、不能做什么。这门课让我们当看到别人在朝拜月亮时至少不会跟着起哄。
编辑于2023-08-23 00:02:41 广东这是一篇关于算力提升MLCC需求的思维导图,主要内容包括:市场规模与增长趋势,主要厂商市场份额,市场驱动因素,市场挑战,算力革命推动转型,各领域需求变化,供应链挑战与应对,技术创新与产业前景,钇替代钛酸钡材料,层间应变工程策略,小型化与高性能化趋势,高频应用材料优化,可持续材料研究,陶瓷粉末市场,金属电极材料市场,原材料市场挑战,区域分布与市场整合。
提升AI职业经验,决胜未来。为希望在人工智能(AI)领域建立职业生涯的人提供了一系列实用的建议。
数据要素流通白皮书响应国家大数据战略、推动数字经济发展的重要步骤,对于构建数据要素市场、促进数据资源的有效利用和数据产业的健康成长具有深远影响。
社区模板帮助中心,点此进入>>
这是一篇关于算力提升MLCC需求的思维导图,主要内容包括:市场规模与增长趋势,主要厂商市场份额,市场驱动因素,市场挑战,算力革命推动转型,各领域需求变化,供应链挑战与应对,技术创新与产业前景,钇替代钛酸钡材料,层间应变工程策略,小型化与高性能化趋势,高频应用材料优化,可持续材料研究,陶瓷粉末市场,金属电极材料市场,原材料市场挑战,区域分布与市场整合。
提升AI职业经验,决胜未来。为希望在人工智能(AI)领域建立职业生涯的人提供了一系列实用的建议。
数据要素流通白皮书响应国家大数据战略、推动数字经济发展的重要步骤,对于构建数据要素市场、促进数据资源的有效利用和数据产业的健康成长具有深远影响。
发刊词丨“ChatGPT 神话”原理
GPT发展历程
1972年IBM实验室 第一个语言模型
1991年清华大学 中文语言模型
2010年Google构建第三代模型
ChatGPT比较
一种语言模型
比喻特斯拉电动汽车
媒体反应
媒体赞扬和炒作
分辨赞誉和恐惧原因
新神ChatGPT
民众赞誉&恐惧
历史中匍匐神
学习本质
了解科学原理
耐心思考
真实和虚拟链接
加州大学沙盘游戏
技术演化
物理&数字融合
通信连结
能源共享
精神世界探索
生命维度意义
第1讲丨计算机回答问题&写诗
ChatGPT能力
可回答复杂问题
能够写作
理解自然语言
理解人的意图和自然语言
满足需求的自然语言
内容质量稳定性关键挑战之一
内容不稳定
内部评测结果未公布
被视为玩具
内容质量存在差异
训练数据和格式的重要性
格式固定利用ChatGPT
数据和格式有影响
内容稳定性训练和格式有关
内容生成特点
优点容易被赞赏
缺点常被忽略
ChatGPT应用
信息查询
帮助学生完成作业
生成文章
职场汇报
诗歌生成
未来发展
通过改进训练和格式
仍有待探索
不同领域的应用前景广阔
第2讲丨ChatGPT 的本质
本质语言模型
语言模型数学模型
关键词“数学”
解决语言问题捷径
语言处理
贾里尼克博士
IBM负责语言处理
挑战传统计算机
语音识别和通信问题的关联
语音识别通信问题
香农通信原理供思路
概率和统计语言模型
语言模型统计语言模型
统计出现次数来计算概率
上下文和通顺性
上下文对语言模型影响重大
通顺句子符合说法
模型参数确认
需要大量文本供统计使用
模型参数通过统计得出
第3讲丨 语言模型进化
语言模型阶段
语音识别和机器翻译的初步应用
语法和语义信息提升能力
深度学习提高效率和准确性
发现问题
训练数据不总有效
语法和主题信息
加入更深信息
数据量增加
段落连贯性和模板限制
句子和段落计算需求巨大
模板限制使文本更连贯
问题改善
语音识别系统改善
英语和法语自动翻译
机器翻译挑战
两种语言模型和训练数据
但效果不佳
缺乏对应多语种数据
通信算法和引入模型
识别错误率降低到10%以内
具有应用价值
输入不断迭代优化生成内容
用户输入用于改进
误导性信息:生成质量会下降
据改进机器翻译
奥科使用更多数据训练模型
布朗翻译论文得到重视
推动机器翻译领域发展
GPT系列
GPT-3训练数据
维基百科丰富内容
GPT模型生成能力数据量&信息量决定
ChatGPT模型训练
Google模型训练计算一年以上
提高效率减少计算需求重要方向
资源增加和存储空间的扩展
模型处理更大规模数据
能够利用更多信息
计算资源提升帮助模型
自适应模型
间接反馈用于改进模型
根据个人输入优化模型
需要大量存储空间和模型
准确理解语法结构
语法分析理解实词
句子含义词义的叠加
处理能力的提升
计算资源利用率提高
模型计算的概率更准确
输入输出输入少&输出多
模型能力少量输入生成大量输出
补充信息存在模型中
边界&限制
用例和行文习惯
理解和写作有限制
仍难以理解深刻意图
无法理解整体含义
结果胡乱&相反答案
未来发展
自然语言处理发展不断进步
随着时间推移变得更强大
推动了语言模型的进化
客观看待ChatGPT和人工智能
消除人工智能盲目迷信
深入理解语言模型
语言模型的发展新的阶段
出色的语言生成和理解能力
进一步研究带来更强大模型应用
第4讲丨 ChatGPT的能力与缺陷
数据/算力/算法限制
源信息:验证和筛选
关键:高质量数据的获取和处理
必需:计算资源和并行计算能力
基础:优秀算法和深入的自然语言
负面影响来源
垃圾数据含有错误或噪音
数据过载矛盾:难以辨别
噪音和无效数据
人工干预的边界和风险
主观和偏见:影响模型结果
滥用权力:带来不公平和不自由
全民开发:不必要
开发成本高昂耗时
技术资源缺乏基础
基础要素重要性
算力的重要性
聪明的算力配合优秀算法
算力瓶颈难以满足
算法和技术积累的必要性
需要丰富的算法知识和技术资源
深入的自然语言理解技术
资源匹配
根据需求匹配
尊重专业领域
算力与算法的辩证关系
优秀算法和高算力相辅相成
互为制约算力只能事倍功半
实际需求和资源限制
根据需求选择合适方案
资源有限制
技术的发展
主要技术
深度学习
自然语言处理
长期积累相关技术
公司优势
拥有丰富的技术和资源
研发能力:开发类似ChatGPT
不同领域应用语言模型技术
医疗领域
挖掘应用
数据分析
视频编辑
自动化剪辑
字幕生成
创新和努力
技术创新:不断提出新的解决方案
更强大的语言模型:不断投入研究和发展
第5讲丨 人工智能的边界
数学边界
不完备性定理
可判定问题
问题是否有解
重要发现
哥德尔不完备性定理
马季亚谢维奇的否定性结果
数学问题的不可判定性
计算机边界
图灵机
可计算问题
工程上可计算问题
人工智能边界
非数学问题
真实情境的复杂性
模糊和不确定性
人工智能误解
无知和不了解
自我称专家
夸大贡献和能力
局限性
算法的必要性
有限的问题解决能力
工程实现的限制
量子计算与计算能力
新的计算模型
特定问题的加速
可计算性与计算能力的区分
误解计算能力与可计算性
可计算问题与问题解决能力
量子计算的潜力和限制
辨析计算能力与可计算性
工程问题限制
资源和时间限制
复杂性和不确定性
实际应用的挑战
从业者的局部观点
局部问题的关注
忽视整体发展
夸大进步和能力
局限性与挑战
现实生活复杂问题的处理
模糊和噪声数据的处理
必要的领域知识和判断力
应用领域限制
针对特定问题的解决方案
无法解决所有问题
不可取代其他领域的知识和技能
实际算法需求
基于算法的问题解决方法
持续的算法研究和改进
算法的实际可行性和效率
人工智能能力与问题集合的关系
小圆和大圆的关系
小圆随着时间的扩大
问题集合和人工智能能力的相对关系
人工智能领域的透视问题
局部观点的限制
了解整个领域的发展趋势
看到人工智能能力的整体图景
推动人工智能的综合思维
跨学科和跨领域的合作
综合不同领域的知识和技术
看待问题与解决问题的多维视角
深入理解人工智能的边界
考虑数学、计算和人工智能的关系
保持谨慎和客观的态度
追求全面的知识和理解边界限制
保持全局视野
打破局部观点的限制
探索整个领域的发展
全局视野与理性思考
避免过度夸大人工智能能力
理性评估人工智能的局限性
持续学习和探索领域的发展
开放的思维和批判性思维
第6讲丨 ChatGPT 替代和热炒
替代问题
替代对象
不费体力
不动脑子
不产出信息
金融分析师
大部分财经媒体记者
律师助理
普通文员
短视频制作人
大部分公众号写手
低端的 IT 从业者
前期OK
后期危险
错误认知
ChatGPT 能“生成”信息
过分迷信技术
技术可以代替努力
导致智商水平下降
创造性工作
价值
解决重要问题,如口罩防护力的研究
独特思考、观点和发现
信息不能被机器取代
独特的立意、思想和观点
重复性工作: 缺乏创造价值
简单事务处理等
实验室里重复性工作
模板式工作劣势
申请材料模板化
个性化推荐信的重要性
智能时代竞争不平等
差距会继续扩大
技术对智商影响
智商分数逐年下降
信息革命后出现
优势人群掌握正确做事方式
智能时代牺牲者
不能替代个人的努力
需求更高的才能和思维方式
两极分化严重
教育程度较低:下降幅度更大
热炒:争论问题
投资者观点
技术潜力带来股价上涨
股价波动不仅受技术影响
媒体炒作可能引发泡沫
不仅依赖媒体报道
考虑技术的长期发展
广泛了解不同行业
从业者观点
技术挑战引发竞争
技术差异
技术进步速度不同
了解技术的局限性
不要过度相信新技术
竞争者的水平不同
技术发展
技术进展常伴随炒作
发展需要时间验证
可能面临各种挑战
跟随发展节奏重要
创新观点
苹果谨慎行事带来成功
创新不仅依赖炒作
注重产品质量和用户体验
媒体观点
种种观点存在差异
炒作倾向
不可只凭媒体投资
偏向互联网和AI
忽视其他行业的发展
需要多方面了解技术
普通人观点
对新技术狂热崇拜
对技术无法理解
盲目跟风可导致问题
长期发展观点
技术发展非一日之功
关注长期商业价值
不要被短期热度蒙
第7讲丨人工智能和科技趋势
多任务人工智能条件
知其所以然
进一步理解原因和原理
多任务智能生物
好奇心
主动学习
增长知识
具有常识
了解事物背后的常规性
解决复杂任务的关键
处理信息能耗
提高资源利用率
高效能耗比
深度学习在生物与医学应用
AlphaFold解析蛋白质结构
深度学习算法应用
生命科学研究的进展
改变生物与制药学发展
个性化治疗方案
加速药物研发
AlphaFold取得成果
高准确率的蛋白质结构预测
违反化学规则数量接近于0
高达70%的准确率
对生物学与制药学的影响
改善基础研究
促进新治疗方法
人工智能的警惕与未来
关注公司与控制者
公司的责任和伦理意识
监管和安全措施的重要性
监管与法规的需求
技术的安全性与隐私性
跟随社会需求和价值观
科技前沿GPT