信息论重要模型

关于信息论模型的一些概念和应用实际的理论，时代在进步：人类习惯接受的冗余度也在减少所以我们越来越需要掌握去除冗余度的方法；高冗余度的小说PK低冗余度的论文高冗余度的听故事PK低冗余度的听抽象理论。

信息论重要模型

• 三大公式
  • E=mc2
    • 守恒
    • 物质和能量的统一
  • 香农的信息熵公式
    • 不守恒
      • 人类之间分享知识 是一件可以为这个世界 创造纯粹增量的事情
  • 海森堡测不准原理（量子力学范畴）
    • 我们观察粒子这件事情 本书就会改变他的行为
      • 观察微观世界，需要光子打其身上，这就改变了粒子的行进轨迹
    • 我们的观察改变了客观世界
      • 客观世界和主观想象之间的结合
• 信息熵
  • 描述一个东西的不确定程度的量 搞清楚一件事情的难度
    • 可能性越不平均，信息熵越低
      • 如何聪明的分配资源和注意力
• 霍夫曼编码
  • 例：摩斯密码
    • 为了提高效率 我们应该把生活中最重要的资源 分配给人生中最高频出现的场景
• 奥卡姆剃刀
  • 如无必要 勿增实体
• 大刀阔斧地做减法+围绕关键领域饱和配置
  • 例：手机电脑PK衣服
• 帧间压缩算法
  • 关注变化，忽略重复，可以使效率提升N倍
  • 集中精力夯实基础知识+只关注新知识的增量
  • 做任何事情 起步的时候先花时间把基本功练扎实是重要的 因为基本功越扎实 后面不断前进 就可以只关注增量 大大提升效率
• 互信息
  • 高互信息的极端情况：等价信息
    • 例：说废话 即前言后语一个意思
  • 冗余度
    • 资源的重复度
      • 例：越野汽车的备用轮胎
      • 例：大厦的防火安全通道
      • 例：大商场安装的额外发电机
      • 例：飞机上的双引擎设计
      • 高冗余度的小说PK低冗余度的论文 高冗余度的听故事PK低冗余度的听抽象理论
        • 冗余并不一定是坏东西 在工程领域 他可以保证系统运作安全 在表达上 他能更好的服务于人类的认知习惯
          • 时代在进步 人类习惯接受的冗余度也在减少 所以我们越来越需要掌握去除冗余度的方法
• 画分析框架
  • 先把关键概念零散的列出来 寻找概念卡片之间的关联 套用和矫正