信道编码理论

信息论基础与应用，信道编码定理是从理论上解决理想编码器、译码器的存在性问题，也就是解决信道能传送的最大信息率的可能性和超过这个最大值时的传输问题。它阐明了使传信率逼近信道容量的编码是存在的，为通信系统设计提供了理论依据。

信道编码理论

• 信道编码的基本概念（纠错编码）
  • 信道编码
    • 本质：映射
    • 目的：通过增加冗余检测并更改错误
    • 分类：线路编码、纠错编码（主要）
  • 差错图样
    • 定义：定量的描述信号的差错（收发码的差错）e=r-c
    • 分类
      • 按照出错位置
        • 差错符号：由于符号出错
        • 差错比特：由于信息比特出错
      • 按照出错时间
        • 随机差错：发生的差错相互独立
        • 突发差错：出错前后相关、成堆出现
  • 码的分类
    • 按照功能
      • 检错码
      • 纠错码
    • 码元与原始码关系
      • 线性码
      • 非线性码
    • 编码方式
      • 分组码
      • 卷积码
    • 构码理论：代数码、几何码、算术码、组合码
  • 差错控制系统分类
    • 向前纠错FEC：发端经过纠错编码后，收端收到后自动纠正传输过程中的差错
    • 反馈重发ARQ：发端编码后，收端接收后检测是否符合编码规则，不符合，则反向通知发端重发
    • 混合纠错：前俩种结合起来
  • 码空间：矢量空间，由k长度转变为n长度
• 信道编码定理
  • 香农第二定理：只要R（传输率）<C（信道容量），那么总存在一种信道编码及解码器，可以实现任意小的差错编码实现可靠通信
• 纠错编码的基本原理与分析
  • 译码原则：使错误概率最小（可参照通信原理）
  • 最大后验概率（可参照通信原理）
  • 最大似然概率（可参照通信原理）
  • 最小汉明距离译码准则：翻译成与自己距离最近的码元（汉明矩）
• 信道编码的方法
  • 线性分组码（由长度k的码组里映射到长度为n的码组里）
    • 汉明码
      • 特点：能够纠错单个码错误的线性分组码
      • 满足条件：纠错能力t=1，那么d=3；m为校验位的长度也就是n-k，(n,k)=(2^m-1,2^m-1-m)
    • 循环码
      • 特点：循环码中的任何一个码字的循环位移都属于该码集
      • 生成多项式：从循环码中找出一个前面(k-1）项是0的码作为生成多项式，上面每一行都是乘x的1次方、x的2次方、x的3次方......x的(k-1)次方，得到生成矩阵，通过行变换得到典型生成矩阵
  • 检验矩阵H
    • 目的：用来检验生成码是否正确HC=0【正确】
    • 构成（典型/标准/系统矩阵）：由信息位Q【(n-k)×k】+检验位I【(n-k)×(n-k)，而且是单位矩阵】
  • 生成矩阵G
    • 目的：完成由长度k的码转换为长度为n的码，相当于转移矩阵C=mG，或者说k个长度为n的基底【k×n】
    • 构成（典型生成矩阵）：单位矩阵I【k×k】+信息位的转置QT【k×(n-k)】
  • 伴随式
    • 目的：为了检验n长的码中哪位出错
    • 这里引入差错图样r=C+E【都是长度为n的行向量】
    • S=(HY_T)_T【S为长度为k的行向量】【H：(n-k)×n；Y：1×n】
      • S_T=0：Y是正确的，可找到对应的C
      • S_T=H中的某一列或者某几列的模二和，那么可知道E；例如S_T是H的第2列，那么E=[0100000]（代表接受到Y的第二个码出错了）