信息论

哈夫曼编码与香农编码

信息论第五章笔记，涵盖信源符号熵、平均码长、编码效率的计算，以及哈夫曼编码和香农编码的原理与应用。

失真矩阵、率失真函数与转移概率矩阵

信息论第四章笔记，涵盖失真矩阵、最小失真 D_min、最大失真 D_max、率失真函数 R(D) 及转移概率矩阵，深入探讨失真与编码速率的权衡关系。

自信息量、熵、联合熵、条件熵与互信息

信息论第二章笔记，涵盖自信息量、信息熵、联合熵、条件熵、互信息量及连续型随机变量的微分熵。