|
香农信息论主要讨论点对点通信中的一些基本问题，最著名的结论包括其中的四大定理，也即为无失真信源编码定理，限失真信源编码定理，信道编码定理，信源信道分离定理。
香农信息论为目前的通信系统设计和编码都有不可忽视的指导意义，但其也有不足的地方，主要包括三方面，一个局限是香农得出的大部分结果，都是在理论上得到的极限值，虽然为通信系统的设计给出了非常有指导意思的理论界限，但实际系统中应该如何去达到这些界限，香农并没有给出，最典型的例子就是信道编码定理，虽然1948年香农就发明了信息论，但到90年代才找到或者再发现能够逼近香农极限的turbo码和LDPC码；再一个局限是香农的大部分结果都是在一定的理想条件或极限条件下推导出来的，在实际系统中，这些条件可能不能满足，因而不可能达到香农所得出的一些结论或界限，举一个例子，信源信道分离定理是在数据分组长度无穷大和静态信道条件下得到的，但实际系统中的编码可能会有分组长度和限制，信道也可能是时变的，因而产生出最近较新的所谓联合信源信道编码理论；最后一个是局限是点对点通信的局限性，因为通信的构架存在网络结构和多用户的结构，所以对于网络和多用户的情形，香农并没有更深入的研究，虽然他在50年代研究了two way channel，但并未得出有意义的结果，目前网络信息论或多用户信息论是一个比较活跃的领域，主要的有意义的结论在广播和多址接入信道，但都是退化的情形才成立的结论，更一般的情形，还有一些其他如中继信道等，还有待进一步研究。 综上，香农信息论的发展主要为网络信息论（目前中继信道比较活跃）、联合信源信道编码、多描述问题、高斯分布的码书的设计等，这些都是尚未解决的问题。 |
|
|
