分享

控制论和信息论

 莲花广圆 2013-03-09

控制论信息论

一、   控制论的产生

二十世纪40年代末,维纳创立了控制论,申农创立了信息论。随着自动化系统和自动控制理论的出现,对信息的研究开始突破原来仅限于传输方面的概念。控制论作为一个相对独立的科学学科的形成却起始于本世纪20~30年代,而1948年美国数学家维纳出版了《控制论》一书,标志着控制论的正式诞生。从控制的观点揭示了动物与机器的共同的信息与控制规律,研究了用滤波和预测等方法,从被噪声湮没了的信号中提取有用信息的信号处理问题,建立了维纳滤波理论。美国数学家申农是维纳的学生,这年发表了《通信的数学理论》和《在噪声中的通信》两篇著名论文,提出信息熵的数学公式,从量的方面描述了信息的传输和提取问题,创立了信息论。

维纳18941126日生于密苏里州的哥伦比亚,1964318日卒于斯德哥尔摩。维纳少年时是一位天才的神童,他11岁上大学,学数学,但喜爱物理、无线电、生物和哲学,14岁考进哈佛大学研究生院学动物学,后又去学哲学,18岁时获得了哈佛大学的数理逻辑博士学位。1913年刚刚毕业的维纳又去欧洲向罗素、哈代和希尔伯特这些数学大师们学习数学,正是多钟学科在他头脑里的汇合,才结出了控制论这颗综合之果。1919年维纳在麻省理工学院任教。在研究勒贝格积分时,就从统计物理方面萌发了控制论思想。第二次世界大战期间,为了对付德国的空中优势,英美两国极待提高他们的防空体系的性能。维纳两次参加了美国研制防空火力自动控制系统的工作,当时高射炮发射出的炮弹的速度比德国的飞机快不了多少,而飞机驾驶时有一定随机性,这就要求高射炮在描准时不能再直接对准目标或只是有个大约的提前量,而是要预测飞机将要飞到的精确位置,以使击中目标。这就产生了自动控制问题。维纳概率论和数理统计等数学工具用于火炮控制系统提出了一套最优预测方法。但这只能给出一种可能性最大预测,并不能给出百分之百的击中率。为此他开始把早年学的动物学知识用了起来。

1943年维纳与别格罗罗森勃吕特合写了《行为、目的和目的论》的论文,从反馈角度研究了目的性行为,找出了神经系统和自动机之间的一致性。这是第一篇关于控制论的论文。这时,神经生理学家匹茨和数理逻辑学家合作应用反馈机制制造了一种神经网络模型。第一代电子计算机的设计者艾肯和冯.诺依曼认为这些思想对电子计算机设计十分重要,就建议维纳召开一次关于信息、反馈问题的讨论会。1943年底在纽约召开了这样的会议,参加者中有生物学家、数学家、社会学家、经济学家,他们从各自角度对信息反馈问题发表意见。以后又连接举行这样的讨论会,对控制论的产生起了推动作用。《控制论》一书的副标题是“关于在动物和机器中控制和通信的科学”。

二、   控制、控制论和控制论的发展

1、控制——为了‘改善’某个或某些对象的功能员发展需要获得并使用信息,以这种信息为基础而选出的加于该对象的作用。其含义有:

a)   施加这种作用的目的为了改善对象,以达到预期目标;

b)  控制就是加在某个对象上一种作用;

c)  这种作用是通过信息的选择、使用而实现的。

2、控制论——即一般控制论,是一门研究各类系统的调节和控制规律的科学。

控制论一词Cybernetics,来自希腊语,愿意为掌舵术,包含了调节、操纵、管理、指挥、监督等多方面的涵义,维纳以它作为自己创立的一门新学科的名称,正是取它能够避免过分偏于哪一方面,不能符合这个领域的未来发展纪念关于反馈机构的第一篇重要论文的意思。维纳给控制论下的定义是“设有两个变量,其中一个是能由我们进行调节的,而另一个则不能控制。这时我们面临的问题如何根据那个不可控制变量从过去到现在的信息来适当地确定可以调节的那个变量的最优值。以实现对于我们最为合适、最有利的状态。”

控制论是自动控制、通讯技术、计算机科学、数理逻辑、神经生理学、统计力学、行为科学等多种科学技术相互渗透形成的一门横断性学科。它研究生物体和机器以及各种不同基质系统的通讯和控制的过程,探讨它们共同具有的信息交换、反馈调节、自组织、自适应的原理和改善系统行为、使系统稳定运行的机制,从而形成了一大套适用于各门科学的概念、模型、原理和方法。

3、控制论的发展

控制论是多门科学综合的产物也是许多科学家共同合作的结晶。控制论诞生后,得到了广泛地应用与迅猛地发展,大致经历了三个发展时期。

第一个时期为本世纪50年代,是经典控制论时期。这个时期的代表除了生物控制论外,有我国著名科学家钱学森1945年在美国发表的《工程控制论》

第二个时期是60年代的现代控制论时期。导弹系统、人造恒星,生物系统研究的发展,使控制论的重点从单变量控制到多变量控制,从自动调节向最优控制,由线性系统向非线性系统转变。美国卡尔曼提出的状态空间方法以及其它学者提出的极大值原理和动态规划等方法,形成了系统测辨、最优控制、自组织、自适应系统等现代控制理论。

第三时期是70年代后的大系统理论时期。控制论由工程控制论、生物控制论向经济控制论社会控制论人口控制论等发展。1975年国际控制论和系统论第三届会议,讨论的主题就是经济控制论的问题。1978年的第四届会议,主题又转向了社会控制论。电子计算机的广泛应用和人工智能研究的开展,使控制系统显现出规模庞大,结构复杂,因素众多,功能综合的特点,从而控制论也向大系统理论发展。在1976年国际自动控制联合会的学术会上,专题讨论了大系统理论及应用问题。控制论也形成了工程控制论、生物控制论、社会控制论。其中生物控制论又分化出神经控制论、医学控制论、人工智能研究和仿生学研究。社会控制论则把控制论应用于社会的生产管理、效能运输、电力网络、能源工程、环境保护、城市建议,以至社会决策等方面。维纳在1950年出版的《人有人有的用处——控制论和社会》一书中着重论述了通信、法律、社会政策等等与控制论的联系。阿希贝1958年发表的《控制论在生物学和社会中的应用》一文,认为运用非线性系统的控制理论,可以研究社会系统。

为了解决控制和决策中的非数值问题,和适应80年代以后智能机研究的需要,以及要解决知识信息处理的问题,遂产生了知识工程,并已研制成专家系统、自然语言理解系统和智能机器人等。

三、   控制论的基本概念和基本思想

控制论强调系统的行为能力和系统的目的性。维纳提出了负反馈概念和功能模拟法

行为——系统在外界环境作用(输入)下所作的反应(输出)。人和生命有机体的行为是有目的、有意识的。生物系统的目的性行为又总是同外界环境发生联系,这种联系是通过信息的交换实现的。外界环境的改变对生物体的刺激对生物系统来说就是一种信息输入,生物体对这种刺激的反应对生物系统来说就是信息的输出。控制论认为任何系统要保持或达到一定目标,就必须采取一定的行为。输入和输出就是系统的行为。

反馈——系统输出信息返回输入端,经处理,再对系统输出施加影响的过程。

反馈分正反馈和负反馈。负反馈是控制论的核心问题。

正反馈——反馈信息与原信息起相同的作用,使总输入增大。系统目标偏离。加剧系统不稳定。

负反馈——反馈信息与原信息起相反的作用,使总输入减小。系统目标偏离减小。系统稳定。

控制论的研究表明,无论自动机器,还是神经系统、生命系统,以至经济系统、社会系统,撇开各自的质态特点,都可以看作是一个自动控制系统。在这类系统中有专门的调节装置来控制系统的运转,维持自身的稳定和系统的目的功能。控制机构发出指令,作为控制信息传递到系统的各个部分(即控制对象)中去,由它们按指令执行之后再把执行的情况作为反馈信息输送回来,并作为决定下一步调整控制的依据。这样我们就看到,整个控制过程就是一个信息流通的过程,控制就是通过信息的传输、变换、加工、处理来实现的。反馈对系统的控制和稳定起着决定性的作用,无论是生物体保持自身的动态平稳(如温度、血压的稳定),或是机器自动保持自身功能的稳定,都是通过反馈机制实现的。控制论就是研究如何利用控制器,通过信息的变换和反馈作用,使系统能自动按照人们预定的程序运行,最终达到最优目标的学问。它是自动控制、通讯技术、计算机科学、数理逻辑、神经生理学、统计力学、行为科学等多种科学技术相互渗透形成的一门横断性学科。它研究生物体和机器以及各种不同基质系统的通讯和控制的过程,探讨它们共同具有的信息交换、反馈调节、自组织、自适应的原理和改善系统行为、使系统稳定运行的机制,从而形成了一大套适用于各门科学的概念、模型、原理和方法。

四、控制论的基本方法

控制论是具有方法论意义的科学理论。控制论的理论、观点,可以成为研究各门科学问题的科学方法,这就是撇开各门科学的质的物点,把它们看作是一个控制系统,分析它的信息流程、反机制和控制原理,往往能够寻找到使系统达到最佳状态的方法。这种方法称为控制方法

控制论的主要方法有控制方法、信息方法、反馈方法、功能模拟方法和黑箱方法等。

信息方法——是把研究对象看作是一个信息系统,通过分析系统的信息流程来把握事物规律的方法。

反馈方法——则是动用反馈控制原理去分析和处理问题的研究方法。所衷肠反馈控制就是由控制器发出的控制信息的再输出发生影响,以实现系统预定目标的过程,正反馈能放大控制作用,实现自组织控制。但也使偏差愈益加大,导致振荡。负反馈能纠正偏差,实现稳定控制,但它减弱控制作用、损耗能量。

功能模拟法——用功能模型来模仿客体原型的功能和行为的方法。所谓功能模型就是只以功能行为是相似为基础而建立的模型。如猎手瞄准猎物的过程与自动火炮系统的功能行为是相似的,但二者的内部结构和物理过程是截然不同的,这就是一种功能模拟。功能模拟法为仿生学、人工智能、价值工程提供了科学方法。

黑箱方法(又称系统辨识)——通过考察系统的输入与输出关系认识系统功能的研究方法。它是探索复杂大系统的重要工具。系统辨识是在输入、输出的基础上,从一类系统中确定一个与所测系统等价的系统。黑箱就是指那些不能打开箱盖,又不能从外部观察内部状态的系统。

黑箱方法也是控制论的主要方法。具体是:首先给黑箱一系列的刺激(系统输入),再通过观察黑箱的反应(系统输出),从而建立起输入和输出之间的规律性联系,最后把这种联系用数学的语言描述出来形成黑箱的数学模型。

黑箱方法不涉及复杂系统的内部结构和相互作用的大量细节,而只是从总体行为上去描述和把握系统、预测系统的行为,这在研究复杂系统时特别有用。

白箱方法——研究系统的可观性和可控性,通过定量分析找出两者之间的关系。

黑箱方法的目的在于通过为黑箱建立模型,是黑箱变成白箱。有时黑箱模型不止一个,这种情况下,系统辨识其中最合理的一个。

系统辨识主要步骤是:试验设计、选择模型、参数估计和检验模型。

五、信息科学

信息科学是以信息为主要研究对象,以信息的运动规律和应用方法为主要研究内容,以计算机等技术为主要研究工具,以扩展人类的信息功能为主要目标的一门新兴的综合性学科。信息科学由信息论、控制论、计算机科学、仿生学、系统工程与人工智能等学科互相渗透、互相结合而形成的。60年代中,由于出现复杂的工程大系统需要用计算机来控制生产过程,系统辨识成为重要研究课题。从信息科学的观点来看,系统辨识就是通过输入输出信息来研究控制系统的行为和内部结构,并用简明的数学模型来加以表示。控制就是根据系统结构和要求对信息加工、变换和利用。

信息使用的广泛性使得我们难以给信息下一个确切的定义,但是,一般说来,信息可以界定为由信息源(如自然界、人类社会等)发出的被使用者接受和理解的各种信号。作为一个社会概念,信息可以理解为人类共享的一切知识,或社会发展趋势以及从客观现象中提炼出来的各种消息之和。信息并非事物本身,而是表征事物之间联系的消息、情报、指令、数据或信号。一切事物,包括自然界和人类社会,都在发出信息。我们每个人每时每刻都在接收信息。在人类社会中,信息往往以文字、图象、图形、语言、声音等形式出现。

信息论是研究信息的产生、获取、变换、传输、存贮、处理识别及利用的学科。一般认为,1948年申农发表的《通讯的数学理论》一文标志着信息论的诞生。信息论有狭义和广义之分。狭义信息论即申农早期的研究成果,它以编码理论为中心,主要研究信息系统模型、信息的度量、信息容量、编码理论及噪声理论等。广义信息论又称信息科学,主要研究以计算机处理为中心的信息处理的基本理论,包括评议、文字的处理、图像识别、学习理论及其各种应用。

信息量是信息论中量度信息多少的一个物理量。它从量上反映具有确定概率的事件发生时所传递的信息。信息的量度与它所代表的事件的随机性或各外事件发生的概率有关,当事件发生的概率大,事先容易判断,有关此事件的消息排队事件发生的不确定程度小,则包含的信息量就小;反之则大。从这一点出发,信息论利用统计热力学中熵的概念,建立了对信息的量度方法。在统计热力学中,熵是系统的无序状态的量度,即系统的不确定性的量度。

申农的信息量公式:H(x) =ΣP(xi)h(xi)= —ΣP(xi)·log2P(xi)

其中:h(xi) = log2P(xi),表示某状态xi的不定性数量或所含的信息量。若P(xi)=1,则h(xi) =0;若P(xi)=0,则h(xi) =∞;当n=2,且P1=P2=1/2时,H(x)=1比特。因此可见一个等几率的二中择一的事件具有1比特的不定性或信息量。

信息和控制是信息科学的基础和核心。70年代以来,电视、数据通信、遥感和生物医学工程的发展,向信息科学提出大量的研究课题,如信息的压缩、增强、恢复等图像处理和传输技术,信息特征的抽取、分类和识别的模式、识别理论和方法,出现了实用的图像处理和模式识别系统。

申农最初的信息论只对信息作了定量的描述,而没有考虑信息的其他方面,如信息的语义和信息的效用等问题。而这时的信息论已从原来的通信领域广泛地渗入到自动控制、信息处理、系统工程、人工智能等领域,这就要求对信息的本质、信息的语义和效用等问题进行更深入的研究,建立更一般的理论,从而产生了信息科学。

迄今为止,人类社会已经发生过四次信息技术革命。

第一次革命是人类创造了语言和文字,接着现出了文献。语言、文献是当时信息存在的形式,也是信息交流的工具。

第二次革命是造纸和印刷技术的出现。这次革命结束了人们单纯依靠手抄、撰刻文献的时代,使得知识可以大量生产、存贮和流通,进一步扩大了信息交流的范围。

第三次革命是电报、电话、电视及其它通讯技术的发明和应用。这次革命是信息传递手段的历史性变革,它结束了人们单纯依靠烽火和驿站传递信息的历史,大大加快了信息传递速度。

第四次革命是电子计算机和现代通讯技术在信息工作中的应用。电子计算机和现代通讯技术的有效结合,使信息的处理速度、传递速度得到了惊人的提高;人类处理信息利用信息的能力达到了空前的高度。今天,人类社会已经进入了所谓的信息社会。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多