信息时代的科学基础：控制论、信息论、系统论，这是老的三论了。系统论、控制论和信息论是二十世纪四十年代先后创立并获得迅猛发展的三门系统理论的分支学科。虽然它们仅有半个世纪，但在系统科学领域中已是资深望重的元老，合称“老三论”。人们摘取了这三论的英文名字的第一个字母，把它们称之为SCI论。
耗散结构论、协同论、突变论是二十世纪七十年代以来陆续确立并获得极快进展的三门系统理论的分支学科。它们虽然时间不长，却已是系统科学领域中年少有为的成员，故合称“新三论”，也称为DSC论。
控制论
自从1948 年诺伯特·维纳发表了著名的《控制论——关于在动物和机器中控制和通讯的科学》一书以来，控制论的思想和方法已经渗透到了几乎所有的自然科学和社会科学领域。维纳把控制论看作是一门研究机器、生命社会中控制和通讯的一般规律的科学，是研究动态系统在变的环境条件下如何保持平衡状态或稳定状态的科学。他特意创造“Cybernetics”这个英语新词来命名这门科学。“控制论”一词最初来源希腊文“mberuhhtz”，原意为“操舵术”，就是掌舵的方法和技术的意思。在柏拉图（古希腊哲学家）的著作中，经常用它来表示管理的艺术。
控制论是由美国人诺伯特·维纳于1948年提出的，此人是一位神童，狠角色，跨领域像游戏一样轻松，在哈佛教过哲学，在MIT教过数学，此外还研究过动物学、逻辑学等，其发表了《Cybernetics: Or Control and Communication in the Animal and the Machine》（中文名：《控制论——关于在动物和机器中控制和通讯的科学》）奠定了控制论的基础。
什么是控制论？
控制论是一门研究机器、生命、社会中控制和通讯的一般规律的科学，是研究动态系统在变化的环境条件下如何保持平衡状态或稳定状态的科学。
控制论的特征：
第一个特征
要有一个预定的稳定状态或平衡状态。例如在上述的速度控制系统中，速度的给定值就是预定的稳定状态。
第二个特征
从外部环境到系统内部有一种信息的传递。例如，在速度控制系统中，转速的变化引起的离心力的变化，就是一种从外部传递到系统内部的信息。
第三个特征
这种系统具有一种专门设计用来校正行动的装置。例如速度控制系统中通过调速器旋转杆张开的角度控制蒸汽机的进汽阀门升降装置。
第四个特征
这种系统为了在不断变化的环境中维持自身的稳定，内部都具有自动调节的机制，换言之，控制系统都是一种动态系统。
下面通过一些例子来具体说明控制论思维的应用：
《硅谷之谜》
吴军在《硅谷之谜》这本书里，提出了一个论点，认为是包括控制论在内的新思维、新方法是硅谷持续创新的核心奥秘。
认为硅谷的公司在宽容失败、快速调整方向、理解叛逆精神等方面形成独特的文化，每个公司实现具体目标时，能够根据市场、反馈等信息动态响应，从而紧抓时代脉搏，保持领先。
书中还举了另外一个例子，二战期间，导弹之父冯·布劳恩最开始根据机械思维制作导弹，也就是预先将所有因素都考虑进去，计算导弹的落点。但是实际情况是导弹误伤了很多无辜百姓，是因为发射导弹时以及发射过程中的变量，都会出现超出预先考虑范围。
在二战25年之后，冯·布劳恩设计的火箭将阿波罗11号精准的送到了月球表面的预定登陆地点，这和二战时导弹的难度不可同日而语。其本质就是利用了控制论的方法，在登月过程中实时根据内外部数据进行自行调整。
当然，目前大火的各种AI、自动驾驶等系统底层都有控制论的身影。
《深度案例思考法》
《深度案例思考法》书中提了一个问题：在组织管理中，从下至上的增量改进会带来质的变化吗？
在传统观念中，管理必须由高层从上至下来设计，才会产生质的飞跃。为此，有研究人员进行了典型的案例研究：
案例分析了一个逐渐衰落的老式教会，通过开放给无家可归人员提供食物这一简单的做法之后，在不断的增加一点点微小的改进，包括看牙，之后引入更多的医疗服务等，最后引发了整个教会的勃勃生机，发生了质的改变。
书中给出的原因是：这是因为每个改进，都会带来不同的变化，尤其是整个受众人员的比例在不断的调整，直到到达某一个临界点之后，整个教会的性质就发生了质的变化。
但是从控制论的角度，来看这个问题，当一个非常小的做法执行之后，教会为了维持平衡状态，系统必然会根据新做法带来的变化自我调整，随着调整的不断进行，整个教会的性质发生质变自然而然。
这个结论在管理学上是翻天覆地的，以往的自顶向下的方法新的条件下不再是最优方法。比如，微信就是通过自下而上的方式、动态倾斜资源，在腾讯内部被孵化出来的。
信息论
信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。信息系统就是广义的通信系统，泛指某种信息从一处传送到另一处所需的全部设备所构成的系统。信息论是关于信息的理论，应有自己明确的研究对象和适用范围。但从信息论诞生的那时起人们就对它有不同的理解。
熵是信息的一个关键度量，通常用一条消息中需要存储或传输一个符号的平均比特数来表示。熵衡量了预测随机变量的值时涉及到的不确定度的量。例如，指定掷硬币的结果（两个等可能的结果）比指定掷骰子的结果（六个等可能的结果）所提供的信息量更少（熵更少）。
信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法。信息传输和信息压缩是信息论研究中的两大领域。这两个方面又由信道编码定理、信源－信道隔离定理相互联系。
信息论的基本内容的应用包括无损数据压缩（如ZIP文件）、有损数据压缩（如MP3和JPEG）、信道编码（如数字用户线路（DSL））。这个领域处在数学、统计学、计算机科学、物理学、神经科学和电机工程学的交叉点上。信息论对航海家深空探测任务的成败、光盘的发明、手机的可行性、互联网的发展、语言学和人类感知的研究、对黑洞的了解，以及许多其他领域都影响深远。信息论的重要子领域有信源编码、信道编码、算法复杂性理论、算法信息论、信息论安全性和信息度量等。
克劳德·艾尔伍德·香农（Claude Elwood Shannon ，1916年4月30日—2001年2月24日）
香浓公式
香农定理包括三大定理:可变长无失真信源编码定理，有噪信道编码定理，保真度准则下的信源编码定理。
可变长无失真信源编码定理
1948年,美国工程师香农在贝尔实验室杂志上发表了长文《通讯的数学原理》。他用概率测度和数理统计的方法系统地讨论了通信的基本问题 ,得出了几个重要而带有普遍意义的结论 ,并由此奠定了现代信息论的基础。香农编码理论揭示了在通信系统中 ,采用适当的编码后能够实现高效率和高可靠地传输信息的规律 ,并给出了相应的信源编码定理和信道编码定理。 从数学观点看 ,这些定理是最优编码的存在定理。 它们给出了编码的性能极限 ,在理论上阐明了通信系统中各种因素的相互关系 ,为寻找最佳通信系统提供了重要的理论依据。
香农第一编码定理 (变长无失真信源编码定理 )是最优编码的存在性定理 ,该定理指出了要做到无失真信源编码 ,每个信源符号平均所需要的最少的码元数 ,同时 ,该定理指出了最优码的存在性。
有噪信道编码定理
信道编码定理 (一般指信道正编码定理 )是信息论中的一个最重要的定理之一。它给出了信道无差错传输时码率的上界。
定理(信道编码的正编码定理)如果 C是一个离散无记忆信道 的信道容量 ,那么 C必是该离散无记忆信道序列的一个可达速率。
保真度准则下的信源编码定理
而保真度准则下的信源编码定理，或称有损信源编码定理，只要码长足够长，总可以找到一种信源编码，使编码后的信息传输率略大于率失真函数，而码的平均失真度不大于给定的允许失真度。
无线通信的实现势必要解决两大问题,其一是对信源进行高效的压缩以充分利用有限的信道带宽,即信源编码问题；其二是对压缩后的信息进行错误保护以抵御信道或网络所带来的误码或数据丢失,即信道编码问题。信源编码和信道编码所要解决的问题在一定意义上是相互矛盾的：一方面,信源编码压缩率的提高将导致压缩后的码流抗误码能力的降低,另一方面,提高码流的抗误码性能又要以牺牲压缩效率为代价。
系统论
系统论是研究系统的结构、特点、行为、动态、原则、规律以及系统间的联系，并对其功能进行数学描述的新兴学科。系统论的基本思想是把研究和处理的对象看作一个整体系统来对待。系统论的主要任务就是以系统为对象，从整体出发来研究系统整体和组成系统整体各要素的相互关系，从本质上说明其结构、功能、行为和动态，以把握系统整体，达到最优的目标。
系统思想源远流长，但作为一门科学的系统论，人们公认是美籍奥地利人、理论生物学家L.V.贝塔朗菲（L.Von.Bertalanffy）创立的。
他在1932年发表“抗体系统论”，提出了系统论的思想。1937年提出了一般系统论原理，奠定了这门科学的理论基础。但是他的论文《关于一般系统论》，到1945年才公开发表，他的理论到1948年在美国再次讲授“一般系统论”时，才得到学术界的重视。确立这门科学学术地位的是1968年贝塔朗菲发表的专著：《一般系统理论基础、发展和应用》(《GeneralSystemTheory;Foundations,Development, Applications》）,该书被公认为是这门学科的代表作。
核心思想：系统论的核心思想是系统的整体观念。贝塔朗菲强调，任何系统都是一个有机的整体，它不是各个部分的机械组合或简单相加，系统的整体功能是各要素在孤立状态下所没有的性质。他用亚里斯多德的“整体大于部分之和”的名言来说明系统的整体性，反对那种认为要素性能好，整体性能一定好，以局部说明整体的机械论的观点。同时认为，系统中各要素不是孤立地存在着，每个要素在系统中都处于一定的位置上，起着特定的作用。要素之间相互关联，构成了一个不可分割的整体。要素是整体中的要素，如果将要素从系统整体中割离出来，它将失去要素的作用。正象人手在人体中它是劳动的器官，一旦将手从人体中砍下来，那时它将不再是劳动的器官了一样。
协同论
协同学是研究各种由大量子系统组成的系统在一定条件下，通过子系统间的协同作用，在宏观上呈有序状态，形成具有一定功能的自组织结构机理的学科。它以信息论、控制论、突变论等一些现代科学理论为基础，吸取平衡相变理论中序参量的概念和绝热消去原理，通过对不同学科领域中的同类现象的类比，进一步揭示了各种系统和现象中从无序到有序转变的共同规律。同耗散结构理论一样，协同学的研究对象也是远离平衡态的开放系统，但它进一步指出系统从无序到有序转化的关键并不在于系统是平衡或非平衡，或是偏离平衡状态的远近，而在于组成系统的各个子系统之间的协同作用，即，不仅处于非平衡态的开放系统，而且处于平衡态的开放系统，在一定的条件下，都可呈现出宏观的有序结构。
协同学的创立者，是联邦德国斯图加特大学教授、著名物理学家哈肯（Haken）。1971年他提出协同的概念，1976年系统地论述了协同理论，发表了《协同学导论》，还著有《高等协同学》等等。
耗散结构理论
耗散结构理论的创始人是伊里亚·普里戈金(Ilya Prigogine)教授，由于对非平衡热力学尤其是建立耗散结构理论方面的贡献，他荣获了1977年诺贝尔化学奖。普里戈金的早期工作在化学热力学领域，1945年得出了最小熵产生原理，此原理和昂萨格倒易关系一起为近平衡态线性区热力学奠定了理论基础。普里戈金以多年的努力，试图把最小熵产生原理延拓到远离平衡的非线性区去，但以失败告终，在研究了诸多远离平衡现象后，使他认识到系统在远离平衡态时，其热力学性质可能与平衡态、近平衡态有重大原则差别。
耗散结构论把宏观系统区分为三种：①与外界既无能量交换又无物质交换的孤立系；②与外界有能量交换但无物质交换的封闭系；③与外界既有能量交换又有物质交换的开放系。它指出，孤立系统永远不可能自发地形成有序状态，其发展的趋势是“平衡无序态”；封闭系统在温度充分低时，可以形成“稳定有序的平衡结构”；开放系统在远离平衡态并存在负熵流时，可能形成“稳定有序的耗散结构”。
耗散结构是在远离平衡区的、非线性的、开放系统中所产生的一种稳定的自组织结构，由于存在非线性的正反馈相互作用，能够使系统的各要素之间产生协调动作和相干效应，使系统从杂乱无章变为井然有序。
生物机体是一种远离平衡态的有序结构，它只有不断地进行新陈代谢才能生存和发展下去，因而是一种典型的耗散结构。人类是一种高度发达的耗散结构，具有最为复杂而精密的有序化结构和严谨协调的有序化功能。
耗散结构论认为，耗散结构的有序化过程往往需要以环境更大的无序化为代价，因此从整体上讲，由耗散结构本身与周围环境所组成的更大范围的物质系统，仍然是不断朝无序化的方向发展，仍然服从热力第二定律。由此可见，达尔文的进化论所反映的系统从无序走向有序，以及克劳修斯的热力学第二定律所反映的系统从有序走向无序，都只是宇宙演化序列中的一个环节。
突变论
突变论是研究自然界和人类社会中连续渐变如何引起突变或飞跃，并力求以统一的数学模型来描述，预测并控制这些突变或飞跃的一门学科。它把人们关于质变的经验总结成数学模型，表明质变既可通过飞跃的方式，也可通过渐变的方式来实现，并给出了两种质变方式的判别方法，它还表明，在一定情况下，只要改变控制条件，一个飞跃过程可以转化为渐变，而一个渐变过程又可转化为飞跃。突变论认为事物结构的稳定性是突变论的基础，事物的不同质态从根本上说就是一些具有稳定性的状态，这就是为什么有的事物不变，有的渐变，有的则突变的内在原因。在严格控制条件的情况下，如果质变经历的中间过渡状态是不稳定的，它就是一个飞跃过程; 如果中间状态是稳定的，它就是一个渐变过程。
《硅谷之谜》
附录三论概述
1维纳和控制论
诺伯特·维纳被誉为20世纪的神童之一。189年,维纳出生于一个俄裔犹太人的家庭,父亲是哈佛大学的教师。维纳从小智力超常,3岁可以读写,3年读完中学,12岁申请大学时,他父亲为了不显得张扬,也为了保护他,没有让他报考哈佛大学,而是选择了哈佛北边10英里外的塔夫茨大学( Tufts University)。维纳15岁时获得数学学士学位,同年被哈佛研究生院录取,攻读动物学,但是一年后他又转入康奈尔大学攻读哲学,然后又转回到哈佛继续攻读哲学,18岁就获得了哈佛大学的逻辑学博土学位。从维纳的求学经历来看,他在科学领域涉猎非常广泛。
在哈佛的最后一年,维纳到欧洲游学,他先在剑桥跟着逻辑大师罗素学习,后来又到了哥廷根大学跟随数学大师希尔伯特学习。回到美国后,维纳先在哈佛教授哲学,之后又在麻省理工学院教授数学,据说他的课讲得并不好。维纳一生的经历相当丰富,年轻时还做过报社记者,后来先后来到澳大利亚的墨尔本大学和中国的清华大学短期任教。在清华大学期间,他还指导过华罗庚等人的工作。后来在自述中,他将在清华任教的1935年作为开创控制论的起点。二
战期间,维纳在研究火炮控制方面的工作,对通信理论和系统反馈产生了兴趣,这最终促成了控制论的诞生。
控制论的本质可以概括为下面三个要点。
首先,维纳突破了牛顿的绝对时间观。按照绝对时间观,时间是绝对恒定的物理量,比如昨天的一小时和今天的一小时是一样的,昨天出去玩了一小时没有做作业,今天多花一小时补上就可以了。维纳采用了法国哲学家伯格森的时间观,即 Duree这样一个概念,译作中文时被称为“绵延”,意思是说,时间不是静态和片面的,事物发展的过程不能简单拆成一个个独立的因果关系。比如昨天浪费了一小时,今天多花了一小时做作业,就少了一小时休息,就可能造成第二天听课效果不好,因此浪费一小时和没有浪费一小时的人,其实已经不是同一个人了。如果我们把这种观点应用到企业管理上,那么工厂主强制员工在某一天加班一小时,未必能够多生产出通常一小时产生的产品,因为多加班一小时的员工们已经不是原本的员工了。
其次,任何系统(可以是我们人体系统、股市、商业环境、产业链,等等)在外界环境刺激(也称为输入)下必然做出反应(也称为输出),然后反过来影响系统本身。比如在资本市场上,购买一种股票,就会导致其股价被一定程度地抬高。正因如此,根据过去的经验或者任何已知的信号去操作当下的股市,都不可能达到预期,因为当你觉得便宜时进行购买,而这个行为本身抬高了股价,使你赚不到预想的收益。在维纳看来,任何系统,无论是机械系统、生命系统,乃至社会系统,撇开它们各自的形态,都存在有这样的共性。为了维持一个系统的稳定,或者为了对它进行优化,可以将它对刺激的反应反馈回系统中,这最终可以让系统产生一个自我调节的机制。比如上百层楼高的摩天大厦,在自然状态下会随风飘摆,顶层的位移会在一到两米之间,在大楼的顶上安装一个非常重的阻尼减振球,让它朝着与大楼摇摆相反的方向运动,大楼顶端漂移(输入)得越多,它往相反方向运动(输出)也越多,而这种反方向的运动反馈给大楼,最终会让大楼稳定。在管理上,一个组织为了保证计划的实现,就要不断地对计划进行监控和调整,以防止偏差继续扩大
2香农和信息论
克劳德·香农和维纳一样,也是20世纪一位全才型科学家。他早在硕士期间就提出了利用布尔代数设计数字电路的原理,这成为后来计算机和其他数字电路设计的基础。香农因此在24岁时就获得了诺贝尔协会美国工程师奖,这是当时给美国工程师的最高奖。同年(1940年),他被聘为普林斯顿高等研究院的研究员,成为冯诺依曼和爱因斯坦的同事。二战期间,香农研究火炮的控制和密码学,在这个过程中他发现了后来成为信息论的基本概念和框架体系。香农是第一个认为密码学和通信都是数学问题的人,并且奠定了密码学和通信领域完备的数学基础。
1948年,香农发表了他在二战前后对通信和密码学进行研究的成果这就形成了日后的信息论。信息论是用于度量信息以及利用概率论阐述通信理论的新兴学科。在香农之前,没有人懂得如何量化地度量信息。香农借用热力学中熵的概念来描述信息世界的不确定性,并且将信息量和熵联系起来。香农指出,若要想消除系统内的不定性,就要引入信息。
在信息论中,最重要的是香农的两个定律。香农第一定律又称香信源编码定律,其意义在于可以将信号源内的符号(信息)变成国何通信的编码,而当这种编码尽量地服从等概率分布时,每个编所携带的信息量达到最大,进而能提高整个通信系统的效率。曼在香农第一定律指导下提出的霍夫曼编码,是一种常用的晨优编码,其本质反映了将最好的资源(最短的编码)给予最常见的香农第二定律定量地描述了一个信道中的极限信息传输率和该信道能力(带宽)的关系。在香农之前,人们不懂得信道能力或者带宽的概念。比如在设置无线电台时,大家不知道为什么两个电台频率太接近了就要产生干扰,而是简单地以为是频率调制得不够精确。香农第二定律指出,当两个电台频率太接近时,其带宽就非常窄了信道的容量非常低了,当它低过传输率时,就会出现信息的传输错误,其表现就是有干扰而听不清楚内容,此时将频率调得再准也没用。在香农提出他的第二定律之后,通信行业就有了理论基础。
值得一提的是,在信息论中有一个最大熵原理,大意是在对未知事件发生的概率分布进行预测时,我们的预测应当满足全部已知的条件,而对未知的情况不要做任何主观假设。我们平时常说的“不能把鸡蛋放在一个篮子里”就是这个道理。如欲了解最大熵原理的更多细节,可以参看拙作《数学之美》。
3系统论
般认为,1948年奥地利生物学家贝塔朗菲出版的《生命问题》书,标志着系统论的问世。虽然系统论源于对生物系统的研究,但是它适用于各种组织和整个社会。贝塔朗菲和其他系统论的奠基人主要的观点如下。
首先,一个有生命的系统和非生命的系统是不同的。前者是一个开放的系统,需要和外界进行物质、能量或者信息的交换。后者为了其稳定性,需要和外界隔绝,才能保持其独立性,比如一瓶纯净的氧气,盖子一旦打开,就和周围环境中的空气相混合,就不再是纯氧了。
其次,根据热力学第二定律,一个封闭系统总是朝着熵增加的方向变化的,即从有序变为无序,比如一杯冷水和一杯热水相混合,变成一杯温水,这是无序状态。用香农的理论来描述,也即一个封闭的系统变化一定是不确定性不断增加。如果我们把一个公司或者一个组织看成是一个系统，如果它是一个封闭系统，一定是越来越糟糕。相反，对于一个开放的系统，因为可以和周围进行物质、能量和信息交换，有可能引入所谓的“负熵”，这样就会让这个系统变得更有序。最初薛定谔等人用负熵的概念来说明为什么生物能够进化（越变越有序），后来，管理学家们借用这个概念来说明一个公司或组织在外界环境的影响下，可以变得更好。中国的俗话“它山之石可以攻玉”就是这个道理。这从某种角度解释了一个地区为什么近亲繁殖会道路越走越窄，而引入外来文化才有可能不断进步。
最后，对于一个有生命的系统，其功能并不等于一个局部功能的总和，或者说将每一个局部研究清楚了，不等于整个系统研究清楚了。比如熟知人体每一个细胞的功能，并不等于研究清楚了整个人体的功能。这种理念和机械思维中的“整体总是能够分解成局部，局部可以再整合成为整体”的思路完成全不同。
