前言

既然我们要谈控制论(Cybernetics)，需要考虑的一个十分关键的问题便是，“赛博cyber”是什么？这个想法来自何处？我们生活在一个被技术定义的时代，当我们在收发电子邮件、乘坐飞机或是阅读俄罗斯黑客新闻的时候，我们很少思考这些塑造我们现代世界各种事物的起源。王博士在讲座中由“控制论的历史”说起，汇集了不同年段技术的历史: 从发明雷达、二战的中的“无线炮弹”到无人驾驶, 从人工智能、 虚拟现实，再到目前大家担心的网络安全和赛博战。跨越智能科学与技术70年的发展，干货满满~

这本译著的英文原版《Rise of The Machines》一经发售便得到了众多媒体的广泛报道，是《麻省理工技术评论》、《君子》、《财富》杂志评定的2016年最佳书籍之一，并入选“2017年度最激动人心之科学著作”的决选名单。现在就让我们跟着王晓博士的步伐，一起来看看讲座的精华吧~

报告主线

战争中的控制与通讯

战争是推动科学技术发展最为有效的手段之一。我们今天关注的许多科学问题，使用并研发推广的众多技术，许多都起源于二战。维纳发表的跨时代巨著——《控制论》，亦不例外。控制论的两个核心思想：闭环反馈和人机交互，都起源于二战中维纳要解决的一个重要问题——地对空的防御问题。

1940年8月8日，希特勒发布了著名的元首17号令，下令纳粹空军“在可能的最短时间内集中一切力量战胜英国空军”。这是历史上首次，一个国家仅仅采用空中作战的军事行动去摧毁另外一个顽强抵抗的国家。同年10月15日和16日，德军向伦敦派出了235架轰炸机；英国的地面防空体系不堪一击，用了8326枚炮弹，仅仅击毁2架德机、损伤2架德机。这种“几乎无效”的地对空防御情况，将在仅仅4年之后，得到彻底的改变。

二战中被德军摧残的伦敦

在这种希特勒下令德国空军全面攻击英国的情况下，英国不得不把许多的基础科研项目迁移美国，而将自己国家的精力专注于战争中的即时生产。1940年8月，时任英国航空研究委员会主席的亨瑞•狄泽德爵士与时任美国国防研究委员会(NDRC)主席的范内瓦•布什在华盛顿特区的宇宙俱乐部开心地约了一顿饭，使得布什领导的NDRC获得了对于英国伯明翰大学研发的多腔磁控管微波研究的主导权。随后，该技术被转移到MIT，其辐射实验室在1940年10月成立，在利用多腔磁控管技术下，MIT辐射实验室的研究和技术人员们不仅发明了雷达，他们同时想到：使用反馈回来的雷达脉冲，我们就能控制榴炮弹的发射了！于是XT-1车载微波雷达，即SCR-584，光荣地在MIT的辐射实验室诞生了，这使得盟军的感知侦测能力极大地得到了提高。

但新的问题又来了，当感知能力提高后，如何优化地面武器的射击控制？在武器来袭的时候，人的操作使非常慢的。当时如果要射击一个目标要进行以下步骤，通信质量严重地限制了射击的精度：复杂的步骤会让误差加大，由此射击的准度也由此变差。在炮手利用获得的数据设置炮弹引信过程中，又衍生了一个新的问题——如何设置精确的引信时间。在这里就不得不提到开环控制和闭环控制。二战之前是没有闭环控制的，只有开环射击。闭环控制作为一种实时交互过程，射出炮弹后会有反馈。而开环则是打出炮弹后，不管有没有射击到目标，整个过程就此结束。我们可以做这样一种形象的描述，如果说开环是“单相思”，那么闭环控制就是“两情相悦”。既然多腔磁控管可以是感知的关键，那么可否把它装到炮弹中呢？沿着这一思路，克服了研发过程中遇到的重重问题，终于研制出了可变时间引信(variable-time fuse) 或简称“VT引信”。这是一种带有感知功能的炮弹(被它盯上了，可就像是狗皮膏药，甩也甩不掉)，战后更是被《巴尔迪摩太阳报》报道“作为一种秘密武器，无限炮弹的重要性仅仅次于原子弹。”就这样，精准射击问题也得到了有效解决。

备注：V-T引信可看做一个微型无线电台，包括一个发射器，一架天线和一个接收器，这些都安装在炮弹的弹头处。当一个155mm的炮弹离开炮口时，微型无线电台打开并开始发射连续波。当炮弹在高空中接近德国轰炸机，发出的无线电波会被反射回来。炮弹感知接收到返回的无线电波并放大，放大后的电波传递到一个微型的气闸流管(开关)，引爆炸弹。

在艰苦的技术突破后，我们即将解决地对空的追踪射击问题啦！1944年6月13日凌晨，德国首次使用V-1导弹轰炸伦敦，此时他们不知道的是，海峡彼岸已经准备好了应对的秘密武器——VT引信，它将无情且“不为人知”地把靠近的V-1导弹撕碎在空中。1944年7月第4周，79%穿过英吉利海峡的V-1导弹都被击落了；8月V-1导弹对伦敦的最后一次进攻，105枚导弹只有3枚抵达伦敦。这是一场前所未有的战争，几乎无人干涉，全部由机器人—VT机器人和V-1机器人—完成，由此揭开了机器与机器对抗的序幕。

其实，在二战中，布什领导的NDRC部门资助了许多项目，这几乎反映了当时的控制系统世界。其中有60多个的项目，都是关于地对空防御问题的解决。维纳的项目也在其中。诺伯特·维纳 (Norbert Wiener)，十八岁从哈佛大学哲学系获得博士学位，思想翱翔于九天之上的天才(头脑极度发达，动手能力此处不做评价)。他的研究项目是“预测处在飞行压力之下的驾驶员飞行行为”，而金额只有可怜的2,325 美元(当时NRDC每个项目的平均资助额是145000美元)！

尽管最后，这个项目失败了，但维纳的控制论的基本思想已然形成：控制、反馈与人-机交互。用作者的话来说：维纳没能改变二战的形态，但二战却为维纳打磨了一件利器。但令人无奈的是，VT机器人之所以能够打败V-1机器人，正是因为V-1机器人没有考虑维纳研究的那个问题(如果德军研发人员中注意到维纳的研究，也许二战的结果就要改变啦)，也是处在压力之下的所有飞行员都会采取的一种做法，采取躲避行为：一条游走的随机路线。

控制论

众所周知，二战是人类空前的一次灾难，给整个世界带来了无法磨灭的印记。特别是在科学家们帮助美国政府研发了有史以来最具毁灭性的武器之后，政府没有与科学家们进行任何沟通，直接在太平洋上空投放了这一核武器，这引发了科学家们的强烈不满。 

当时的情况是，一方面，V-1导弹、V-2导弹与原子弹的相继研发成功并投入战场，造成了大量伤亡，越来越多的人开始反思战争并反抗军国主义；另一方面：40年代末，军事力量上的技术奇迹开始渗透到工业和私营经济中。50年代，随着汽车和普通电话机成为人们生活中必不可少的一种控制论设备，公众需要有人来解释这些新技术以及它们出现的目的。正是这时，维纳的《控制论(Cybernetics)》 “顺天时而生”。

维纳的“控制论”包括三个核心思想：

控制论 =  控制 + 反馈 + 人机交互 

   1. 控制是指系统能够与环境交互进而塑造环境的能力；

   2. 反馈描述了一种“使用机器过去的性能表现调整未来行为的一种属性”；

   3. 人机交互，使得人与机器共同组成了一个整体，一个“伺服系统”。

在大众看来，控制和反馈，也许有些抽象、理论化且难以理解，但是第三个思想，“人机交互”，却激发了丰富的想象：机器是否能活过来？机器能否获得智能？既然机器能够扩展人的体能(例如，雷达是人们眼睛的扩展)之后，是否在智能上也会超过人类？既然能用人的思想来理解机器(拟人化的机器)，那能不能用机器的思想来理解人呢(机械化的人体)？这些所有的问题，衍生了整个的控制论学科群。在上图中，维纳与冯•诺依曼的合作，启发了后者关于“自复制自动机”的研究；维纳、麦卡洛克与皮茨的合作，促生了世界上第一个神经元模型；同时，这一学科也启发了其他学科的专家从闭环的角度理解手头的工作。当科学家们在探讨控制论的研究范围和研究重点时，一个名为Ross Ashby（上图右上角）的医生已经“撸起袖子”制造了世界第一台机械大脑——“同态调节器”。它用4个前英国皇家空军的炸弹控制开关齿轮装置为底座，外观套有4个立方铝盒。唯一可见的运动部件是4个小磁针，像指南针一样在每个铝盒顶部安装着的一个小水槽内摆动。该机器的设计主旨为保持4个电磁元器件处于稳定状态，使得铝盒上方水槽中心位置的磁针一直保持在中间位置。Ashby是一位神经病医生(所以说，疯子和天才往往只有一线之差)，他之所以会制造这台机械大脑，也是为了借此研究并解释，为什么人的精神会出问题，不得不佩服歪果仁敢想敢干的能力。那这台机械大脑所具有的是一个人类才有的基本特征：具有目标-搜索行为，但却没有具体的目标。阿什比坚信，“任何机器，不管是多么了无生机，都可以用负反馈来展现其生命特征”。引发了新的对于大脑与环境或系统与环境的关系与影响，将控制论的研究推进了几十年。想想今日之脑科学研究、类脑研究、人机交互等研究的生物大脑与其身体形状的关系等许多问题，似乎都与控制论中关于系统与环境的探讨一脉相承。

在阿什比对控制论的推动，维纳对军事力量以及“按钮战争”的反思，对美国的军事也产生了新的影响。维纳最担心的，是“按钮战争”的爆发，当人类把诸如原子弹的核爆炸武器的投放权移交给机器人时，人类会给机器人下达一则“命令”或“口令”，这正像是神话故事中魔法学徒对魔法扫帚或者渔夫对阿拉丁神灯所念的“咒语”。在神话故事中，这样的“任性”口令最终都引发了一些不好的结局；那么在真实世界中，人类是否也会将自身置于尴尬甚至无法挽回的境地？

自动化

在学术界对控制论的研究范畴、应用范畴等问题进行讨论时，美国政府和企业界已经极大地推动了控制论在军事和工业生产中的应用。前者催生了大陆级别的高空放射炮塔SAGE，后者引发了“自动化工厂不招人”的严峻就业问题。

维纳在其《控制论》一书的序言中就曾经写道：“第一次工业革命，通过引入机械装置导致了人类手臂的贬值”。他相信：“第二次工业革命，同样会引起人类大脑的贬值，至少会引起人类大脑在更简单更常规化的决策方面的贬值”。维纳警告公众：“非常明显，自动化将造成失业的情况，与之相比，30年代的大萧条将不值一提”。当时，美国工人阶级已经对自动化可能引起的“机器换人”情况十分关注，甚至在肯尼迪的国务院记者发布会上也引起了激烈讨论。

1963年，维纳决定对自动化引发了一些精神与技术的后果进行盘点[2]，在这次盘点中，他严厉地批判了那些认为“除非预先输入，否则机器不会产生任何输出”的人的观点，并明确强调“我的观点是，机器能够并肯定会超越它们的设计者的某些局限性，并且当机器实现时，他们可能即是高效的又是危险的。很可能出现这种情况，原则上，我们并不能制造出我们永远都不了解其行为因素的机器。但这绝不意味着，我们能用比操作机器所需要的更少时间去理解机器的行为因素，甚至用数年或几代的时间也不行。”尽管今天，我们已经可以制造出不了解其行为因素的机器(如应用神经网络、深度学习等机制的机器)。

同一时期，文学与科学交相辉映。在这个特殊的时代，产生了大量影响深远的文学和影视作品。关于机器智能是否能够超越人类智能、机器人与人类将保持怎样关系的话题，最早的讨论出现于1920年出版的《罗素姆万能机器人(Rossum’s Universal Robots)》，这部小说讲述了一个制造机器人的“人造人”工厂中的故事，小说的结局是机器人对其制造者发起反抗并最终消灭了人类。 

在1950年的秋天，这一剧目走上了MIT戏剧院皮博迪剧场的舞台。排演之前，维纳走上台，在人声鼎沸中展示了他称之为“帕尔米亚”的趋光机器人，并用它来展示神经震颤的两种状态：帕金森症和意向性颤抖。这成功引起了美国军方的注意，但军方的关注点却完全不同，恰是维纳的反面，因为在他们看来，机器人不会生病、不会请假、不会闹脾气。

库尔特•冯内古特发表于1952年的《自动钢琴(Player Piano)》也是这一时期的代表作(不知道大家有没有关注《西部世界》这部剧集，每一集的开头都有一架钢琴在自动演奏，应该是对这部小说的致敬)，它描述了在机器人替代大部分脑力劳动后，人类幡然醒悟并进行了了一场失败的与机器人对抗的起义的故事。1955年，弗兰克·莱利的《赛博和福尔摩斯大法官(The Cyber and )》则探讨了未来的法院系统，智能高效的机器取代了人类法官。但完美的理性行为并不是一切，道德与情感同样重要，小说的结局是最新型的赛博法官因被要求计算梦的重要性而崩溃。因为机器人在会比人类更快、更精确地完成任务，而且不会生病、不会罢工、不会酗酒，它极大程度上会成为定制化的优秀员工。这甚至引起了获得诺贝尔文学奖的波特兰·罗素的反思：“Are Human Beings Necessary?” 1968年亚瑟·克拉克的《2001: 太空漫游(2001: A Space Odyssey)》则是描述机器获得意识与智能的里程碑式著作，在这部小说中，人类战胜了机器。

在这样的历史背景下，自然而然的出现了一些新的反思：当机器接管之后，人类会灭亡吗？英国星际航行协会前主席、曾被授予卡林加奖的亚瑟·克拉克对于这个问题进行了深入的探讨，他指出，生物进化，已经让位于一个更为快速的过程，技术进化。“直白而残酷地说，机器将会接管一切”。发表在《花花公子》杂志上的这篇文章用一棵展示了生物进化过程的进化树阐明了这一故事：从微生物到鱼类，恐龙，猴子，尼安德特人，现代人类，最后是机器。用他的话说，“因为没有个体会长存于世；那么我们为什么会期盼我们的种族能够永远延续下去呢？”

此时，美苏冷战已接近巅峰，时任苏联领导人的尼基塔•赫鲁晓夫已经多次在公开场合发表言论“自动化很好。它是我们用来打败你们这些资本家的手段。”美国政党也毫不示弱，亚利桑那州的一名共和党人巴里•戈德华特强调：“只有通过(自动化)增加每工时的产出工作量，我们才能建立有效的防御来抵抗苏联的侵略力量”。这是因为，二战带给参战各国的一个十分重要的教训是“具有领先生产能力的国家将会赢得战争。”但是这对于美苏冷战期间对太空和深海等极端环境的探索却毫无用处。

因此，新的思考出现了，“可否借助自动化改变人类的身体，使其更好的探索极端环境，拓展国家疆土？”由此，控制论的新产物出现了——赛博格。

参考文献

1.  王飞跃, 社会计算还是社会化计算：兼忆社会计算一词的起源，http://blog.sciencenet.cn/blog-2374-514254.html?from=groupmessage .

2.  Wiener N. Some moral and technical consequences of automation. Science, 1960, 131(3410): 1355-1358.

3.  在此基础上，提出了“自复制自动机”的理论。

4.  1956年麦卡锡提出的人工智能的概念，即是“制造智能机器的科学与工程(the science and engineering of making intelligent machines)”

5.  王飞跃, “面向计算社会的计算素质培养: 计算思维与计算文化”, 工业和信息化教育, 2013, No. 6, pp. 4–8.

6.  王飞跃, “面向赛博空间的战争组织与行动: 关于平行军事体系的讨论”, 军事运筹与系统科学, 2012, Vol. 26, No. 3, pp. 5-10.

7.  Quoted in Douglas Waller and Mark Thompson, “Onward Cyber Soldiers”, Time 146, No. 8, pp: 38-45.

8. 王晓公开讲座——机器崛起：从Cybernetics 到Cyborg

注：本文版权归王晓所有，源于4月23日在集智分享的报告，内容由集智俱乐部的志愿者整理而成。经王晓同意，本文于5月5日授权集智俱乐部和混沌巡洋舰刊登，转载需经作者同意。