苏竣｜开展人工智能社会实验 探索智能社会治理中国道路

当今世界，新冠疫情正深刻改变着人类的未来，新一轮科技革命和产业变革蓄势待发。以人工智能为代表的新兴科学技术日新月异，给世界各国的经济发展、社会治理和人民生活带来重大深远的影响。人类即将从传统工业社会迈向以科技进步与智能革命为基础的智能社会。人工智能技术在颠覆性重组人类社会的同时，也给人类社会的法律隐私、伦理道德、公共治理等方面带来一系列严峻的问题和挑战。

每一次科技重大突破，在激发起人们对未来的无限憧憬与遐想时，总有一批科学研究者以审慎而睿智的目光，提醒我们回归理性，引导技术与社会步入良性发展的轨道。1955年爱因斯坦与哲学家罗素一起发表了著名的《罗素-爱因斯坦宣言》，号召各国谨慎使用核技术，避免因核武器的不当使用给人类社会造成毁灭性灾难。在这一宣言的推动下，1957年来自世界各国众多的科学家、学者共同发起了《帕格沃什科学和世界事务会议》，致力于防范核武器对人类的毁灭，寻求人类的可持续发展之道。直到今天，世界各国的科学家们仍通过该组织，不断致力于促进科学技术的合理利用，维护人类社会的和平发展。

如今，人类再次迎来人工智能等颠覆性技术。当代的科技工作者们更要勇担时代责任，顺应科技发展的历史潮流，提升对人类命运的关切，探索智能社会治理的道路。最近一段时间，受到全社会热议的“困在算法里的外卖小哥”、网络游戏沉迷、“信息茧房”等问题，以及盲目的追求算力提升而带来能源消耗激增等争议，暴露的只是人类面临的挑战的冰山一角，都在警示人类社会的智能化转型并非坦途。

现在面临的种种问题，是社会各界都非常关切的问题，是社会转型中“成长的烦恼”，同时更应该认识到这些问题是智能技术发展过程中的不确定性所导致的，这些不确定性又进一步引致了社会风险，诱发了社会脆弱性。具体而言，主要表现在4个方面。

一是日益庞大、复杂的技术系统导致的综合性技术风险。泰斯勒定律（Tesler’s Law，也称为复杂度守恒定律）指出，每个系统都具有其内在的、无法简化的复杂度，要想去除这种复杂度是很困难的，只能设法调整、平衡。智能社会依托于复杂智能系统，而复杂性往往意味着潜在的安全威胁，系统内任何一个技术子系统甚至组件运行的失调都可能引起不可控的连锁反应。2003年美国和加拿大发生的“814”停电大事故，就是由于复杂系统的软件错误导致的。源自微观子系统的风险往往是众多社会风险事件的“导火线”、“灰犀牛”或“黑天鹅”。

二是具有网络效应的超级平台垄断引发的市场风险。梅特卡夫定律（Metcalfe’s law）认为，网络的价值等于网络节点数的平方，网络的价值与互联网的用户数的平方成正比。因此，以互联网为支撑的智能经济，与生俱来就具有赢者通吃、网络合并的基因。特别是智能技术的发展，使算法以前所未有的速度和无与伦比的精度处理数据，让占据用户数据和高级算法优势的个体或组织因此获取了极大的权力，形成垄断性的超级平台，对原有市场中的劳动者权益和消费者福利造成无边界的蚕食。不仅仅是外卖小哥被“困在算法里”，我们每个人都被困在各式各样的算法里。

三是精准算法产生“信息茧房”导致群体极化的社会风险。传统经济时代存在著名的长尾效应（Long Tail Effect），认为那些差异化的、少量的市场需求如果集中累加起来，甚至能够产生比流行市场更大的影响力。当前依托于信息技术、智能技术的发展，正在推动长尾效应从经济领域蔓延到社会方方面面。智能精准推送致使“信息茧房”的“回音壁”现象不断发酵，使得观点相似的人们在网络空间组成团体。特定的价值偏好在特定群体里面交汇、共生、震荡，逐渐形成极端的观点，导致群体极化现象进一步加剧。近年来互联网空间经常出现的“汹汹民意”，无不显示出这种极化现象正在促使人类失去独立思考的能力、机会，进一步诱发社会对抗与撕裂。

四是由于短期内人们的价值观不适应新兴技术迅猛发展带来的冲击与挑战，从而产生的认知风险。在隐私、伦理、道德、世界观、价值观等诸多方面深刻颠覆人类现有的认知，旧的“世界”、文化与文明逐渐被打破，但新“世界”、新文化、新文明的建立还有待时日，给我们每个个体带来了认知风险。

技术是中性的，算法是无辜的，资本是逐利的。构建有人文温度的智能社会的治理体系，从根本上来说，取决于我们能否超越梅特卡夫定律导致的极化的约束，能否妥善处理长尾效应掀起的滔天巨浪，能否充满智慧地应对去中心化带来的熵增和无序状态。在这场人工智能掀起的人类社会巨变中，我们需要用科学的方法来研究和应对科学技术带来的各种问题、风险和困扰，我们不但要关注技术本身，更需要关注技术的社会影响，我们需要采用长周期、多学科、宽领域的观察研究，深入理解人类社会转型的过程和机理，全方位回应来自学术界、实务界以及每个普通人的社会关切。

近年来，我们围绕如何利用科学方法推动智能技术和智能社会的健康发展做了一些工作。在长期研究积累的基础上，国内的一些专家学者于2019年春率先发起了“开展人工智能社会实验、探索智能社会治理中国道路”的倡议，得到了学术界、产业界和实务部门的广泛关注、积极响应与大力支持。

开展人工智能社会实验、探索智能社会治理的中国道路，就是要推动特定的人工智能技术在社会治理中广泛应用。遴选有代表性的人工智能应用场景，通过建立实验组和对照组、科学抽样和伦理审查，将应用过程中产生的泛意性影响转变为内涵清晰、概念准确的可测度变量。采用科学的方法进行测量和数据处理，形成技术规范、技术标准、政策建议等反馈给企业和政府相关部门，促进人工智能技术发展路径优化，助力国家治理体系和治理能力现代化。

作为一种检验特定政治、经济、科技因素作为干预条件被引入真实社会情境所产生效应的经典循证方法论，社会实验的方法曾经为研究和获取人类社会转型的经验知识作出了巨大贡献。

近百年前的1924年，哈佛大学梅奥教授和他的同事们，在美国一个称做霍桑（Hawthorne）的小镇，采用社会实验的方式研究工业化社会的机器、组织与人，研究农民被工业化大生产组织起来，离开土地进入工厂后发生的变化，发表了名著《工业文明的社会问题》。“霍桑实验”成为管理学的一座丰碑。

80多年前，梁漱溟、晏阳初、黄炎培先生等一批知识分子，以他们的情怀和对乡土中国的无限的爱，在山东邹平、北京清河等地，开展乡村社会实验，致力于推动社会变革和进步。尽管他们的实验被日寇入侵的炮声所淹没，但是这些知识分子给我们留下的背影一直没有远去，给我们留下的精神财富仍然在今天激励着我们。

2019年，三位获得诺贝尔经济学奖的学者也通过社会实验的方法来研究贫困问题，为推动人类社会减贫贡献了重要的理论和实践经验。2021年诺贝尔经济学奖得主仍然开展与社会实验相关的工作。

我们发起的开展人工智能社会实验的倡议，也是为了充分发挥我国人工智能应用场景广泛、深入、多样的优势，基于科学循证的逻辑，在实践探索中总结经验规律，从而进一步推动人工智能技术的应用，进一步提升智能社会的治理效能。

作为一项紧扣时代需求、契合社会关切的理论方法与实践创新，开展人工智能社会实验、探索智能社会治理的中国道路已经在广袤的中国大地上有序展开，这个工作得到了中央政府部门、地方政府、产业界和学术界的积极参与与大力支持。科技部将开展人工智能社会实验作为全国18个人工智能创新发展试验区的任务之一，并成立负责这项工作的咨询专家组，以提供学术咨询意见。中央网信办、发改委、教育部等八部委在全国22个省市区建设了92个国家智能社会治理实验基地，遴选了10大行业领域中的数百个应用场景，组织开展长周期的智能社会治理实验探索工作。

近年来，研究人员围绕人工智能赋能城市治理、数字乡村建设与农村电商转型升级、赛博空间的精神沉迷、人工智能对中小学生成长的影响等问题，依循人工智能社会实验的研究路径，开展了长周期的追踪、观测和研究。实证发现城市智能治理过程中公众对于便利和隐私问题的态度变化，农村数字化转型对农村权力结构、差序格局产生的变革性影响，以及网络游戏对青少年学习机制的影响。清华大学也积极支持相关工作，成立了智能社会治理研究院，整合多学科的力量，开展相关研究工作。

经过两年多的努力，在国家的高度重视下，社会各界克服新冠疫情的影响，通过统筹规划、顶层设计、重点发展、示范推动，人工智能社会实验的学术研究、组织建设、队伍建设、人才培养、基地建设、标准建设等已经在全国有序展开、稳步起飞，智能技术治理与智能社会治理齐头并举，实现了公共政策研究从“理论研究—政策建议—政治决策—行政执行—组织实施”的全循环。

我们这代人生逢其时，正在经历着人类从工业社会向智能社会转变的历史机遇期，我们更应该为社会转变、为后代构建有人文温度的智能社会贡献力量和智慧，引领人类命运共同体走向更加光明的未来。

开展人工智能社会实验，探索智能社会治理中国道路，是一项政治性、社会性、科学性兼而有之的事业，是新时代以人为本，全面提高人民群众幸福感、获得感、安全感的重要发力点；是新征程下我国全面实现高效能治理、高质量发展、高品质生活的推进剂；是展现我国积极参与全球新兴科技治理新行动、新作为，促进我国负责任大国形象提升的新场域、新支点；是面向未来加强全球务实合作，深化后疫情时代世界各国政府、企业与社会交流沟通，推动包容性发展和全人类福祉提升的新路径。

智能社会是人类从未触及的蓝海，开展成规模、有组织的人工智能社会实验在全世界、全社会尚属首次，没有成功的经验可循，难度很大，困难也很多。这一面向人类未来的伟大事业需要更多的力量积极参与。让我们共同努力，深入探索智能社会治理的中国道路，建设有人文温度的智能社会，用我们的智慧推动人类灿烂的文明永葆生机。