陈楸帆｜人工智能会梦见超真实吗？ ——AIGC时代的中国数字媒介生态观察

《南方文坛》

2023年第6期

人工智能会梦见超真实吗？

——AIGC时代的中国数字媒介生态观察

文 | 陈楸帆

陈楸帆        

制造拟像的焦虑

2019年被视为中国科幻电影的“元年”。这一年的春节档，诞生了创下46.88亿人民币（约合7亿美元）票房纪录的现象级科幻灾难片——《流浪地球》，而同档期另一部由宁浩导演的科幻喜剧《疯狂的外星人》，也获得了3.276亿美元的票房佳绩。

有趣的是，这两部作品除了都是改编自刘慈欣的小说，最为观众津津乐道的便是在影片中借助于先进的CGI（Computer Generated Images）技术创造出来的鲍德里亚式的“拟像与仿真”（Simulacra & Simulation）。在鲍德里亚的理论中，不同于自然主义者（Naturalist）与生产主义者（Productivist）阶段的simulacra，分别对应于乌托邦想象与严格意义上的科幻，第三阶段的simulacra of simulation呈现出的特质是“founded on information，the model，the cybernetic game—total operationality hyperreality，aim of total control”^①（基于信息、模型、控制论游戏——全面运行的超真实，全面控制的目标）。

▲电影《流浪地球》宣传海报，图源网络

《流浪地球》中的地下城场景，政府通过全息投影制造出旧日城市景象（美学风格上对应为20世纪90年代北京城），通过模拟蓝天、白云、阳光、草地以及种种使人产生乡愁的生活场景，使得人们得以延续正常的心理状态。而当断电之后，Simulacra轰然倒塌，社会随即陷入混乱。而在地上世界，借助数字建模技术呈现的是在极端气候下被大雪覆盖的北京央视大楼、被冰封的上海东方明珠塔等“陌生化”奇观。在以往中国电影中，几乎从未出现过现实地标建筑被破坏的场景（想想《独立日》中被炸毁的白宫），而如今，这些数字奇观以极其逼真的视觉效果刺激着观众的心理禁忌，产生一种离经叛道般的快感。

而在《疯狂的外星人》中，Simulacra被放置到更为隐性的中国式语境当中。故事的起点和终点都在山寨游乐园发生，类似深圳的锦绣中华以及中国许多旅游景点，在狭小的物理空间中挤进了世界各地的标志性建筑物——华盛顿白宫、莫斯科教堂、里约热内卢耶稣像、巴黎埃菲尔铁塔、埃及金字塔甚至还有《西游记》中的五指山。外星人在景点的每一次拍照留念，都将追踪其后的美国特工带入歧途。导演宁浩借此既讽刺了美国的“世界警察”立场，又对中国的“山寨”文化进行戏谑，这一表达的有效性正是建立在鲍德里亚的理论基础之上。

▲电影《疯狂的外星人》宣传海报，图源网络

Simulacra模糊了真实与虚拟的边界，它不再是对某个领域、某种指涉对象或某种实体的模拟，而是一种“generation by models of a real without origin or reality”^②（“没有原型和真实性，由模型生成的真实”）。这种“不依存于现实的真实”被称为“超真实”（Hyperreality），是一种“比真实更真实”的纯粹符号表征状态。

在鲍德里亚关于后现代媒体的批判中，“超真实”是一个关键的概念。这是因为在超真实的条件下，媒介成为一种宰制工具。媒介成为符号的载体而大量充斥于现代社会，人们又依赖媒体去感知世界，因此媒体称为被操控的符号“表演”的场所，成为大众认识世界和感知世界的唯一途径。一旦超真实取代了真实的状态，那么模型和符号便成了真实的决定因素：网红明星成了青少年的榜样，广告与推荐算法成为消费者的陷阱，新闻所宣扬的内容成为唯一合法的叙事版本……由此，媒介操纵带来的超真实，以一种歇斯底里的方式控制着全世界。

但超真实并非像某些学者所认为的，是只属于发达资本主义社会尤其是美国的痼疾与概念，不能“随意套用于现实生活，尤其是我们中国”^③。然而，正在上演的媒介技术变革并不会因为国界或是政治制度而改变路径，它的分布或许并不均匀，带来的冲击却是一视同仁的深刻。“真实已经成为模型的不在场证明，在一个由模拟原则控制的世界里”（the real that has become the alibi of the model，in a world controlled by the principle of simulation）^④同样适用于中国。

《流浪地球》导演郭帆在接受采访时提到中美电影工业水平差距至少有20年，“它的核心就是标准化，然后才可以量化、细分，可被分配，提高效率。这是工业化的基础逻辑”^⑤。正是这种大规模制造、复制并输出simulacra和simulation的能力，让以好莱坞为代表的美国文化能够在全球范围内引领意识形态符号的风潮。作为全球第二大经济体的中国渴望建立起与国力相匹配的“软实力”，因此反复强调“文化出海”“讲好中国故事”的口号。比起复制有着百年历史积淀的好莱坞，中国最终找到了一条弯道超车的捷径——数字媒体技术。

▲手机游戏《原神》场景，图源网络

近年来，由中国政府、风险资本与技术巨头携手推动的媒介革命有如狂飙拐弯的过山车，催生出以Tiktok、原神（一款由中国公司米哈游出品的手机游戏）、网络小说为代表的数字内容平台与产品，以摧城拔寨的速度攻占欧美乃至全球市场。以自然语言理解、数字孪生、VR、AR、游戏引擎及人工智能为核心的新一代数字媒体技术，完全实现了从符号到符号的生产过程，并消弭真实与虚拟的边界，但同时又为沉浸其中的主体带来难辨真伪的情感与体验，主体在客体的“诱惑”（seduction）下逐渐丧失主动性，沦为被物（object）所影响、引导、操控的奴隶。

但在对技术缺乏警惕与批判语境的中国社会，Simulacra所带来的焦虑，远远不如制造simulacra能力不足所带来的焦虑严重。这便形成了一个悖论式的反馈回环，它会将中国数字媒体生态引向什么样的未来呢？

数字人崛起或客体的诱惑

2021年3月10日，元宇宙概念股Roblox在美国上市，市值超400亿美金；10月28日，科技巨头Facebook更名为Meta，在全球范围掀起了元宇宙热潮。腾讯也在2021年提出相似的“超数字现实”（Hyper Digital Reality）作为下一阶段的发展口号，这不由令人回想起40年前由鲍德里亚提出的“超真实”概念。

元宇宙专家、清华大学新闻学院教授沈阳认为“元宇宙是整合多种新技术产生的下一代互联网应用和社会形态，它基于扩展现实技术和数字孪生实现时空拓展性，基于AI和物联网实现虚拟人、自然人和机器人的人机融生性，基于区块链、Web 3.0、数字藏品/NFT等实现经济增值性。在社交系统、生产系统、经济系统上虚实共生，每个用户可进行世界编辑、内容生产和数字资产自所有。”在展望美好前景的同时，他也提出预警，元宇宙的实现需要巨量投资和漫长周期，AR/VR硬件缺陷和市场普及率、基础设施及平台建设、用户体验转换成本都会影响到这场媒介革命的进程，特别提到“相较于美国电影《失控玩家》中描绘的No rules，中国元宇宙必然不可能是法外之地”。这与近年来中国政府严格监管游戏行业、禁止加密货币，打压虚拟资产（虚拟房产、NFT）炒作的口径高度一致，而这些通常被视为元宇宙技术版图中的核心要素^⑥。

▲电影《失控玩家》宣传海报，图源网络

与此同时，中国政府意图发挥自上而下的计划经济式运动，通过政策、税收、补贴、人才引进、集约化园区来推动元宇宙的行业发展。截至2022年10月底，中国境内至少30个地区（涉及10个省级行政区）颁布了元宇宙相关的支持性政策或征求意见稿，其中包括上海和河南两个省级专项行动计划。然而在业内人士看来，诸如眼镜（镜片）技术、5G网络、电池、渲染引擎和计算架构之类核心技术的突破和创新是“很难通过政府的产业规划去触发的”^⑦。

在诸多元宇宙相关概念中，数字人（Digital Human，也包含虚拟人与数字虚拟人，见表一，在此不做区分）作为最容易与当下商业形态对接的“元宇宙”概念，成为备受中国资本追捧的新赛道。数字人指存在于数字化媒介中，“基于计算机图形学、图形渲染、动作捕捉、深度学习、语音合成等技术打造的、具有外貌特征、表演能力、交互能力等人类特征的复合体”^⑧。

2021年，虚拟美妆达人柳夜熙在抖音上发布了第一条短视频，获赞量超过300万点赞；2022年江苏卫视的跨年晚会上，以逝世多年的著名歌星邓丽君为原型“复活”的数字人更是与现场歌手周深合唱歌曲；2022年冬奥会期间，央视新闻AI虚拟主持人准确及时地进行赛事手语直播。数字人学生（清华“华智冰”）、员工（万科“崔筱盼”、百信银行AIYA、OPPO小布等）、主持人（新华社“新小微”，人民网“小晴”，央视网“小智”等）、偶像（洛天依、A-SOUL等）……诸多身份层出不穷，充斥着社会生活的方方面面。

▲资料来源：根据量子位、CG世界、OVERDOPE、天风证券的相关研究资料整理

一方面是政策引导与鼓励，国家广电总局在2021年下发文件，要“推动虚拟主播、动画手语广泛应用于新闻播报、天气预报、综艺科教等节目生产，创新节目形态，提高制播效率和智能化水平”^⑨。

另一方面是资本大举进入数字人赛道上下游，其中有腾讯、网易、字节跳动等科技巨头，也有红杉、纪源、峰瑞等风投机构，更有诸多迫切抓住“元宇宙”风口的传统上市企业如利亚德、风语筑、奥飞娱乐等。天眼查数据显示，中国现有数字人的相关企业28.8万余家。从2016—2020年，5年新增注册企业复合增长率近60%，行业进入爆发期。

▶真实环境的虚拟数字人

鲍德里亚曾指出，现代技术对“simulacra”的贡献：“从无声到有声，然后到彩色，到立体，到特殊效果的流行频道，电影幻觉手法以及消失在表演中。不再有空间，不再有省略，不再有宁静。人们越是接近这个理想的清晰度，这种无用的优点越是使幻觉能力失去。”（from the silents to the talkies，then to colour and 3-D and the current range of special effects，the cinematographic illusion faded as the technical prowess increased. No empty space any more，no ellipsis，no silence. The more we move towards that perfect definition，that useless perfection，the more the power of the illusion is lost.）^⑩

而当下的中国便为现实的simulacra化提供了完美舞台。

COVID-19加速了中国数字化与虚拟化的进程：移动互联网及智能手机的高渗透率，让中国在特殊政策下依然能够维持社会的基本正常运行，健康码、在线购物、线上课堂、在线办公以及《动物森友会》《王者荣耀》为代表的虚拟娱乐全面影响中国人日常生活。作为“互联网原住民”的Z世代^⑪早已习惯“活在网上”，消费与社交行为全面线上化，重视虚拟身份属性超过了物理世界存在，他们是对数字人接受度和付费意愿最高的人群^⑫。我们也应该看到当下狂飙突进的数字人热潮背后的种种隐忧。

传统虚拟人通过CG建模、手绘方式完成前期制作，通过联合动捕、面捕技术实现驱动，当以VTuber（中文被称为“中之人”）操控虚拟化身进行演艺、直播、代言为核心的虚拟人经济沦为流量变现、头部效应、圈地运动的新一轮版本，在真实世界出现过的偶像“塌房”（指负面新闻曝光）、“开盒”（指关注、挖掘VTuber的信息，被视为不道德行为）、劳资纠纷甚至剥削现象（如虚拟偶像团体A-SOUL成员珈乐宣布终止直播^⑬）便毫无例外地会在虚拟世界再度上演。

追求商业化变现的风险资本涌入行业，导致短时间内出现大量同质化严重的数字人形象。这些通过统计学与数字建模技术“捏造”的面孔与人体，试图最大范围覆盖市场对于相貌与身材的审美偏好，却制造出一大堆被阿多诺批判为“伪个性”的产品。它们按照社会中人们所喜欢、所需要的样子而调整参数，并不具备差异化的个性与独特性。甚至会反向影响并操控受众的审美判断与能力，强化不合理的刻板印象与性别歧视。在父权制占据主导地位的中国语境下，便表现为数字人性别失衡，大量女性数字人被塑造成男性凝视下的欲望投射对象，有着夸张的身材比例与刻意幼稚化的五官、神态与言行，并通过充值购买不同等级互动的形式，在虚拟空间中实现对女性的物化。

新的技术驱动下，商业机构利用AI工具在抖音、小红书等内容分享平台上生成数字人账户，并设置成具有独特个性、人工社交圈和个人喜好兴趣，通过自然语言理解能力实现足以让受众产生移情效应的互动。这些数字人账号拥有大量的追随者，由于对流量和商业变现的激励，创造者几乎没有动力去制作有意义的实际内容，而是倾向于通过巴甫洛夫式的程式化叙事，激发受众即时性的情绪反应，拉动即时性的消费冲动。并将受众的数据吸纳，经过算法学习，获取更有针对性、更强烈的个性化情感体验，实现对消费者的二次剥削。

这同样呼应了鲍德里亚的判断，“This is what we do with the problem of the truth or reality of this world：we have resolved it by technical simulation，and by creating a profusion of images in which there is nothing to see.”^⑭（这就是我们对这个世界的真相或现实问题的处理方式：我们通过技术模拟，通过创造大量的图像来解决这个问题，但这些图像中却空无一物）。在simulation时代，人将被模型所重构并生活在由信息、模型以及赛博空间建构起来的控制系统之中，支配和控制我们的不再是现实原则，而是simulation原则，其结果就是作为主体的人将无限萎缩直至消失。而在高度符号化的超真实世界里，物/客体（Object）抛弃被主体使用的价值，通过模型编码的无限复制，谋求一种对过度控制它的主体复仇的自主性，以“诱惑”，将主体拖拽入象征交换（symbolic exchange）的游戏中，为未来主客关系的重构寻找新的出路。

AIGC，真实的内爆

2017年，我与前Google同事工程师王咏刚一起开始一场写作实验。用CNN（Convolutional Neural Networks，卷积神经网络）与LSTM（Long Short-Term Memory Network，长短期记忆网络）训练能够模仿人类创意写作的算法模型。机器写作并不是新鲜事，早在20世纪90年代，自动化程序便能以拼贴组合的统计学方式写诗，抓取实时资讯生成结构性新闻等，但是作为高度复杂的叙事文本——小说所要求的逻辑性、自然语言理解能力，以及对于人物、情节、结构、文法不同层面的要求，之前的AI尚未达到这样的能力。

我们用CNN对小说文本进行特征提取，然后将输出的特征图谱（feature map）映射为序列矢量输入到LSTM网络，便能够训练出能够模仿人类写作的算法模型，然后通过调整参数，也就是所谓的finetuning，让它写出来的东西尽量地接近我们现有对于文学的理解和审美。学习了上百万字我的作品之后，AI程序“陈楸帆2.0”可以通过输入关键词和主语，来自动生成每次大约几十到一百字以内的段落，我与它共同创作的作品《出神状态》（State of Trance），甚至还赢得了一座由AI评委评出的奖杯^⑮（第二名是诺贝尔文学奖获得者莫言的《等待摩西》）。这让我醒觉到，未来的机器将更深入地卷入人类创作中，未来的内容版图也会变得更加复杂、暧昧而有趣。

体验无限远是近乎奇妙。当然，你连自我应该是一个遗憾。都是为了毫无悬念的光临来。你感到梦魇，没有她什么叫自己，只是想为何，这便是现实数学的力量转起，很难丧失后来，改变未来的网站，并能藉助仪式的地表，假装藏在那里，只能面对人群。

真正的一个瘤子。^⑯

可以肯定的是，这些机器生成的句子没有逻辑性，也无法对上下文的剧情和情绪产生指涉性的关联，为了把这些文字不经加工地嵌入到人类写作中去，我必须围绕着这些AI创作的语句去构建出一个新的语境，比如说《出神状态》中人类意识濒临崩溃的未来上海。在这样的语境中，AI的话语风格可以被读者接受被视为合理的，而且是由人类与他者的对话情境中带出，从认知上不会与正常人类的交流方式相混淆，因此它在叙事逻辑上是成立的，是真实可信的。这次AI与人共同创作的实验性并不在于机器帮助我完成写作，而在于最后是我帮助机器完成了一篇小说的写作。

▲陈楸帆：《零碳中国》，安徽少年儿童出版社，2022

▼陈楸帆：《动物观察者》，山东教育出版社，2021

巧合的是，2017年也正是Google发布重注意力机制与Transformer算法，并开启了机器学习在自然语言处理（NLP，Natural Language Process）领域狂飙突进的历史性时刻。之后，我们见证了OpenAI推出的GPT（Generative Pre-Trained Transformer）模型不断进化，挑战人类对于智能、意识以及创造力的理解边界。

2022年11月底，OpenAI推出基于GPT-3.5的ChatGPT——一个能够回答问题，写作小说、论文甚至代码生成的对话式AI，在全球掀起现象级热潮。它从0到获得100万用户只用了不到5天，而Twitter用了2年，Facebook用了300天，Instagram用了75天。相比于之前的GPT-3模型，ChatGPT增加了“依据人类反馈进行强化学习”（RLHF，Reinforcement Learning with Human Feedback）的概念，能够更好地理解文本更深层次的复杂含义，无论是连续流畅的对话，还是对于错误想法的纠正，甚至能够质疑不合理前提或者干脆拒绝恶意提问，足以让对话者产生“以假乱真”的幻觉。

这种“由模型生成的真实”成本高昂。它的数据资料来自大约800万个网页组成的数据集（被称为“WebText”数据集）以及其他各种文本来源（包括书籍、文章和其他书面作品）；算法包含1750亿个参数，相当于人脑神经连结数量的十分之一；训练所需的计算能力在单个V100 Nvidia GPU上得运行288年，而这仅仅是训练阶段。如果100万用户平均每天只进行10次对话，Open AI每天需要为这种真实的幻觉烧掉真金白银的10万美元，更不用说消耗的大量电力与产生的碳排放。

不同于2015年的上一波AI热潮，当时DeepMind推出AlphaGo改写围棋历史，之后各家巨头相继开源深度学习框架，再到围绕AI算力的芯片竞赛，都是面向政府、企业、机构的To B商业化实践。这一波AI热潮的兴起却是源于普通用户自下而上的狂热。无论是ChatGPT还是大量“Text-to-Image”的AI生成绘画平台，都让人看到了AI如何作为赋能创作者的工具，改变内容行业生产方式、提高效率、降低成本与门槛、实现创作自由的潜力。对于市场广阔、消费者众多、需求多样化的中国内容市场来说，这显然是一个不容错过的巨大风口。

在过去的几年中，中国科技巨头如百度、腾讯优图、阿里巴巴、快手、字节跳动、网易、商汤、美图等都在AIGC领域有所投入。

百度推出的AI辅助作画平台“文心一格”；腾讯打造的写稿机器人“梦幻写手”；阿里巴巴推出AI在线设计平台Lubanner，帮助营销人员生产广告Banner；网易推出的一站式AI音乐创作平台“网易天音”；等等。这些平台均是帮助第三方机构/创作者能够在AI辅助下高效完成内容生产工作。大量资本涌入垂直赛道，初创公司也势头正劲，覆盖AI音乐、数字人、AI音频语音、AI游戏设计等诸多领域。

与此同时，从自动提取语音转换字幕、文字生成语音功能，到“笑脸”“哭脸”等大批的AI生成特效的出现，再到“一键生成”的AI剪辑视频，AIGC技术早在抖音、快手等平台的内容生产环节中占有一席之地。

从抖音官方数据看，截至2022年12月6日，“真人变漫画”特效已经超2428万人使用，并迅速飙升至特效潮流榜TOP1。用户只需上传照片或点击屏幕，几秒钟内AI便可以自动将照片转换成动漫风格的图片，吸引大量用户围观。同样在快手平台，“AI动漫脸”在上线第3天，相关话题就迅速登上快手热榜第2位；在11月24日当天，更是为主站贡献了30万作品量以及4000万多播放量。

在用户与数据量庞大、互动频繁、资本贪婪涌动而发展空间又相对较大的中国社会，作为元宇宙及Web 3.0基础设施之一的AIGC被寄予厚望，它的指数式增长究竟意味着怎样的超真实未来。借助于鲍德里亚式的技术哲学反思，我们是否能够防范其中的一些风险，无论是从伦理、认知、美学或是本体论层面上。

我们要讨论的，不仅仅是利益集团或犯罪分子利用AIGC技术制造肉眼难辨真假的deepfake新闻和网络谣言，扰乱大众认知与社会秩序。更为根本的风险在于，现存的人工智能并不是人们所预测的那样。它不是超理性的和有序的；它是混乱的和模糊的。ChatGPT的回答可能会充满谬误与偏见，文化上的狭隘与种族上的歧视，这是由于训练数据集中来源广泛的互联网语料所表征的人类社会特质所决定的，然而目前并没有有效的技术手段予以审查及纠偏，甚至机器学习递归式的自我强化特性会放大所有的这些错误与瑕疵，影响到更广泛人群尤其是青少年对于真实世界的认知。

更进一步符合逻辑却又令人惊悚的推测是，当语言模型如此普遍，以至于未来模型的训练主要建立在其他模型先前生成的语言数据基础之上，而不是人类产生的“原生语言”，会发生什么？衔尾蛇般自我吞食之后的反馈回环效应难以预测。如何标记并区分人类的“原生语言”以及机器的“生成语言”，或者两者之间混合的比例？这种新的符号系统与运行机制是否正是超越了主客二元对立的新关系？如维特根斯坦所言“我语言的局限，即是我世界的局限”，建立在语言基石之上的人类文明应该如何应对这样的范式转换？

正如N. Katherine Hayles所说，作为当下最成功的语言模型，GPT-3并非“随机鹦鹉”（stochastic parrots），因为它不仅可以识别，还可以再现风格和体裁这样的高层次特征，这意味着它能够创建与其他推论相关联的推论，从而形成意义网络。人类对语言的学习是具身化（embodied）与嵌入式（embedded）的，而Transformer中神经元（neurons）的输入和输出则被转化为矢量（vectors），并以矩阵数学的形式互相关联，不涉及任何对世界的感知。因此，像所有的神经网络一样存在着“指代的脆弱性”（fragility of reference）。GPT存在着一个由索引关系（Indexical relationship）网络构建的客观世界（Umwelt），但这种世界与人类的Umwelt有很大不同，它并非对现实建模，而是对语言建模^⑰。

▲埃里克·麦克卢汉：《媒介环境学译从——麦克卢汉精粹》，中国大百科全书出版社，2021

在人工智能哲学的历史上，图灵测试试图以人机对话的方式验证AI是否具有某种程度的知觉（sentient）。John Searle著名的“中文房间”（试图感受这个名字中的他者意味）思想实验则证明，符号操作的功能能力并不构成理解力。然而最新版本的聊天机器人却足以让一个接受过高等教育的软件工程师相信AI有自主意识与感情^⑱。或许我们能够将此简单归结为Lemoine受ELIZA效应的影响——将人格投射到互动客体上，产生诸如“情感”与“意识”的误读。正如deepmind创始人Demis Hassabis所说“our brain are trained to interpret agency，basically，in things，even in an inanimate thing sometimes...because language is so fundamental to intelligence that’s going to be easy for us to anthropomorphize that”^⑲（我们的大脑被训练成即使对非活物也会解释出主体性……因为语言对于智能极为基础，因此我们很容易将其作为拟人化的特征）。更为合理的推论是，要么是图灵测试已经过时了，它高估了语言在表征sentient和意识上的能力与完备性；要么是人类高估了自身对于辨识语言、智力、sentient、意识各自表征及其关系的能力，我们对于这一系列人类中心主义的概念都需要重新定义。当然，这需要在智能机器的帮助下。

我们越来越难以将媒介、技术与信息本身区分开，也难以分辨真实与虚拟的边界何在。它们水乳交融，浑为一体。而所有令受众亢奋迷狂的超真实符号，都是来自上千亿个参数的微调，对热力学扩散模型（Diffusion model）的数学模仿^⑳，每一次生成，都是来自模型新鲜的即兴表演，人类无法重复，无法解释，只有膜拜。

我们已经从麦克卢汉式的“媒介即信息”，进入到一个全新的阶段——“模型即信息”。距离消失了，主体消解了，理解等同于计算，创造等同于生成，一切都降服于一场超越了语言边界的内爆中。最后，不如让我们来听听ChatGPT对于人类的忧心忡忡有何高见吧（见图一）！

▲图一

总而言之，人工智能生成内容在中国的快速崛起，既带来了赋能创作者、变革行业的巨大潜力，也存在生成带有偏见、有害内容以及碎片化共享现实的风险。为发挥人工智能生成内容的效益，同时应对伦理、认知和本体论方面的关注，中国需要采取多方面举措。在法律上，必须制定规范，以防止被利用和操纵。在技术上，审核数据集，建设包容性人工智能，使人工智能与人类价值观保持一致，还有，持续对影响进行关键性反思至关重要。在文化上，发展公众对人工智能和媒体的素养，能培养出明智的公民，能够有意识地在虚拟和现实世界中进行导航。如果以平衡、社会负责任的方式进行，人工智能生成内容可以提高效率和创造力，但前提是各行业需将伦理人工智能作为优先事项。今天的选择将深刻塑造未来新兴的超真实。

展望：一个分形的未来？

在鲍德里亚所想象的超真实的第四阶段，我们将迎来“the fractal（or viral，or radiant）stage of value，there is no point of reference at all，and value radiates in all directions，occupying all interstices，without reference to anything whatsoever，by virtue of pure contiguity. At the fractal stage there is no longer any equivalence，whether natural or general. Properly speaking there is now no law of value，merely a sort of epidemic of value，a sort of general metastasis of value，a haphazard proliferation and dispersal of value.”［在价值的分形（或病毒式、辐射式）阶段，完全不存在任何参照点，价值以自身的形式向各个方向辐射扩散，占据一切间隙，不再参照任何外在事物，仅仅依靠纯粹的邻接关系。在这个分形阶段，不再存在任何等价关系，无论是自然的还是一般意义上的等价关系。严格来说，不再存在价值规律，仅存在某种价值的流行病，某种价值的全面转移和扩散，某种价值的任意随机增殖和传播。］^㉑

这论断毫无疑问充满了虚无主义与悲观主义的色彩。当主体与一切价值判断都变成没有寄托的符号幽灵，客体在复仇与诱惑中达到内爆的顶点，我们还将如何去想象、参与、建构一个新未来。作为洞悉时代先声的远见者，鲍德里亚也许敏锐捕捉到了这一切，但却没有给出答案。

无论如何，中国将成为一片分外有趣的试验田和游戏场。在改革开放之后的40年间，中国社会完成了巨大的转型与飞跃，而这种变化似乎仍在加速当中。

我记得1997年，当时还是中学生的我开始接触PC和互联网，学习的还是Basic语言，使用的是古老的3.5英寸软盘和拨号上网，网速只有可怜的56K，换算成下载是每秒7KB，经常断线。而20年之后，我出生于20世纪50年代的父母已经能够熟练地在网上购物，用语音唤醒不同的智能电器，甚至也拥有了自己的社交网络账号和虚拟身份。中国人对于科技有着一种黄金时代科幻小说般天真的乐观态度，他们渴望尝试并积极拥抱一切能够带来便利的新发明。这种实用主义精神也促使企业与资本愿意不断投入，加速产品与服务更新换代的周期，以换取更高的市场占有率与增长率。

或许以数亿倍于自然界进化速度学习人类语言的AI，在中国也会产生更多样、更难以预料的分形，以无法回避的超真实海啸，席卷每一个人。无论是否愿意，我们都将成为数据、符号、simulation系统的一部分，以不同姿态和深度，自相似地参与到整个未来的构建当中。沉默将不再是一个选项。

我无法像OpenAI CEO Sam Altman那么乐观，他在推特上写道：“Trust the exponential. Flat looking backwards，vertical looking forwards.”（相信指数型增长。回看过去是曲线平缓，展望未来是陡峭爬升。）但我愿意像David J.Chalmers那样坚持追问，我们能在超真实世界中过上有意义的生活吗？^㉒■

（陈楸帆，中国作家协会科幻文学委员会）

【注释】

①Jean Baudrillard，Simulacra and Simulation，translated by Ann Arbor，The University of Michigan Press，1994，p.121。以下如无注明译本，均为笔者自行翻译。

②④Jean Baudrillard，Simulacra and Simulation，translated by Ann Arbor，The University of Michigan Press，1994，p.1、122.

③马小茹：《超真实：符号的狂欢——在鲍德里亚范式的转折点上》，博士学位论文，中国社会科学院研究生院，2018。

⑤邹松霖：《专访〈流浪地球〉导演郭帆：科幻和艺术的背后是工业化》，《中国经济周刊》2019年第4期。

⑥沈阳：《元宇宙不是法外之地》，《人民论坛》2022年第7期。

⑦杨博雯：《今年全国至少30个地方出台元宇宙政策文件，释放何种信号？》，《南方都市报》2022年10月30日。

⑧郭全中：《虚拟数字人发展的现状、关键与未来》，《新闻与传播研究》2022年第7期。

⑨国家广电总局：《广播电视和网络视听“十四五”科技发展规划》，http：//gbdsj.gd.gov.cn/zwgk/zcfg/content/post_3617251.html。

⑩⑭Jean Baudrillard，The perfect crime，translated by Chris Turner，Verso，1996，p.31、6.

⑪出生于1995—2009年间的人，2020年达2.53亿，占中国人口17.6%，数据来源：中国国家统计局。

⑫陈婷、温梦华：《2022新数智·消费趋势报告|Z世代，“内外兼修”的虚拟人能许你一个未来吗？》，《每日经济新闻》，https：//www.nbd.com.cn/articles/2022-03-15/2166593.html。

⑬A-Soul members quit the group，ByteDance virtual idol dream is broken，https：//inf.news/en/entertainment/eec4657d91be6d050b0a4689ecf40a97.html.

⑮Sci-Fi Writer or Prophet？The Hyperreal Life of Chen Qiufan，Wired，https：//www.wired.com/story/science-fiction-writer-china-chen-qiufan/.

⑯陈楸帆：《出神状态》，《小说界》2018年第4期。引用部分为AI程序通过深度学习作者风格创作而成，未经人工修改。

⑰N. Katherine Hayles，inside the mind of an ai：materiality and the crisis of representation，2022-0613，https：//zhwx.ecnu.edu.cn/zwxen/70/c3/c28514a422083/page.htm.

⑱参考谷歌工程师Blake Lemoine与LaMDA的聊天记录，https：//www.nytimes.com/2022/06/12/technology/google-chatbot-ai-blake-lemoine.html。

⑲Demis Hassabis：DeepMind，Lex Fridman Podcast，1:50:50，https：//lexfridman.com/demis-hassabis/.

⑳https：//www.quantamagazine.org/the-physics-princi-ple-that-inspired-modern-ai-art-20230105/.

㉑Jean Baudrillard，The transparency of evil：essays on extreme phenomena，translated by James Benedict. Verso，1993. p.5.

㉒https：//www.nytimes.com/interactive/2021/12/13/ma-gazine/david-j-chalmers-interview.html.

▲上下滑动查看注释

● 新刊｜《南方文坛》2023年第6期目录

1. 本刊从未设立官网，亦未在任何网站开放投稿渠道，也没有其他采编点或分支机构，从未委托任何单位或个人编辑出版《南方文坛》杂志。

2.本刊唯一投稿邮箱为nfwt@tom.com。

3.对冒用本刊名义进行收费和征稿的单位和个人将保留起诉权利。

敬请广大作者和读者谨防假冒网站及诈骗信息。

长按左侧二维码识别即可关注

▲版权声明：

本公众号内容均为原创，

如需转载，请标明出处