丹·麦奎伦：ChatGPT是一个发起阶级战争的废话生成器
ChatGPT并不是真正的新事物，而只是自工业革命开始以来发动的阶级战争的迭代。
像GPT家族这样的大型语言模型（LLM）通过优化它们预测句子中缺失单词的能力来学习语言的统计结构（如“猫坐在[空白]上”）。尽管变压器模型的技术柔术令人印象深刻，并且它们学习了数十亿个参数，但它仍然是一个计算猜测游戏。用技术术语来说，ChatGPT是一个“废话生成器”。如果生成的句子对你（读者）有意义，这意味着数学模型已经做出了足够好的猜测，可以通过你的意义过滤器。语言模型不知道它在说什么，因为它根本不知道任何事情。它更像是一个胡说八道，而不是你见过的最令人震惊的利己主义者，以坚定不移的信心做出毫无根据的断言，因为这就是它的设计目的。当记者和学者通过产生数英亩令人窒息的报道来回应时，这对母公司来说是一种奖励，即使在表达对人类创造力终结的担忧时，这也是公关。
习惯于Siri和Alexa的毫无戒心的用户认为，流畅的ChatGPT正在以某种方式利用可靠的知识来源，但它只能利用它在训练时摄取的互联网（诚然是巨大的）比例。尝试向谷歌的 BERT 模型询问有关 Covid 或 ChatGPT 有关俄罗斯对乌克兰的最新袭击。具有讽刺意味的是，这些模型无法引用自己的来源，即使在很明显它们抄袭训练数据的情况下也是如此。ChatGPT 作为废话生成器的性质使其有害，并且它变得越优化，它的危害就越大。如果它产生了似是而非的文章或计算机代码，这意味着不可避免的幻觉变得越来越难以发现。如果一种语言模型吸引我们信任它，那么它就成功地成为业界“值得信赖的人工智能”的圣杯;问题是，信任任何形式的机器学习是导致单身母亲被社会保障官员踢开前门的原因，因为预测算法将她们与许多其他算法暴力事件一起指出可能是欺诈者。
当然，GPT的制造商从经验中了解到，无人看管的LLM除了胡说八道之外，还倾向于散布伊斯兰恐惧症或其他仇恨言论。ChatGPT中的技术添加被称为来自人类反馈的强化学习（RHLF）。虽然LLM的全部意义在于训练数据集对于人类标记来说太大了，但一小部分精选数据用于构建一个监测系统，该系统试图根据相关性和非毒性标准限制输出。它无法改变这样一个事实，即底层语言模式是从原始互联网中学习的，包括所有的胡言乱语和阴谋论。虽然RLHF是一个更好的废话品牌，但它不需要太多的独创性来提示揭示可能躺在下面的胆汁。ChatGPT越合理，它就越能概括种族科学的伪权威合理化。它还表明，尽管吹嘘LLM在很大程度上是自我训练，但任何现实世界的系统都需要不稳定的“幽灵工作”来保持其合理性。事实证明，人工智能不是科幻小说，而是对现有劳动和权力关系的技术强化。在肯尼亚，每小时支付2美元给外包工人，这样他们就可以通过标记淫秽材料来“折磨”，这比喻了无形的和性别化的护理劳动，这种劳动总是已经支撑着我们现有的商业和政府体系。
与人工智能的其他部分一样，ChatGPT的危险远不止偏见和歧视。尽管有证据表明该模型的“推理”能力是基于训练数据中关联频率的浅层启发式方法（这意味着，作为一个说明性的例子，它擅长回答“什么是24 x 18？”，而不擅长回答“什么是23 x 18？”），但AI社区中有许多人坚持将推理和洞察力的涌现属性归咎于ChatGPT。其母公司OpenAI的成立是为了“确保通用人工智能造福全人类”，其中“通用人工智能”（AGI）是用于类人类智能的内部术语，超越了面部识别或自动驾驶汽车等狭隘的AI。然而，正如我在书中阐明的那样，AGI的概念与自帝国和殖民主义时代以来支撑着先天至上思想的那种智力等级制度密不可分。因此，毫不奇怪，那些将ChatGPT的热情孵化为新兴AGI的硅谷文化也表现出对长期主义等相关世界观的忠诚，在长期主义中，数百万普通人的直接脆弱性与未来太空超级竞赛的前景无关。
与此同时，OpenAI在ChatGPT炒作的支持下获得了数十亿美元的投资。这里的重点不仅在于金字塔级回报的口袋，还在于机构和政府准备在这些技术上投入如此多的原因。对于这些玩家来说，诱人的愿景不是真正的人工智能（不管是什么），而是足以取代人类工人的技术，或者更重要的是，让他们不稳定并破坏他们。ChatGPT并不是真正的新事物，而只是自工业革命开始以来发动的阶级战争的迭代。据称消息灵通的评论员可以推断ChatGPT将用于“削减员工工作量”，而不是进一步裁员，这表明人们普遍未能将人工智能理解为一个政治项目。正如我在书中所说，当代人工智能是自动化行政暴力和放大紧缩政策的集合体。ChatGPT 是现实扭曲领域的一部分，它掩盖了潜在的榨取主义，并转移我们提出错误的问题和担心错误的事情。与其表达惊奇，不如问问以“令人瞠目结舌”的速度燃烧能量来为世界上最大的胡说八道机器提供动力是否合理。
声称“ChatGPT将继续存在，我们只需要学会与之共存”的评论正在拥抱我所谓的“AI现实主义”的绝望。通过总是提到人工智能所谓的善的潜力来显示“平衡”的冲动应该通过承认社会效益仍然是投机性的，而危害已经得到经验证明，从而放弃。正如OpenAI首席执行官所做的那样，说我们都是“随机鹦鹉”，就像大型语言模型一样，是学习模式的统计生成器，没有表达更深层次的东西，这是一种虚无主义。当然，精英们不会把这句话应用到他们自己身上，只会应用到我们其他人身上。人工智能的结构性不公正和至上主义观点使其坚定地走上了优生主义解决社会问题的道路。
与其反动的解决方案主义，不如让我们问问人们真正需要的技术在哪里。让我们重新唤起对社会有益的生产，重新提出从社区需求出发的技术发展理念。事实证明，后疫情时代的“新常态”既涉及神经网络的正常化，也涉及死灵政治的兴起。变压器模型和扩散模型不是创造性的，而是有害的——它们和其他形式的人工智能禁锢了我们想象真正替代方案的能力。不久前，我们都意识到了真正必不可少的工人的身份;那些从事护理、教学、护理、分娩和清洁等不稳定角色的人，正是那些被迫重新发明总罢工思想只是为了重新获得生存条件的职业。与其与碳排放数据中心运行的昂贵玩具同谋，我们可以专注于集中护理活动。正如在“抵制人工智能”中更详细地讨论的那样，拒绝算法的贫困伴随着对替代方案的积极寻找，我制定了一个人民委员会和基于公地的团结计划来做到这一点。现在不是与AI聊天的时候，而是抵制它的时候。
作者介绍：
在获得实验粒子物理学博士学位后，丹·麦奎伦与学习障碍和心理健康问题的人一起工作，与寻求庇护者一起创建网站，并在大赦国际和NHS工作。他现在是一名大学讲师，最近出版了《抵制人工智能——人工智能的反法西斯方法》一书。
来源：VICE
翻译：Bing
往期：
特德·姜：ChatGPT 是网络上的一个模糊的JPEG 文件