其他
IIGF观点 | 邓洁琳、施懿宸：ESG视域下，算法歧视问题现状及解决方案：以年龄歧视为例
互联网发展给予人们看见更大世界、触及更多样化人群、感受更多思维碰撞的机会和场景。随着技术的进步，大数据、人工智能等技术的出现也在改造着传统社会形态，带来了数字化的消费生活场景、便捷的公共服务体系、智慧的医疗系统等。但与此同时也出现了基于大数据算法精准推送的“信息高墙”，塑造了信息传播受限的“圈子”式网络社群。每一个网络用户同时作为数据生产者，正与算法背后的网络平台共同经历并推动着新社会形态的演化。然而依托于大量数据和代码背后的问题是，所收集的数据本身存在用户受众的局限性、编码者也有着受限于社会发展阶段的人本“刻板印象”，数字世界不被看见的人群将经受新型“隐形歧视”。
当前，ESG同样是互联网行业的热词，在“万物皆可ESG”的当下，如何将广义的环境、社会和治理（ESG）理念纳入负责任人工智能技术中，解决数字化带来的年龄歧视等问题，是值得关注的话题。
一、数字化时代的算法
算法（Algorithm）指的是在计算或其他解决问题的操作中要遵循的一组有限规则或指令，在计算机科学为计算机编程的基础，用于解决从简单的排序和搜索到人工智能和机器学习等复杂任务的问题。其核心是创建问题、设定原则、明确求解目标。大量的数据、充足算力将是发展人工智能和机器学习等技术的关键。
图1. 什么是算法？
数据来源：geeksforgeeks.org
提供超出人类思维方式的解决方案：2020年初，麻省理工学院的研究人员打破新药的标准研发工作需要历经数年且代价高昂的传统研发流程，另辟蹊径借用人工智能Halicin的力量，发现一种能够灭杀对所有已知抗生素都有耐药性细菌植株的新型抗生素。研究人员开发了一个由2,000个已知分子组成的训练集，对其中每一种物质数据进行编码，人工智能从这个训练集中“习得”了那些预期具有抗菌能力的分子特质后从61,000个分子的数据库中进行筛查，并找到符合标准的那一个分子结构。在此值得注意的是，Halicin不仅在处理速度方面超过了人类，在过程中还识别出没有经过专门编码，人类察觉不到甚至可能超越人类描述的分子关系，提供了超出思维方式的解决方案。
被科技和数据支配的数字社会：数字时代，个人与数字技术之间的联系越来越深，网络平台已经改变了部分社会形态，以生活“便利”为代价可观察到愈渐显著的社会问题。具体而言：1）数字化让越来越多的信息变得可用，但同时压缩了人类深入、专注思考的空间；2）算法基于个人偏好的推送设计，易放大同温层固有偏见；3）难以区分真实的视频、音频等信息与生成式人工智能深度伪造的信息；4）神经生物学、神经经济学等科学与技术手段结合造成的网络平台使用上瘾；5）基于数据和算法的社会歧视变得更为隐蔽，一如后文将要展开讨论的老龄歧视等。
二、数据之外—以年龄歧视（Ageism）为例
数字化时代，老年人年龄歧视常出于：1）电子设备从开发到使用的局限性，存在一定程度的“数据缺席”；2）市场程序开发和技术设备设计“替”老年人发声，实则存在一定程度的刻板印象、偏见和歧视、以及实际需求错位。人工智能的参与会加剧年龄歧视的风险。
（一）数字鸿沟导致的数据缺席
“数字鸿沟”指在不同群体间信息和通信技术在获取、使用和影响上的分布不均。当前在程序和设备上的应用成本和门槛虽在降低，但在地理、性别、年龄方面的统计依旧呈现出使用率上的差异分布。老年人的数字鸿沟则多出于年龄歧视（来自于他人和自我年龄歧视），不主动尝试新科技、有较少的“算法意识”等均导致老年人在数字化时代的参与率较低，无法输出足够多可用数据。与之相对的是人工智能的决策精度取决于训练数据的数量和质量，易出现因老年人数据缺失导致的技术歧视。
（二）印在代码中的年龄歧视
虽然人工智能的应用可以减少一定程度上（直接）歧视的行为，但由年轻人执笔的代码中依旧难以规避来源于人的影响，包含但不限于在机器学习时监督学习输出标记偏差、在无监督学习下错误指定了奖励函数等，导致技术偏见的发生。
人工智能技术的应用，因可简化和加速药物开发、创新智慧医护治疗手段和支持长期远程看护，预期可有效改善老年人的医疗保健情况。机器学习可通过大量“生物医学大数据”训练、验证和评估，并基于高质量的数据提高诊断的速度和准确性。然而当前训练人工智能模型的数据集多为年轻人群体数据，老年人通常属于“少数群体”，未经过老年人群体数据的训练、验证和评估，看似人工智能已经赋能新型智慧医疗，实则无法针对老年人群体提供有效、精准的诊断。
（三）替“老年人”发声的隐形歧视
当前社会对老年人的关注度愈加提升，2022年民政部等4部门印发《关于推进“十四五”特殊困难老年人家庭适老化改造工作的通知》，2023年住房和城乡建设部、工业信息化部分别印发《城市居家适老化改造指导手册》《促进数字技术适老化高质量发展工作》，发展老龄事业和养老服务体系也已纳入“十四五”规划。一系列适老化改造项目已体现在方方面面。但在此期间同样需要防止出现“替”老年人发声，将老年人排除在市场需求调研之外，基于年轻人对老年人想象的“记忆力差、体弱多病、思维不活跃等”刻板印象的隐形歧视。
（四）应对：让老年人加入人工智能发展队伍
人工智能技术应该作为协助人类做出最为全面和理性决策（decision-making）的工具和手段，而非隐形了“大而不可见”诸多社会问题。
为应对上文提及针对老年人的年龄歧视，重点是邀请老年人一同参与至人工智能的发展进程中，避免“替（for）”老年人做决策，而是与（with）他们一起在过程中发现需求、发现问题、解决问题。
具体而言：
1）技术团队可邀请老年人作为智囊团或顾问，参与人工智能技术的设计；
2）建立不同年龄分布的数据科学团队，避免出现“幸存者偏差”的单一类型数据；
3）为老年人及其保健提供者和护理者提供数字基础设施和数字知识普及方面的资金支持；
4）与老年人合作完善人工智能技术的治理框架和法规；
5）增加对老年人的专项人工智能技术研究；
6）建立健全人工智能等技术稳健的道德规训，有针对性地培养社会各类群体对人工智能技术道德方面的认知；
7）对人工智能等技术的算法进行审查，保证其不存在边缘化老年人，且做出的决策始终是合理的；
8）开展人工智能等技术被研发出来的影响和风险评估，改善在技术应用层面的决策、信息透明度和公众的参与度。
（一）人工智能技术融合ESG原则的必要性
当可持续发展与数字化时代相遇，在ESG平衡经济发展与生态、社会民生需求、公共治理需求要素时，数字化工具可为ESG采集包含非结构化数据在内大量数据集，并通过机器学习等人工智能技术为可持续发展经济体系转型提供思路。
一方面，将广义的环境、社会和治理纳入负责任人工智能技术中，力求抬高“木桶效应”中最矮的那块木板。在不断加速的社会节奏中、在数据爆炸时代依旧能够保有生而为人的“理性”，让程序员和数据生产者可以在数字场景中活用ESG理念，提高对周围社区、对环境、对时间价值的感知，可让人工智能在每次发生决策行为时均是包含人类可持续发展概念数据的。
另一方面，社会层面的弱势群体、噤声、不公平现象众多，本篇列举的老年人只是在大数据时代“数据缺位”、陷入数字化新型歧视的典型角色之一。当前，人工智能技术发展让社会处于既兴奋又焦虑阶段。正如人工智能的技术歧视来源于人类社会的显性/隐性歧视，甚至可能探知/放大人类社会中诸多易被忽略的特征/现象。如何平衡看不见数据的少数群体、如何用ESG完善算法原则、如何审慎地确认目标函数，是通过技术手段塑造充满可持续发展期许人机合作未来的关键。
（二）政府及监管部门
大数据和算力是发展人工智能技术的核心要素，全国各地纷纷发放算力券，用以加快盘活和促进数据要素的创新、培育新质生产力。在大力推动人工智能技术突破的同时，也亟需推动配套AI伦理体系的建立，并在其中纳入ESG原则。如要求将环境保护、社会公平等方面的议题嵌入人工智能程序中，作为企业发展人工智能中不可打破的基本原则。同时，政府及监管部门作为自上而下引导社会发展导向角色，在公共治理层面的ESG算法审查管理、影响力平衡也愈渐重要，如网络平台为追求短期利益在目标函数、训练参数和虚假定义微小的差异都可能导致社会的不同改变。最后，政府及监管部门可发挥如乡村振兴等中国特色治理体系优势，提领关注易被人工智能时代边缘化少数群体的声音、需求，提升社会福祉的同时也是开发更完善更具市场竞争力人工智能体系的过程。
（三）技术开发和应用企业
在管理层面，企业需将ESG贯穿于管治架构和价值观中，建有明确可感知的ESG企业文化、清晰且具有约束性的ESG制度文件，让ESG议题本能嵌入在企业行动中。在人工智能技术开发层面，一方面需出台明确ESG原则、标准和审查制度，规避由人类社会的隐形偏见转为技术偏见的可能；另一方面，如网络平台在人工智能技术的应用上需重点关注“预测用户画像”功能，因其在强化特定个人、群体和社会选择上所具有的影响力，在推送算法中融合ESG要素可提升社会公众观看世界的广度和客观度，提升对环境、社会的感知；在市场应用上，企业需在一定程度上追踪用户的使用行为，依据内嵌ESG框架并设置阀值，提升在框架范围内的使用体验的同时，防止人工智能技术被滥用风险。最后，在技术开发层面企业应注重用人多样性，不同性别、年龄、地理位置、文化背景、家庭情况等差异画像的员工同样代表了不同的社会群体，在一定程度上可解决些许被边缘化少数群体的声音缺失。
（四）数字化时代的个体行动
数字化时代，拥有联网电子设备的每个个体，都在同时作为数据生产方和人工智能技术应用的校验方。一方面，相较于监管部门和企业主体，个体的行动虽有限、但必要，高质量的行动数据是机器学习的根本，将有效避免“沉默的螺旋”和“幸存者偏差”导致的技术偏见。另一方面，个体可积极发挥在社会中扮演的不同角色，以管理者/员工角色在企业中发起ESG活动，以技术开发人员角色主动完善人工智能技术中的ESG要求，以社会公民角色向公共管理部门主动提出对社会议题、少数群体的观察。
脚注
[1]亨利·基辛格，埃里克·施密特，丹尼尔·胡滕洛赫尔.人工智能时代与人类未来（2023）. 北京：中信出版社
[2]World Health Organization（2022）. Ageism in artificial intelligence for health. [online]. viewed 2024.06.
[3]World Health Organization (2023). Ageism-Global. [online] www.who.int. Available at: https://www.who.int/health-topics/ageism#tab=tab_1.
相关文章：
1、IIGF观点 | 邓洁琳、施懿宸：ESG实践中的法律风险浅析2、IIGF观点 | 邓洁琳、施懿宸：由城市及企业的ESG推进思考——以北京为例3、IIGF观点 | 姜雨彤、施懿宸：《企业可持续披露准则——基本准则（征求意见稿）》解读与对比分析4、IIGF观点 | 施懿宸、包婕：ESG不是伪概念，推动可持续发展是大势所趋
作者：
邓洁琳 中央财经大学绿色金融国际研究院研究员，长三角绿色价值投资研究院研究员
施懿宸 中央财经大学绿色金融国际研究院高级学术顾问，中财绿指（北京）信息咨询有限公司首席经济学家
原创声明