美财政部发布金融业AI网络安全风险报告
编者注：本新闻稿发布于美国财政部网站，由亚太未来金融研究院编译。
近日，美国财政部发布了一份关于《管理金融服务业人工智能特定网络安全风险的报告》。该报告是根据关于安全、可靠和可信赖地开发和使用人工智能的第14110号总统行政命令的指示编写的。美国财政部网络安全和关键基础设施保护办公室（OCCIP）领导了该报告的编写。OCCIP执行财政部对金融服务部门的风险管理职责。
美国财政部副部长Nellie Liang表示：“人工智能正在重新定义金融服务业的网络安全和欺诈形式，拜登政府致力于与金融机构合作，利用新兴技术，同时防范对运营弹性和金融稳定的威胁。财政部的人工智能报告建立在我们成功的公私合作伙伴关系之上，以实现安全的云使用为目标，并为金融机构如何安全地规划其业务线并破坏快速发展的人工智能驱动的欺诈行为提出了清晰的愿景。”
在报告中，财政部指出了人工智能给金融服务业的安全性和弹性带来的重大机遇和挑战。该报告概述了一系列后续步骤，以应对与人工智能相关的直接运营风险、网络安全和欺诈挑战：
解决日益扩大的能力差距。在内部人工智能系统方面，大型和小型金融机构之间的差距越来越大。大型机构正在开发自己的人工智能系统，而较小的机构可能无法这样做，因为它们缺乏训练大型模型所需的内部数据资源。此外，已经迁移到云的金融机构在以安全可靠的方式利用人工智能系统方面可能具有优势。
缩小欺诈数据鸿沟。随着越来越多的公司部署人工智能，金融机构可用于训练模型的数据存在差距。在预防欺诈领域，这种差距是巨大的，因为公司之间的数据共享不足。当金融机构使用其内部数据来开发这些模型时，大型机构具有显著优势，因为它们拥有更多的历史数据。较小的机构通常缺乏足够的内部数据和专业知识来构建自己的反欺诈人工智能模型。
监管协调。金融机构和监管机构正在合作，研究如何在瞬息万变的人工智能环境中共同解决监管问题。然而，由于州和联邦层面以及国际上不同的金融部门监管机构都在考虑对人工智能的监管，因此人们对监管碎片化感到担忧。
扩展NIST AI风险管理框架。美国国家标准与技术研究院（NIST）的人工智能风险管理框架可以进行扩展和调整，以包括与金融服务部门相关的人工智能治理和风险管理的更多适用内容。
数据供应链映射和“营养标签”的最佳实践。生成式人工智能的快速发展暴露了仔细监控数据供应链的重要性，以确保模型使用准确可靠的数据，并考虑隐私和安全。此外，金融机构应该知道他们的数据在哪里以及如何使用。金融部门将受益于数据供应链绘图最佳做法的发展。此外，该行业将受益于供应商提供的人工智能系统和数据提供商的标准化描述，类似于食品“营养标签”。这些“营养标签”将清楚地确定哪些数据用于训练模型、数据来源，以及提交给模型的任何数据是如何被使用的。
黑匣子AI解决方案的可解释性。对于许多金融机构来说，高级机器学习模型（尤其是生成式人工智能）的可解释性仍然是一个挑战。考虑到用于训练模型和输出的数据，以及对这些模型的稳健测试和审计，该行业将受益于对生成式人工智能等黑盒系统可解释性解决方案的研究和开发。在缺乏这些解决方案的情况下，金融部门应采用最佳实践来使用缺乏可解释性的生成式人工智能系统。
人力资本缺口。人工智能发展的快速发展暴露了人工智能劳动力的巨大缺口，这些人才既能创建和维护人工智能模型，又能熟练地维护人工智能用户。为技能较低的从业者提供一套关于如何安全使用人工智能系统的最佳实践将有助于管理这种人才缺口。此外，管理人工智能风险的团队也存在技术能力差距，例如在法律和合规领域。为信息技术以外的员工提供特定角色的AI培训可以帮助教育这些关键团队。
需要一个通用的人工智能词典。整个行业在定义什么是“人工智能”方面缺乏一致性。金融机构、监管机构和消费者都将从通用的人工智能专用词典中受益匪浅。
解开数字身份解决方案的范畴。强大的数字身份解决方案可以帮助金融机构打击欺诈并加强网络安全。但是，这些解决方案在技术、治理和安全性方面有所不同，并提供不同级别的保证。一套新兴的国际、行业和国家数字身份技术标准正在进行中。
国际协调。金融服务业人工智能监管的前进道路在国际上仍然是一个悬而未决的问题。财政部将继续与外国同行就人工智能在金融服务中的风险和收益进行接触。
作为财政部为本报告进行研究的一部分，财政部对42家金融服务行业和科技相关公司进行了深入访谈。从具有系统重要性的全球金融机构到当地银行和信用合作社，各种规模的金融公司都就如何在其组织内使用人工智能提供了意见。其他利益相关者包括主要技术公司和数据提供商、金融部门贸易协会、网络安全和反欺诈服务提供商以及监管机构。财政部的报告全面概述了当前用于网络安全和欺诈预防的人工智能用例，以及人工智能使用和采用的最佳实践和建议。该报告没有提出任何要求，也不支持或阻止在金融部门使用人工智能。
在接下来的几个月里，财政部将与私营部门、其他联邦机构、联邦和州金融部门监管机构以及国际合作伙伴合作，采取关键举措，以应对金融部门围绕人工智能的挑战。虽然本报告重点关注运营风险、网络安全和欺诈问题，但财政部将继续审查一系列与人工智能相关的事项，包括人工智能对消费者和边缘化社区的影响。
END
往期推荐 ●●
// 1
// 2
// 3
// 4
【反侵权声明】
亚太未来金融研究院原创作品屡遭侵权，为维护合法权益，特发表以下声明：
1、一些客户端，未经授权转载我院原创作品，是严重的著作权侵权行为，我院予以谴责及警告，并保留依法追诉的权利；
2、我院严正声明：不得在未注明出处，未取得本公众号授权的情况下对我院翻译、研究的内容进行全部或部分内容截取转载。
温馨提示：现“订阅号”已开通公众号置顶功能，广大读者可点开“亚太未来金融研究院”公众号，点击“星标或置顶公众号”，即可将“亚太未来金融研究院”置顶，以便方便您随时浏览本公众号的最新动态并查阅相关信息。
关于我们
亚太未来金融研究院（Asia-Pacific Future Financial Research Institute，简称AFF）由多家领先的金融机构、FinTech公司、学院等共同发起，并与17名联合学术发起人共同组建。
机构发展
2018年，亚太未来金融研究院携手深圳市金融局、中国支付清算协会共同推动，在深圳市金融局和福田区的大力支持下，成立深圳未来金融研究院、深圳未来金融监管科技研究院。
国际合作
2019年5月11日，亚太未来金融研究院与新加坡金融管理局签署《FinTech合作协议》。这是新加坡金管局继2018年与中国人民银行、中国证监会签署合作函后，与中国主体签署的第三份合作协议。
微信号：apffri
电话：010-66214100
邮箱：apffri@126.com