查看原文
其他

智慧法治学术动态(2024年第2期总第76期)

上海市法学会 上海市法学会 东方法学 2024-07-16

学术前沿

吕炳斌|数据流通利用语境下个人信息财产利益的实现路径

数据的价值在流通利用中得以彰显,其中的个人信息亦不例外。在保护企业的数据财产权益的同时,如何对待个人信息的财产利益成为需要考虑的棘手问题。个人信息的财产利益不容忽视、难以湮灭,个人信息中天然内置的原始价值应当分配给信息主体即自然人。在个人信息财产利益的实现上,有赖于事前交易机制的传统路径显得捉襟见肘,需要进行思维转型并另辟蹊径。基于个人信息财产价值“后知后觉”的特性,同时也是为了弥补个人信息保护前端权能的失灵,个人信息财产利益的实现可以在数据流通利用的语境下,从个人信息保护的后端找到突破口。同意撤回权、删除权、可携带权等后端权能蕴含着二次协商功能和财产兑现功能,可为自然人参与数字红利分配、实现个人信息的财产利益提供新的路径。(全文刊《比较法研究》2023年第6期)

吕炳斌,南京大学法学院教授。


刘权|数字政府建设中数字化与法治化的融合

数字政府建设在大幅提升国家治理效能的同时,可能导致新型的“数字官僚主义”。权力技术化和技术权力化,其衍生的效应是主体“客体化”和客体“主体化”。自动化行政会不当限缩甚至完全消除权力的裁量空间,数字化控制易侵蚀人的主体性地位。当前,数字人权体系建构滞后于数字技术的迭代更新,数字资本侵犯人权的风险日益增大。未来数字政府建设应着重数字化和法治化的深度融合,走出过度追求工具理性的误区,回归更好地尊重和保障人权的价值理性。应合理划定政府数字化的边界,及时确认并有效保障新兴数字人权,以技术性正当程序约束自动化行政权,运用数字技术促进社会公正,更好地满足公民对美好数字生活的向往。(全文刊《当代法学》2023年第6期)

刘权,中央财经大学法学院教授。


高阳|通用人工智能提供者内容审查注意义务的证成

通用人工智能可自发或受用户操控被动生成有害信息,它的提供者作为新型的网络内容提供者,负有数字内容“守门人”职责,同时负有网络空间的安全保护义务,应承担内容审查的注意义务,从而预防有害信息的侵权风险。囿于“以数据为中心”的内容生产方式和算法黑箱效应降低了通用人工智能提供者对内容的管控力,导致对生成内容的普遍审查难以被实现。应针对有害信息,结合内容生产场景、提供者风险预见能力差异化构建内容审查的注意义务。该注意义务以技术性审查为标准,提供者采取符合技术特点的内容审查机制,便应当认定履行了相关义务。(全文刊《东方法学》2024年第1期)

高阳,上海对外经贸大学讲师。


苏宇|大型语言模型的法律风险与治理路径

大型语言模型促进了生成式人工智能的蓬勃发展。大型语言模型通常作为通用生成式人工智能的技术底层发挥作用,具备信息价值、情感价值、思维价值和劳动价值,也包含信息内容风险、数据与算法安全风险、侵权风险、诚信风险等系列法律风险。大型语言模型及相关应用的法律风险治理面临微观和宏观层面的系列挑战,需要平衡多方面的目标,应当基于包容审慎监管、分层治理、深度治理和敏捷治理的路径对大型语言模型的法律风险治理开展谨慎、灵活的探索性制度实践,进而逐步完善生成式人工智能的风险治理体系。(全文刊《法律科学(西北政法大学学报)》2024年第1期)

苏宇,中国人民公安大学法学院教授。


刘艳红|数据要素全生命周期安全风险的刑事保障制度研究——以数字经济安全法益观为视角

数据要素刑事安全风险涉及数据的采集、传输、存储、处理、交换、销毁等整个生命周期,主要表征为数据供给安全、数据流通安全和数据使用安全三种形态,直接影响国家数字经济安全。构建数字经济刑事安全风险防范体系应当以数字经济安全法益为基石。建立在实质的法益概念之上的数字经济安全法益是一种新兴法益,其内在结构包含数据要素安全、网络信息系统安全、数字技术安全,即作为关键生产要素的数据资源、作为重要载体的信息网络、作为核心驱动力量的数字技术这三个方面,支撑数字经济安全运行不可或缺的要素处于有效保护和合法利用的状态,以及通过建立数字经济安全体系而具备保障持续安全状态的能力。优化数据犯罪立法必须坚持以数字经济安全法益观为指导,秉持消极预防的价值立场进一步完善我国数据犯罪的罪名体系,充实防范数据要素全生命周期安全风险的罪刑规范,为促进数字经济的健康可持续发展提供强有力的刑事法治保障。(全文刊《法学论坛》2024年第1期)

刘艳红,中国政法大学刑事司法学院教授。


李雷|论数字时代个人信息保护与利用平衡的展开路径

数字时代个人信息流通会带来巨大的经济效益,个人信息的公共属性越来越鲜明,不仅附着了个人利益,还承载着其他公共利益,信息的广泛利用是不可逆转的时代潮流。科技进步增强了信息泄露的风险,加强个人信息保护成为信息利用的题中之义。在个人信息保护实践中,应该充分运用比例原则,从适当性、必要性、衡量性着手,确保手段、目的与效果的辩证统一,推动信息保护与利用的平衡。《个人信息保护法》充分体现了该理念,授予个人广泛的信息权益,但约束权益行使的自由度;规范信息处理者的义务,但承认信息利用的前提;明确国家机关的保护职责,但视其为信息利用主体,核心在于综合考量,适度维持同一主体内部保护与利用的动态平衡。另外,未来还应该从体系平衡、利益平衡、标准平衡、过程平衡、模式平衡等外部系统着手,通过内外结合共同发挥作用,助推平衡目标早日实现。(全文刊《行政法学研究》2024年第1期)

李雷,中南财经政法大学法学院副教授。
新规速递

美国新罕布什尔州众议院|通过隐私期待相关法案

当地时间2024年1月4日,一部与隐私期待相关的法案在经修改后于新罕布什尔州众议院获得通过。该法案规定了个人数据、同意、控制者、消费者、暗模式、去标识化数据、精确地理定位数据、处理者、出售个人数据、敏感数据、定向广告和第三方等的定义。该法案规定,消费者有权确认控制者是否正在处理消费者的个人资料和查阅这些资料、考虑到个人资料的性质和处理目的,纠正消费者个人资料中的不准确之处、删除消费者获得或提供的个人数据;以及选择退出为有针对性的广告、出售个人数据或为促进产生法律或重大影响的自动决策而进行的个人数据处理等。(DataGuidance)


工信部|《云计算综合标准化体系建设指南(征求意见稿)》

2024年1月9日,工信部官网发布《关于征集对<云计算综合标准化体系建设指南>(征求意见稿)的意见》。《指南》提出建设目标,至2025年,云计算标准体系应更为完善,并计划推进修订参考架构、术语等基础标准,优先制定云计算创新技术产品、新型服务应用和重要缺失领域的关键标准。到2027年,制定云计算国家标准和行业标准达50项以上,基本覆盖基础、技术与产品、服务、应用、管理及安全等各类研制方向,有效满足产业标准化新阶段的需求。(工信部)


上海通信管理局等三部门|《上海市推进IPv6技术演进“智网上海”行动计划(2024-2025)》

2024年1月9日,上海市通信管理局、中共上海市委网络安全和信息化委员会办公室、上海市发展和改革委员会近日联合印发《上海市推进IPv6技术演进“智网上海”行动计划(2024-2025)》。《计划》提出将高标准全面建成“IPv6+”创新之城,构建形成基于“IPv6+”的新型网络基础设施智能底座,IPv6单栈试点范围和场景不断扩展,“IPv6+”标准制定、技术研发和产业链协同体系初步形成,重点行业“IPv6+”融合应用水平大幅提升,IPv6安全防护能力显著增强,基于IPv6的下一代互联网产业生态基本构建,为上海全面建设数字经济、数字生活、数字治理的城市数字化转型筑牢“新基座”。(网信上海)


浙江省政府 |《关于加快人工智能产业发展的指导意见》 

2024年1月10日,浙江省政府公开《关于加快人工智能产业发展的指导意见》。《指导意见》共七条,强调加快前沿基础研究与核心技术攻关、优化提升算力供给能力、推动高质量数据集建设、加快培育数据要素市场、做强人工智能产业链、培育人工智能融合产业集群等,目标是到2027年培育千亿级人工智能融合产业集群10个、省级创新应用先导区15个、特色产业园区100个,人工智能企业数量超3000家,总营业收入突破10000亿元,成为全球重要的人工智能产业发展新高地。(浙江省人民政府)


欧盟|与美国签署协议,共同制定物联网设备网络安全标签路线图

当地时间2024年1月11日,负责网络和新兴技术的副国家安全顾问Anne Neuberger宣布,美国已与欧盟签署了一项协议,共同制定消费者标签计划路线图以提醒购物者注意物联网设备的网络安全。消费者标签计划是拜登政府2021年5月发布的网络安全行政命令的一部分,该政策要求在符合特定安全标准的智能设备包装上贴上网络信任标识,美国联邦通信委员会正在牵头征求利益相关者的意见。据预计,该政策将于2024年年底定稿。(NextGov/FCW)


财政部|《关于加强数据资产管理的指导意见》

2024年1月11日,财政部通知印发《关于加强数据资产管理的指导意见》,旨在规范和加强数据资产管理,更好推动数字经济发展。《意见》提出十二项主要任务,包括依法合规管理数据资产,明晰数据资产权责关系,完善数据资产相关标准,加强数据资产使用管理,加强数据资产使用管理等。《意见》明确,公共数据资产权利主体开放共享数据资产的,应当建立和完善安全管理和对外提供制度机制。鼓励在金融、交通、医疗、能源、工业、电信等数据富集行业探索开展多种形式的数据资产开发利用模式。(财政部)


国务院|《关于行业协会的反垄断指南》

2024年1月12日,国务院反垄断反不正当竞争委员会发布《关于行业协会的反垄断指南》。《指南》共26条,进一步细化违法行为认定标准,加强行业协会反垄断合规建设。《指南》针对行业协会组织本行业经营者从事垄断协议的情况,区分横向垄断协议和纵向垄断协议两种类型,从组织达成、组织实施两个维度做出详细规范。同时,《指南》还对滥用行政权力及协助行政机关滥用行政权力排除、限制竞争,以及内部合规管理等作出规定。(国家市场监督管理总局)

法律适用

法国国家数据保护局|确认经济、财政与工业部履行关于位置数据的合规决议

当地时间2024年1月3日,法国国家数据保护局发布决议,宣布结束对经济、财政与工业部门和数字主权部发出的禁令,以与此前法案中有关数据处理、数据档案和个体自由的条文保持一致。法国国家数据保护局还指出,基于此前禁令创建的海上人员与船舶自动处理系统档案库将继续使用。另外,该档案库将根据有关人员涉嫌犯罪或已被告知犯罪的情况,对数据收集类别进行区分。(DataGuidance)


美国司法部|消息称将于今年对苹果展开反垄断诉讼

当地时间2024年1月5日消息。据《纽约时报》报道,美国司法部对苹果公司的调查已进入后期阶段,最快可能在今年上半年提起全面反垄断诉讼,矛头直指苹果公司保护iPhone主导地位的策略。知情人士称,调查重点是苹果公司如何利用其对硬件和软件的控制,使消费者更难放弃该公司的设备,以及使竞争对手更难参与竞争。调查人员研究了Apple Watch与iPhone的配合如何优于与其他品牌的配合,以及苹果如何将竞争对手锁定在其iMessage服务之外等。(纽约时报)


北京市公安局|处罚多家不履行网络安全保护义务之单位

2024年1月8日消息。公安部网安局公布了北京市公安局网安部门依据《网络安全法》及《数据安全法》对多家不履行网络安全保护义务的单位进行处罚的案例。此批案例共4件,涉及数据泄露、弱口令账号、密码爆破网站篡改等网络安全风险及事故。在案例1中,北京昌平某生物技术公司所使用的“基因外显子数据分析系统”未对相关数据进行加密,未落实安全保护措施,属于未履行数据安全保护义务。相关主体被依法行政处罚。(公安部网安局)


上海市监局|公布冒用ChatGPT名称及图标等反不正当竞争专项执法行动典型案例

2024年1月9日,上海市市监局公布一批反不正当竞争“守护”专项执法行动典型案例,共6例。在案例1中,当事人开发运营名称为“ChatGPT在线”的微信公众号,该公众号使用高度类似OpenAI公司官方图像的图案作为头像,并在简介中称该公众号是ChatGPT中文版,含有AI智能对话功能,按次收费。经统计,该公众号累计吸引注册付费用户4200余人。当事人明知其提供的服务不是ChatGPT产品本身,但通过使用与他人有一定影响的商品名称、图案等相同或者近似的标识,使人产生误认的行为,违反了《反不正当竞争法》的规定,被依法处罚。(上海市市场监督管理局)


上海高院|公布上海首例利用数字人民币“跑分”案

2024年1月9日,上海高院公布上海首例利用数字人民币“跑分”案。自2023年5月2日起,被告人肖某利用数字人民币四类账户非实名、手机验证即可开立等特征以及ATM兑换取现功能,招募阚某、汪甲、汪某、陈某、杨某等人组建“跑分车队”,明知是他人犯罪所得而将上家提供的数字人民币账户(四类)内钱款取出,借由数字人民币、虚拟货币交易“洗白”非法资金,并从中赚取“手续费”。杨浦区人民法院经审理认为,此种行为已构成掩饰、隐瞒犯罪所得罪、帮助信息网络犯罪活动罪。(上海高院)


重庆网信办|通报App违规收集个人信息、数据出境标准合同

2024年1月10日,重庆网信办在组织对人民群众关注度高的生活服务类、日常工具类等App、微信小程序开展检查检测后,发现“唔姆”“觉晓法硕”等145款App(小程序)存在未公开收集使用规则、违反必要原则收集等违法违规问题,并对此予以通报。网信办强调,其将始终坚持依法管网、依法治网,持续强化个人信息保护领域日常监管,不断加大执法工作力度,坚决维护人民群众个人信息合法权益。(网信重庆)


四川公安机关|查处两起利用AI编造、传播网络谣言案件

2024年1月11日消息。为进一步强化警示教育作用,坚决维护网络公共秩序和群众合法权益,四川公安公布2起利用AI文章生成软件编造、传播网络谣言的典型案例。在案例1中,当事人以营利未目的,利用AI文章生成软件一键生成《一旦要打仗,启动一级战备,专家建议老百姓冲在最前线,报效祖国》的文章,吸引网民阅读赚取流量获取收益。网警强调,网络空间是亿万民众共同的精神家园。对于编造、故意传播网络谣言者,公安机关将坚决依法查处。(公安部网安局)

产业发展

《Science》|宣布引入商业人工智能软件Proofig检测图像欺诈

1月4日,《Science》宣布引入商业人工智能软件Proofig,该软件能够自动检测论文中的“欺诈性图像”,避免学术造假。《Science》期刊团队宣称,已经利用Proofig软件进行了数月测试,这款人工智能软件能够准确识别经过裁剪、旋转、更改对比度的图像,并从中圈出可能存在的“欺诈性图像”,以便于人类编辑进一步检查。(Science)


谷歌DeepMind|起草“机器人宪法”

1月4日,谷歌旗下DeepMind公司公布三项新进展,其中之一针对收集训练数据的系统,起草了“机器人宪法”,确保人工智能机器人不会伤害人类。本次起草的“机器人宪法”受艾萨克·阿西莫夫的“机器人三大定律”启发,围绕着安全出发,指示大语言模型避免选择涉及人类、动物、尖锐物体甚至电器的任务。DeepMind表示,为了提高安全性,编程限制了机器人的关节,力度超过一定阈值时会自动停止,此外还配有专门的物理紧急停止开关。(Google DeepMind)


意大利|将非洲发展和人工智能作为其担任七国集团轮值主席国的重要主题

1月4日,意大利总理焦尔吉娅·梅洛尼(Giorgia Meloni)表示,支持非洲发展和应对人工智能带来的危险将是意大利担任七国集团主席国一年期间的两个重要主题。意大利于于今年一月初接任七国集团轮值主席国,并将在全年举办多次部长级会议,包括六月的领导人峰会。不过,梅洛尼表示,希望在六月之前举行一次专门讨论人工智能的特别会议。(路透社)


Aurora Innovation等|计划今年底前实现无人卡车上路

彭博社1月5日消息,Aurora Innovation、Kodiak Robotics和Gatik AI三家美国自动驾驶公司表示,经过多年的测试,其无人驾驶卡车计划今年底前在美国得克萨斯州的高速公路上行驶。上述公司先前为沃尔玛、克罗格、联邦快递、泰森食品等大型公司运输货物。总部位于美国匹兹堡的Aurora Innovation联合创始人兼首席执行官Chris Urmson表示,“我们预计今年年底开始在没有司机的情况下运营我们的卡车。(彭博社)


美国联邦贸易委员会|将举办人工智能在线峰会

1月5日,美国联邦贸易委员会技术办公室宣布将于2024年1月25日举办在线技术峰会,重点关注保护消费者和促进市场竞争。此次峰会将汇集来自学术界、工业界、民间社会组织和政府的代表,讨论人工智能的技术现状、新兴市场趋势和对现实世界的影响,如何培育一个让消费者满意以及让企业(包括初创企业和小型企业)蓬勃发展的市场。该活动还将举办三场小组讨论,包括对人工智能开发所需的硬件和其他关键基础设施的讨论,人工智能中使用数据和模型的相关问题,以及人工智能驱动的消费应用程序。(美国联邦贸易委员会)


英特尔|将推出汽车版人工智能芯片

1月9日,美国芯片巨头英特尔公司宣布,将推出汽车版人工智能芯片,与高通、英伟达争夺汽车芯片市场。这些芯片将为未来汽车的“大脑”提供动力。英特尔汽车业务主管杰克·韦斯特在拉斯维加斯举行的国际消费电子展(CES)开幕前表示,吉利旗下极氪汽车将成为首家使用英特尔人工智能片上系统(SoC)的汽车制造商,能够在汽车里创造“一种增强版视听体验”,其中包括人工智能语音助手和视频会议。(路透社)


美国证券交易委员会|批准11只比特币现货ETF进入交易市场

1月10日,美国证券交易委员会(SEC)已批准11只现货比特币ETF于周四开始交易。获批的现货比特币ETF发行机构包括:Grayscale、Bitwise、Hashdex、iShares、Valkyrie、Ark 21Shares、Invesco Galaxy、Vaneck、WisdomTre、Fidelity及Franklin。VanEck证实,芝加哥期权交易所(CBOE)已获得SEC批准上市现货比特币ETF。SEC主席表示,本次行动并不意味着对加密货币交易所的批准,投资者在加密货币上仍应保持谨慎。(SEC)


美国海军|将人工智能应用于简易爆炸装置及无人机防御

DefenseScoop1月10日消息,美国海军已将人工智能应用于电子战工具开发,以应对简易爆炸装置及无人机防御。美军已于2023年部署了联合反无线电控制简易爆炸装置电子战(JCREW)系统,包括固定式、可拆卸式等多种型号,为作战人员提供防护。美国海军远征任务项目经理约翰·哈斯表示,人工智能技术是JCREW系统能力实现的关键,通过降低响应延迟提升了系统对无人机的自动探测与电磁干扰能力。此前,美国海军已在水面舰艇上部署了反无人机系统DRAKE,可以与JCREW系统联合,通过人工智能赋能有效反制无人机。(DefenseScoop)


荣耀|发布自研70亿参数端侧平台级AI大模型“魔法大模型”

1月11日,荣耀在2023开发者大会上正式发布MagicOS 8.0(魔法OS 8.0)操作系统,以及自研70亿参数AI大模型“魔法大模型”。同时,荣耀发布了其旗舰智能手机荣耀Magic6系列,包括荣耀Magic6和荣耀Magic6 Pro两款产品。荣耀介绍,Magic6系列旗舰手机,将搭载荣耀自研70亿参数大模型“魔法大模型”。(财新社)

往期精彩回顾

智慧法治学术动态(2023年第45期总第69期)

智慧法治学术动态(2023年第46期总第70期)

智慧法治学术动态(2023年第47期总第71期)

智慧法治学术动态(2023年第48期总第72期)

智慧法治学术动态(2023年第49期总第73期)

智慧法治学术动态(2023年第50期总第74期)

智慧法治学术动态(2024年第1期总第75期)



上海市法学会官网

http://www.sls.org.cn


继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存