全球数字法律周动态|欧盟法案对 AI 应用风险级别分类;北京支持医疗大模型开发和落地​
数字治理研究
2024-05-27 07:01
订阅此专栏
收藏此文章

本文约 5721 字,预计阅读时间 22 分钟

全球数字法律周动态第二卷第 21 期(2024/5/20-2024/5/26)

本期内容

法规标准

一、《互联网政务应用安全管理规定》印发

二、国家发展改革委 国家数据局 财政部 自然资源部印发《关于深化智慧城市发展 推进城市全域数字化转型的指导意见》

三、《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿发布

四、欧盟《人工智能法案》对 AI 应用进行风险级别分类

行业实践

五、北京支持医疗大模型开发和落地

六、字节跳动、阿里云和百度先后“卷”入大模型“价格战”。

多元解纷

七、OpenAI 与斯嘉丽·约翰逊就语音助手 SKY 声音授权情况产生争议

八、北京四中院:“已阅读并同意”强索用户隐私属于侵权


执法守法

九、英国信息专员办公室结束对 Snap 人工智能聊天机器人的数据保护风险调查

数据要素

十、第七届数字中国建设峰会成功举办,国家数据局:将出台数据产权制度,制定数据合规高效流通交易政策;发布首批 7 家数据标注基地试点城市

十一、江苏省开展全省数据出境情况摸底调查

十二、苏州人民检察院成立数字检察创新应用实验室


法规标准


一、《互联网政务应用安全管理规定》印发

5 月 23 日,由中央网络安全和信息化委员会办公室、中央机构编制委员会办公室、工业和信息化部、公安部制定的《互联网政务应用安全管理规定》印发,规定自 2024 年 7 月 1 日起施行。

规定要求,建设运行互联网政务应用应当依照有关法律、行政法规的规定以及国家标准的强制性要求,采取技术措施和其他必要措施,防范内容篡改、攻击致瘫、数据窃取等风险,保障互联网政务应用安全稳定运行和数据安全。

规定共 8 章,包括总则、开办和建设、信息安全、网络和数据安全、电子邮件安全、监测预警和应急处置、监督管理以及附则。

规定要求,一个党政机关最多开设一个门户网站。互联网政务应用的名称优先使用实体机构名称、规范简称,使用其他名称的,原则上采取区域名加职责名的命名方式,并在显著位置标明实体机构名称。

规定指出,机关事业单位应当采取安全保密防控措施,严禁发布国家秘密、工作秘密,防范互联网政务应用数据汇聚、关联引发的泄密风险。应当加强对互联网政务应用存储、处理、传输工作秘密的保密管理。

根据规定,机关事业单位应当建立完善互联网政务应用安全监测能力,实时监测互联网政务应用运行状态和网络安全事件情况。

信息来源:

https://www.gov.cn/lianbo/bumen/202405/content_6952956.htm

二、国家发展改革委 国家数据局 财政部 自然资源部印发《关于深化智慧城市发展 推进城市全域数字化转型的指导意见》

5 月 20 日,由国家发展改革委、国家数据局、财政部、自然资源部共同印发的《关于深化智慧城市发展 推进城市全域数字化转型的指导意见》(以下简称《指导意见》)正式发布。

《指导意见》提出,全领域推进城市数字化转型。具体包括建立城市数字化共性基础、培育壮大城市数字经济、促进新型产城融合发展、推进城市精准精细治理、丰富普惠数字公共服务、提升城市安全韧性水平等方面。

国家数据局数字经济司司长吴晓宁回答记者提问时强调了数据在其中发挥的作用。吴晓宁表示,推进城市全域数字化转型重点要做好三个“全”,即“全”领域推进城市数字化转型,“全”方位增强城市数字化转型支撑,“全”过程优化城市数字化转型生态。

信息来源:

https://www.gov.cn/zhengce/zhengceku/202405/content_6952353.htm

三、《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿发布

5 月 23 日,全国网络安全标准化技术委员会根据相关政策法规,制定并发布了《网络安全技术 生成式人工智能服务安全基本要求(征求意见稿)》(以下简称《要求》)。

本标准针对生成式人工智能服务存在的安全风险,对现有生成式人工智能技术及其面向公众提供的服务进行分析与调研,对《办法》中的安全要求进行细化,规定了生成式人工智能服务在安全方面的基本要求,包括训练数据安全、模型安全、安全措施等,并给出了安全评估参考要点。

在标准编制过程中,本标准充分吸收了数十家单位的头部企业、研究机构的研究成果和应用实践,具备较好的产业基础,以及技术先进性、创新性。在后续编制过程中,本标准也会根据生成式人工智能发展与安全情况持续完善。标准工作基于 TC260-003《生成式人工智能服务安全基本要求》,该文件已经在各管理部门、各企业有较好共识,并已形成相关安全实践,已经在各企业获得了普遍实 — 4 — 践,标准内容的产业化基础比较充分。

信息来源:

https://www.tc260.org.cn/front/bzzqyjDetail.html?id=20240523143149&norm_id=20240430101922&recode_id=55010

四、欧盟《人工智能法案》对 AI 应用进行风险级别分类

当地时间 5 月 21 日,欧盟理事会正式批准《人工智能法案》。该法案在经欧洲议会和欧洲理事会主席签署后,将于近日在欧盟官方公报上公布,并在公布 20 天后生效。今年 3 月 13 日,欧洲议会以 523 票赞成、46 票反对和 49 票弃权的表决结果通过了该法案。

《人工智能法案》适用于欧盟法律范围内,对军事、国防、研究目的 AI 系统提供豁免。整体来看,它基于风险分类分级的方法,将 AI 系统划分为不同等级,对社会带来危害的风险越高,监管规则就越严格。具体来说,《人工智能法案》彻底禁止了可能引起“不可接受的风险”的 AI 系统,包括操纵人的行为,或者根据人在学校、社会、工作中的表现进行评分。它还定义了 AI 系统的“高风险”用途,比如将 AI 运用于自动驾驶汽车、医疗系统、招聘领域,因为它们会影响健康、安全、就业等基本公民权利。此外,面部识别技术也属于高风险用途。落在高风险区域的 AI 相关应用,开发人员需要注册 AI 系统、达到风险和性能评估等一系列义务才能进入欧盟市场。

信息来源:

https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/pdf/

法案全文

https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.html


行业实践


五、北京支持医疗大模型开发和落地

北京市人民政府办公厅印发了《北京市加快医药健康协同创新行动计划(2024-2026 年)》,其中提到了人工智能技术、大模型、算力等一系列内容。该计划的主要任务包括实施医疗大数据共享与应用,推动临床样本数字化管理使用,促进医疗数据安全跨境流动,以及加快以医疗大模型为代表的人工智能技术赋能产业发展。这些措施旨在提高医疗数据的利用效率,推动医疗技术的创新和发展。

信息来源:

https://www.beijing.gov.cn/zhengce/gfxwj/sj/202405/t20240523_3692425.html

六、字节跳动、阿里云和百度先后“卷”入大模型“价格战”。

根据红星资本局 5 月 21 日消息,继字节跳动之后,阿里云和百度先后“卷”入大模型“价格战”。

5 月 21 日上午,阿里云方面宣布,通义千问 GPT-4 级主力模型 Qwen-Long 的 API 输入价格降至 0.0005 元 / 千 Tokens,直降 97%。通义千问本次降价共覆盖 9 款商业化及开源系列模型。其中,Qwen-Long 是通义千问的长文本增强版模型,性能对标 GPT-4,上下文长度最高达 1000 万。除了输入价格降至 0.0005 元 / 千 tokens,Qwen-Long 输出价格也直降 90% 至 0.002 元 / 千 tokens。降价后约为 GPT-4 价格的 1/400。

5 月 21 日下午,百度在其微信公众号发文称,文心大模型两大主力模型 ERNIE Speed 和 ERNIE Lite 全面免费。

5 月 15 日,字节跳动旗下云服务平台火山引擎刚刚官宣了豆包大模型,称其“大幅低于行业价格”。例如,豆包通用模型 pro-32k 的推理输入价格为 0.0008 元 / 千 Tokens,按当时来对比,比行业便宜 99.3%。

信息来源:

https://static.cdsb.com/micropub/Articles/202405/d11ebcdc3435ae5054602f026fb904f9.html


多元解纷


七、OpenAI 与斯嘉丽·约翰逊就语音助手 SKY 声音授权情况产生争议

全球票房最高女演员、《复仇者联盟》系列电影中“黑寡妇”扮演者斯嘉丽·约翰逊(Scarlett Johansson)发表声明,OpenAI GPT-4o 中使用的声音之一Sky 与斯嘉丽声音极为相近,斯嘉丽对 OpenAI 此举感到“震惊”和“愤怒”,因此她的律师联系了 OpenAI,要求撤下 Sky

Open AI 回复:“首席执行官 Sam Altman 于 2024 年 5 月 20 日发表声明:“Sky 的声音不是斯嘉丽约翰逊的声音,我们从未打算模仿她的声音。在与约翰逊女士取得联系之前,我们先选定了 Sky 的配音演员。出于对约翰逊女士的尊重,我们已暂停在我们的产品中使用 Sky 的声音。我们很抱歉未能与约翰逊女士进行更好的沟通。”

信息来源:

https://openai.com/index/how-the-voices-for-chatgpt-were-chosen/

八、北京四中院:“已阅读并同意”强索用户隐私属于侵权

据中青报报道,北京市第四中级人民法院审结(以下简称“北京四中院”)一起侵犯公民个人信息权益案,认定涉案 App 存在侵犯公民个人信息权益的情形,依法应当承担侵权责任。

“欢迎来到××词典,请阅读并同意服务条款及隐私政策”。为贴近年轻人生活,了解更多网络流行语,北京市民刘雨(化名)下载了一款“玩梗达人必备的网络流行语词典”App。

刘雨注意到,该 App 不仅在“隐私政策”处为默认勾选“同意”,取消勾选、拒绝 App 处理其个人信息则 App 自动退出,注销账户时也无法撤回已同意处理的个人信息,遂将 App 运营者诉至法院。

北京四中院审理后认为:在此案中,该公司未设置措施保证用户能够充分知情其隐私政策内容,且在用户未实际阅读的情况下,返回界面后,“已阅读并同意服务条款和隐私政策”被勾选,并未让用户主动自愿作出同意的选择,不符合“自愿”“明确”的要求。

同时,用户点击拒绝按钮后,该词典退出运行。北京四中院认为,个人信息保护法规定:“个人信息处理者不得以个人不同意处理其个人信息或者撤回同意为由,拒绝提供产品或者服务;处理个人信息属于提供产品或者服务所必需的除外。”本案中,该词典在刘雨点击“拒绝”按钮后,自动退出,不向用户提供任何服务。根据在案证据,该词典兼具“查词”和“社交”两种属性,虽然在基本业务功能的基础上,产品会发展产生其他拓展功能,如词典的发布、点赞、评论等社交功能,但在名称、官方描述、应用商店中的描述等基本业务为词汇查询的情况下,不提供查询服务,应属于对基本业务的拒绝,仍侵犯了刘雨的个人信息权益。

信息来源:

https://baijiahao.baidu.com/s?id=1799704098529275128&wfr=spider&for=pc


执法守法

九、英国信息专员办公室结束对 Snap 人工智能聊天机器人的数据保护风险调查

2023 年 6 月,英国信息专员办公室开始对“My AI”展开调查,因为有人担心 Snap 未能履行其法律义务,充分评估新聊天机器人带来的数据保护风险。Snap 于 2023 年 2 月 27 日向其高级 Snapchat+ 订阅用户推出了“My AI”,随后于 2023 年 4 月 19 日向所有 Snapchat 用户开放。调查导致我们于 2023 年 10 月 6 日向 Snap 发出初步执行通知。

英国信息专员办公室的调查促使 Snap 采取重大措施,更彻底地审查“My AI”带来的风险,并向英国信息专员办公室证明其已实施适当的缓解措施。英国信息专员办公室称 Snap 现已对“My AI”进行了符合数据保护法的风险评估。英国信息专员办公室将继续监控“My AI”的推出情况以及如何应对新出现的风险。

信息来源:

https://ico.org.uk/about-the-ico/media-centre/news-and-blogs/2024/05/ico-warns-organisations-must-not-ignore-data-protection-risks-as-it-concludes-snap-my-ai-chatbot-investigation/


数据要素


十、第七届数字中国建设峰会成功举办,国家数据局:将出台数据产权制度,制定数据合规高效流通交易政策;发布首批 7 家数据标注基地试点城市

5 月 24 日下午,第七届数字中国建设峰会数据资源与数字安全分论坛在福州举行。论坛以“供需协同 场景驱动 数据赋能”为主题,充分探讨如何进一步激发数据要素潜力,更好赋能新质生产力发展。论坛发布了全国数据资源调查报告,邀请了国家有关部委、相关数据科技和数据应用企业分享数据开发利用典型案例,探讨数据要素市场化配置改革实践。

国家数据局党组成员、副局长陈荣辉表示,将面向构建统一开放、竞争有序的数据要素市场,出台数据产权制度,制定促进数据合规高效流通交易政策文件,建立数据要素收益分配安全治理机制,推出鼓励和支持公共数据、企业数据开发利用的政策文件。

国家数据局在峰会上还公布了 7 家全国数据标注试点基地名单,分别为四川成都、辽宁沈阳、安徽合肥、湖南长沙、海南海口、河北保定、山西大同。

国家数据局会同生态环境部、交通运输部、金融监管总局、中国科学院、中国气象局、国家文物局、国家中医药局等部门联合发布了首批 20 个“数据要素×”典型案例。

信息来源:

https://www.gov.cn/yaowen/liebiao/202405/content_6953586.htm

十一、江苏省开展全省数据出境情况摸底调查

5 月 21 日,江苏网信发布《关于组织开展全省数据出境情况摸底调查的通知》。

根据通知,省内数据处理者包括在境内开展数据处理活动并向境外提供数据的省内各党政部门、企事业单位、社会组织等。

具有下列数据出境行为之一的省内数据处理者需填报

(1) 数据处理者将在境内运营中收集和产生的数据传输、存储至境外;

(2) 数据处理者收集和产生的数据存储在境内,境外的机构、组织或者个人可以查询、调取、下载、导出;

(3) 符合《个人信息保护法》第三条第二款情形,在境外处理境内自然人个人信息等其他数据处理活动。

填报时间为 5 月 20 日至 6 月 20 日。

信息来源:

https://mp.weixin.qq.com/s/kQdNawja_eH4Y6Bay39sJQ?scene=25#wechat_redirect

十二、苏州人民检察院成立数字检察创新应用实验室

近日,苏州市人民检察院联合企查查平台,为共同成立的“数字检察创新应用实验室”揭牌。作为“数据要素×司法服务”的有益探索,实验室启动之后,双方将充分发挥各自的优势和特长,围绕数据共享、智能辅助决策、人才培育等核心方向开展工作。

在揭牌仪式上,苏州市人民检察院检察长李军表示:“打造数字检察创新应用实验室是苏州市人民检察院持续推进数字检察建设的重要举措。我们将与企查查等新质生产力企业携手,共同探索数字检察的新模式、新路径,积极融入数字苏州建设,以数字检察为法治苏州贡献更多的智慧和力量。”

企查查 CEO 杨京在致辞中也表达了对合作的期待和信心:“企查查将充分发挥自身在大数据、人工智能等领域的优势,为数字检察创新应用实验室提供强大的技术支持和创新动力。我们将与苏州市人民检察院紧密合作,共同打造数字检察的苏州样板,推动检企合作的‘苏州模式’走向全省、走向全国。”

信息来源:

https://mp.weixin.qq.com/s/x1jiq5FbwuHmK6k3KeF_QQ

主编 丨 张佳霖

顾问 丨 张烽

出品 丨 数字治理研究 / 万商天勤

【数据资产化实践与合规】数字治理研究 / 万商天勤团队目前与新华网与上海文化产权交易所发起的“新华数联”数据资产管理平台合作提供数据资产化操作服务,并欢迎咨询。

【免责声明】市场有风险,投资需谨慎。本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

数字治理研究
数据请求中
查看更多

推荐专栏

数据请求中
在 App 打开