AIGC 在中国法下的多维度法律风险全解析

2023-07-09 23:49

来源链接

订阅此专栏

收藏此文章

目前，许多行业已将AIGC在多个应用场景中进行落地尝试，多个国家和地区也高度重视人工智能的发展，相继出台监管法律法规。在可预见的未来，人工智能技术将继续向纵深发展，而AIGC将大幅提升生产力，并与Web3时代的新生产模式相结合，进入大规模商业化应用阶段。与此同时，AIGC也存在或将引起一定的法律风险。

本文是AIGC系列文章的第二篇，第一篇[Crypto Story]-C4/5-Potential Legal Issues of AIGC已大致介绍了AIGC的潜在法律问题，而本文将立足于中国监管现状，对AIGC在中国法下的多维度法律风险进行具体讨论。本系列的第三篇文章将把视角投向域外法域，对AIGC的立法进程和执法案例进行分享和解读，敬请期待。

本期内容

1. AIGC中国法监管框架的解读
2. AIGC相关法律风险点
3. AIGC相关主体的责任承担及风险规避建议
4. 重点合规要求：算法安全评估与算法备案

________________________________

#1
AIGC 中国法监管框架的解读

基本监管框架

2023 年 4 月 11 日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》（“《征求意见稿》”），旨在促进生成式 AI 健康发展和规范应用。与 AIGC 相关的法律法规，还包括此前发布《互联网信息服务算法推荐管理规定》（“《算法推荐管理规定》”）和《互联网信息服务深度合成管理规定》（“《深度合成管理规定》”）。这三部文件对于 AIGC 的治理思路一脉相承，坚持“科技向善”的监管精神，共同构成了我国 AIGC 的基本监管框架和主要合规抓手。

法规衔接

《算法推荐管理规定》：应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

《深度合成管理规定》：深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

《征求意见稿》：生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

以上三部监管文件，规制范围与规制重点存在重叠和交叉，因此，在分析 AIGC 产品或业务的法律风险时，可能需要同时适用三部监管文件，而在某些情况下，只需单独适用即可。此外，具体条款的区别和衔接尚需进一步解释说明。以算法备案义务为例，《算法推荐管理规定》和《深度合成管理规定》仅要求具有舆论属性和社会动员能力的算法推荐服务提供者，或开发上线具有舆论属性或者社会动员能力的深度合成服务提供者，需要完成算法备案；而《征求意见稿》则规定“利用生成式人工智能产品向公众提供服务前”，需要完成算法备案；因此无法完全确定是否所有的生成式人工智能服务提供者均需要完成算法备案，尚待进一步的规定出台。再以域外效力为例，相比《深度合成规定》的适用范围仅为“境内应用”、“境内运营”，《征求意见稿》的适用范围为“面向中国境内公众提供服务的主体”，因此，不论生成式人工智能服务提供者在境内还是在境外，是否均受到《征求意见稿》的管辖，有待考量。最后以规制对象为例，如果面向中国境内公众提供服务的主体是在第三方技术公司向其提供的技术产品的基础上设计出最终的 AIGC 产品，进而向公众提供服务，那么“第三方技术公司”是否落入《征求意见稿》的规制对象范围，也需进一步审视。

________________________________

#2
AIGC 相关法律风险点

本节将从算法合规风险、内容合规风险、数据合规风险、用户管理合规风险、知识产权合规风险五个维度横向全面梳理三部监管文件涉及的 AIGC 相关法律风险点 / 合规要点。

算法合规风险

需建立技术保障措施：
深度合成服务提供者应当建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。

需采取数据安全保护措施：
深度合成服务提供者和技术支持者应当加强训练数据管理，采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定。
需取得生物识别的单独同意：
深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

需制定人工标注规则：
生成式人工智能产品研制中采用人工标注时，提供者应当制定清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。AIGC算法模型一般采用“机器学习+人工标注”模式，如何规范人工标注有助于AI训练的微调。
需添加显著标识：
深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。
（图：某视频软件对于AIGC的标识）

算法纠偏义务：
对于运行中发现、用户举报的不符合《征求意见稿》要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。我们认为，算法纠偏义务的可行性存疑。一方面，技术上或许较难拆解、倒推神经网络算法的内容输出逻辑，就更谈不上“纠偏”。另一方面，用户使用AI的行为无形中也会影响对AI的微调。
特定权益保护：
劳动者：算法推荐服务提供者（如适用，下同）向劳动者提供工作调度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

消费者：算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

未成年人：算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息。算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。

老年人：算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。

内容合规风险

内容不符合社会主义核心价值观：
利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
内容侵犯他人权益：
尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
生成歧视性内容：
在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

生成虚假信息：
利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

数据合规风险

利用爬虫技术收集数据：
使用爬虫技术收集数据不应避开或突破访问对象的技术保护措施，应遵守爬虫协议及合同约定，否则可能承担以下民事责任或刑事责任。（爬虫技术相关法律风险的详细解读请见爬虫：“技术无罪”视野下的多维企业合规问题）

民事责任：

不正当竞争：被爬方一般会提起不正当竞争诉讼，主张爬虫方因非法获取数据或破坏网站正常运营秩序而损害被爬方利益，为爬虫方创造竞争优势。

著作权侵权：如果被爬数据构成作品且被爬网站享有系列排他性著作权权利，由于不正当竞争的证明标准较高，被爬网站（或原权利人）也可主张构成著作权侵权。

个人信息权益侵权：如爬取了个人信息且造成损害，则信息主体有权提起个人信息权益侵权之诉。

竞合：上述纠纷有时也存在竞合，尤其是不正当竞争与著作权侵权两类案由。

案例：2023 年 6 月 13 日，笔神作文发布“关于‘学而思’AI 大模型侵权事件的声明”称学而思通过爬虫技术非法访问、缓存笔神作文 APP 服务器数据多达 258 万次，严重侵犯了笔神作文 APP 的数据权益，要求学而思支付 1 元赔偿金，并公开道歉，同时删除已爬取的数据。该案中，学而思是否构成不正当竞争，需要综合判断爬取数据行为是否损害数据所有人的竞争优势、是否存在谋取自身竞争优势的主观故意以及爬取数据是否具备合理理由。

刑事责任：

如果避开或者突破计算机信息系统安全保护措施开展爬虫行为，直接接侵害特定数据的完整性、保密性等，且可能破坏网络信息安全及营运环境的，则可能需要承担刑事责任（侵犯公民个人信息罪、侵犯知识产权罪、侵犯商业秘密罪、非法侵入计算机信息系统罪、非法获取计算机信息系统数据罪、非法破坏计算机信息系统罪）。

涉及个人信息保护：
个人信息的全流程保护方案：包括事前收集信息的合理注意义务、事中在授权范围内使用信息的义务、事后的监管和及时删除义务。

禁止用户画像行为：提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。

个人信息修改权、删除权或难行使：算法的复杂性和黑箱特性导致算法开发者或服务提供者无法向数据提供者充分解释数据处理的过程和目的。此外，不同于单独从某数据库、服务器中修改或删除数据主体的个人信息，从AIGC的数据集中修改或删除部分个人信息，则可能影响模型的参数，进而影响最终产品表现，所以数据主体的个人信息修改权、删除权或难以行使。
涉及数据泄露：
存在泄露商业秘密的风险。

用户管理合规风险

用户实名验证：
深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

用户不当行为管理义务：
提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
用户防沉迷机制：
算法推荐服务提供者：应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。

生成式人工智能服务提供者：应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。
指导用户合理使用义务：
生成式人工智能服务提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。

用户投诉处理义务：
算法推荐服务 / 深度合成服务提供者：应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。

生成式人工智能服务提供者：应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。

知识产权合规风险

知识产权合规风险主要包括：
AI可能无法成为作者（自然人创作应是著作权法上作品的必要构成条件）、AIGC可能无法构成作品（AI本质上可能并未创造真正具有独创性的作品）、用于AIGC预训练及微调的数据可能含有侵犯知识产权的内容、AIGC的著作权侵权认定有难度（需同时证明AIGC接触了现有作品、AIGC与现有作品构成实质性相似、AIGC的创造过程不属于合理使用等）。具体内容详见[Crypto Story]-C4/5-Potential Legal Issues of AIGC。

________________________________

#3
AIGC相关主体的责任承担及风险规避建议

AIGC 产品的制造及使用涉及数据、算法及最终产品三个环节，针对数据提供者 / 处理者、算法服务提供者、AIGC 服务提供者三类主体，我们就责任承担及风险规避提出以下建议。

数据提供者 / 处理者

数据提供者/处理者应承担数据收集和处理的合规注意义务。潜在的合规途径：1）建议收集并使用公开的个人信息；2）建议从第三方购买数据库时要求第三方已获得相关个人的明示同意；3）建议购买官方数据库的数据或审核数据提供商的数据合规性。

算法服务提供者

与 AIGC 服务提供者：
可考虑在算法服务提供者与AIGC服务提供者之间的技术服务合同中，约定算法服务提供者仅就其提供的数据、算法产品的知识产权、相关资质等方面承担损害赔偿责任。

与用户：
对于用户在使用AIGC服务提供者产品时创作的作品（前提是构成作品），若该等作品未包括算法服务提供者的独创性表达，可以通过协议或用户协议明确约定用户创作的作品的相关法律责任与算法服务提供者无关。

与第三方权利人：
可采用避风港规则，当第三方权利人提出侵权主张时，算法服务提供者应及时采取措施（删除、屏蔽、断开链接等）避免侵权结果进一步扩大。

AIGC 服务提供者

与算法服务提供者：
AIGC服务提供者基于自身数据集对AI模型进行单独训练所创设的知识产权，其所有权由AIGC服务提供者享有。

与用户：
《征求意见稿》要求提供API接口接入服务的生成式AIGC服务提供者承担AIGC产品的内容生产者责任。该等约定使得生成式AIGC服务提供者需要承担比一般网络服务提供者更多的法律责任，即要求生成式AIGC服务提供者进行内容的事前审查，这将极大增加生成式AIGC服务提供者的合规成本，似乎缺乏可行性。目前《征求意见稿》尚未生效，更理想的方式或许是，在用户协议中明确约定，用户享有对AI生成内容的所有权和相关权益，并履行对应义务，承担对应责任。

与第三方权利人：
同样可适用“通知-删除”的避风港规则。

________________________________

重点合规要求：算法安全评估与算法备案

算法安全评估

综合《算法推荐管理规定》《深度合成管理规定》，在中国境内提供AIGC产品或者服务的企业具备以下几种情形的，需要在提供AIGC服务前开展安全评估：

-具有舆论属性或者社会动员能力的算法推荐服务提供者；

- 深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的；

-生成或者编辑人脸、人声等生物识别信息的；

-生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。

属地管辖：
境外主体在中国境内提供上述服务且达到安全评估要求的，需要履行算法安全评估义务。

具有舆论属性或者社会动员能力：
主要判断依据为《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（“《安全评估规定》”）。根据《安全评估规定》，具有舆论属性或社会动员能力的互联网信息服务包括：1）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；2）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。上述定义的规制范围较广，涵盖大部分的互联网信息服务，因此，企业如何判断自己是否提供了具有舆论属性或社会动员能力的信息服务，尚待有关部门的进一步释明。建议企业结合自身服务/产品实践，重点参考境内深度合成服务算法备案清单中的同类型企业，并结合网信部门的窗口意见，作出最终判断。

评估方法：
相关服务提供者可以自行实施安全评估，也可以委托第三方安全评估机构实施评估。安全评估所依据的标准，可参照《信息安全技术互联网服务安全评估基本程序及要求》，企业在形成安全评估报告后，应将书面的安全评估报告向所在地市级以上公安机关网安部门备案。

（图：互联网服务安全评估与检查流程图）

算法备案

针对AIGC技术中涉及到算法技术的部分，如提供该服务的企业属于提供具有舆论属性或社会动员能力的信息服务的，应在互联网信息服务算法备案系统（https://beian.cac.gov.cn）网站上填报信息，获得备案号。截至2023年6月20日，国家网信办网站发布公告，公布境内深度合成服务算法备案清单，共有41个算法通过首批算法备案。

属地管辖：
境外主体在中国境内提供算法推荐服务且达到备案要求的需要履行算法备案义务。

涉及多种算法：
如果同一应用应用了不同类别算法，则各算法均需分别完成算法备案；如果同一算法部署在不同类别的产品应用，可同时操作算法备案。
算法信息公示：
互联网信息服务算法备案系统目前公示了已备案的算法信息，公示内容主要包括算法名称、算法基本原理、算法运行机制、算法应用场景、算法目的意图和算法公示情况等基础信息，并未公开算法安全自评估报告以及算法的详细技术信息。