背景

自去年OpenAI研发的ChatGPT发布以来，生成式人工智能（“AIGC”）成为了市场关注的焦点。全球各大厂以及初创公司纷纷涌入AIGC市场，其潜在的商业价值和社会问题引发了各界的讨论。今年以来，AIGC的行业发展迅猛，为进一步规范AIGC行业的发展，美国、欧盟等其他国家/区域都相继展开了立法或执法行动。

为治理乱象，国家互联网信息办公室（ “网信办”）及时响应市场需求，于2023年4月11日发布《生成式人工智能服务管理办法（征求意见稿）》（“征求意见稿”）。在广泛征求社会各界意见后，2023年7月10日，网信办联合六部门发布了《生成式人工智能服务管理暂行办法》（“办法”），该办法将于2023年8月15日实施，这是我国关于AIGC的第一部规章文件。此外，2023年6月国务院办公厅印发的《国务院2023年度立法工作计划》中，《人工智能法草案》俨然在列，这将作为AIGC的基础性法律。

本文将结合AIGC之乱象，对办法进行初步解析及分享几点思考。

一、办法概览及亮点

《办法》在总体上支持AIGC的发展，坚持创新和依法治理并重的双重原则。相较于此前的《征求意见稿》，一方面，办法更充分地考虑到了企业落地的困境，对企业的责任义务进行了优化调整，给予了企业更有适用空间的地带；另一方面，办法也更加关注技术的发展，鼓励AIGC各行业、各领域的创新应用。

亮点一：确定分类治理的思路模式

 第三条：国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

 第十六条第二款：国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

办法第三条及第十六条第二款均规定，将对AIGC实行分类分级监管，国家有关主管部门将会针对AIGC的技术特点及行业应用，制定相应的分类分级监管规则或者指引。这意味着，在之后的配套措施中将会展开制定相应的分类监管制度。

我国在互联网信息内容领域已建立了相关基于风险的分类分级制度，如《网络安全法》明确“国家实行网络安全等级保护制度”。此外，在欧盟《人工智能法案》中，[1]也提出建立基于风险识别的分类监管。根据法案规定AIGC技术根据风险评估可分为四类：“不可接受的风险” “高风险” “有限风险”以及“低或轻微风险”，基于不同风险对应不同的监管措施。加拿大政府于2023年3月官宣将制定《加拿大人工智能和数据法》和配套法规，以规范人工智能开发和应用活动。新法预计最快会在2025年生效。加拿大的新法也将沿用欧盟以风险为导向的分类监管思路，将监管重点放在具有高风险的人工智能系统上。

可见，分类治理既是我国网络内容监管的已有之策，也是目前其他国家对AIGC监管的主要方向之一。

亮点二：适用范围排除部分研发应用场景

 第二条第三款 行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

办法第二条第三款排除了部分适用场景。目前AIGC在产业方面可分为基础层、模型层以及应用层。基础层主要聚焦算力、数据集、Transformer及CLIP等基础生成算法，为模型层提供基础的资源支撑，如英伟达、阿里云计算等云厂商或硬件制造商；模型层主要包括通用大模型和行业大模型两类，指的是驱动AI产品的模型，如OpenAI、Stability.AI等公司；应用层是指将AIGC模型集成进面向用户的应用软件，如Notion AI、Midjourney。[2]

根据办法第二条的规定，目前该办法主要适用于向公众提供的应用层，如果基础模型不直接向公众提供服务，仅限于科研和工业应用场景，则不在办法的适用范围内。因此，大量垂直领域的如支持工业应用、科研应用等场景将排除适用。

亮点三：提供者主体责任的柔性适用

此前征求意见稿要求AIGC服务提供者对AIGC产品数据的真实准确性、不侵犯知识产权、个人信息合规等要求承担合法性保证义务，但在办法中改为了对企业要求尽职性承诺，为企业发展提供了具有缓冲地带的适用空间。此外，相较于征求意见稿将AIGC定位为内容生产者，办法改为了“网络信息内容生产者”，限缩了AIGC提供者的法律责任。否则，作为内容生产者，AIGC服务提供者可能需要直接承担知识产权、人格权等侵权责任，对内容具有较大的义务。而作为网络信息内容生产者，AIGC服务提供者履行网络信息安全义务，且衔接了《网络信息内容生态治理规定》对网络信息内容生产者的相关规定。

由于AIGC需要使用现有的作品进行模型训练，并且生成的作品不可避免地带有训练作品的痕迹。因此，AIGC生产内容可能会和训练作品构成实质性相似，在该过程中涉及AIGC技术提供者、AIGC服务提供者以及AIGC使用者，如何确定责任主体以及责任分配尚未明确。《办法》第四条对此规定了宣誓意义的条款：提供和使用生成式人工智能服务应当尊重知识产权、商业道德，保守商业秘密……尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益等。

此外，AIGC生成内容是平台和用户共同产生，对于AIGC生成内容的权属归谁所有，目前也存有争议，实践中一般通过协议约定的方式对生成内容的归属作出约定。办法第三条规定：“提供者应当与注册其服务的生成式人工智能服务使用者签订服务协议，明确双方权利义务。”

二、 AIGC之乱象：侵权及执法案例

目前国内外出现了一些有关于AIGC侵权或执法案例。

在中国，2021年北京互联网法院审结一起“人工智能软件使用明星形象创设虚拟人物构成侵犯人格权”的案件，[3]该案于2022年4月11日被最高人民法院评为“九起民法典颁布后人格权司法保护典型民事案例”之一。

在这起案件中，被告运营某款智能手机记账软件，在该软件中，用户可以自行创设或添加“AI陪伴者”，设定“AI陪伴者”的名称、头像、与用户的关系、相互称谓等，并通过系统功能设置“AI陪伴者”与用户的互动内容，系统称之为“调教”，从而可以实现用户和偶像聊天互动的梦幻效果。原告何某系公众人物，主张该软件侵犯了原告的肖像权、姓名权、一般人格权。最终法院支持了原告的诉请，虽然具体图文由用户上传，但被告的产品设计和对算法的应用实际上鼓励了用户的上传行为，直接决定了软件核心功能的实现，被告不再只是中立的技术服务提供者，应作为内容服务提供者承担侵权责任。

在美国，2023年1月13日，美国的三位插画师Sarah Andersen、Kelly McKernan和Karla Ortiz对AI绘画公司Stability AI、Midjourney以及艺术家平台DeviantArt提起了诉讼，理由为被告公司侵犯了他们艺术品的作品著作权，因为当Stable Diffusion根据用户的指示生成图像时，它通过训练图像生成看似新的图片，但这些所谓新的图像完全是基于训练图片，并且是根据Stable Diffusion给定使用的特定图片的二次创作。目前该案尚未审结，三家被告企业要求法院驳回艺术家提起的集体诉讼。这些企业认为，人工智能生成的图像与艺术家的作品不相似，而且该诉讼没有指出涉嫌侵犯版权的具体图像。[4]

此外，全球各地也相继出现对AIGC企业的执法案例。如意大利“个人数据保护局”在2023年2月3日宣布取缔了一款由美国企业Luka开发的“Replika”程序。[5]因Replika涉及非法收集、处理个人数据，以及不符合透明要求，并且没有年龄验证机制，对未成年人保护构成实际危害。再如美国联邦贸易委员会（FTC）正在展开对OpenAI的调查，调查的重点包括OpenAI旗下聊天机器人ChatGPT是否因发布虚假信息，伤害到相关个人以及OpenAI如何处理相关风险。[6]

三、展望：汲取先进经验并完善立法

随着OpenAI势如破竹的发展，全球各大厂以及创业公司都纷纷下场，如百度发布了文心一言，近日马斯克也宣布正式成立人工智能公司xAI，并放言“一定会与OpenAI竞争”。这场群雄逐鹿之途，谁赢谁输还未见分晓。

《办法》的发布为AIGC的发展确定了纲领性文件，在要求企业合规发展的同时，也给予企业更柔性的发展空间。根据《国务院2023年度立法工作计划》，我国的《人工智能法》已经正式进入了立法进程中。此外，办法也要求国家各主管部门制定相应的分类分级监管规则或者指引。随着《人工智能法》的提上日程以及此后相关行业性规定细则发布，AIGC行业的相关规定在立法以及行业规制上都会日渐完善。在全球视野之下，中国政府和企业也应当密切关注全球领域的监管立法以及技术发展，提前做好准备和部署，继而在AIGC领域处于领先地位。

注释：

[1]目前欧盟《人工智能法案》仍在修订过程中，于2021年发布提案，2022年发布妥协版本，2023年发布折衷版本，有望于2023年底正式通过。

[2]参见网址：https://a16z.com/2023/01/19/who-owns-the-generative-ai-platform/。

[3]参见网址：https://www.chinacourt.org/article/detail/2022/04/id/6626182.shtml

[4]参见网址：https://news.bloomberglaw.com/ip-law/ai-art-generators-tell-judge-to-nix-artists-copyright-lawsuit

[5]参见网址：https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9852214

[6]参见网址：https://www.washingtonpost.com/technology/2023/07/13/ftc-openai-chatgpt-sam-altman-lina-khan/