肖飒：新法酝酿ing——开辟“生成式AI”良性成长之路

我们团队对于《生成式人工智能服务管理办法（征求意见稿）》（以下简称：AI新规）进行了逐条研读，并将成果写成文章：新规解读！《生成式人工智能管理办法（征求意见稿）》供圈内朋友参考。鉴于其重要性，飒姐还是要进一步研究，并分享今天这篇文章。

一、划定监管的地域范围

与一般成文法的立法倾向不同，AI新规第二条加入了一个必要条件，即：面向中国境内公众提供服务，也就是说，以往监管机关、司法机关对于在中国境内从事面向海外公众提供服务的“灰色行为”，有些机关认为应当规制，有些机关认为不应当规制，AI新规就直接表明了态度，只要不是面对我国公众的生成式人工智能服务，相对应的行政法不予规制，也就是给市场一个空间，对于承接海外项目的国内技术公司是重大利好。

二、监管要求，尊重公德、公序良俗

AI新规第四条，对于提供生成式人工智能产品或服务，应当遵守法律法规要求，尊重社会公德、公序良俗。请注意，这里并未要求“研发”时也遵守这些要求，也就是说，研发时可以天马行空，只要不流入社会即可。

本条所指的法律法规要求，主要指《网络安全法》《数据安全法》《个人信息保护法》。本条的具体合规要求是：

1. 不得涉黄涉政，不得扰乱经济秩序和社会秩序；

2. 不得歧视；

3.不得不公平竞争，这一点尤其大厂要注意，不得用自己的信息资源和算法优势打压中小企业；

4.预防生成虚假信息；

5.保护隐私，不侵犯他人知识产权和人格权。

三、归责问题

从目前国际相似行业判例，到出现法律纠纷或法律风险的现实可能性，都要求必须要有人为AI的“有毒内容”负责。第五条对于归责问题，分为两个层次：一是利用AI提供生成服务的人或组织，我们可理解为直接to C；二是提供可编程接口等方式支持他人自行生成文本、图像、声音等，我们可理解为to B或小B，这两拨人都要承担“生成内容生产者”的责任。

也就是说，如果出现侵权作品，虽然不是自己亲自侵权，就因为开放了可编程接口，而对其用户的侵权行为同样承担责任。这里飒姐必须说一句，我特别担心为此很多大厂和中小厂不敢在AI内容生成方向做创新，期待本条能排除一些情形，或者为后续裁判给出一些标准，比如：删除即可，无需人工校验审核，降低创业的成本。

四、法律另有规定的，从其规定

新规第十一条是对于公民个人信息的保护，其中，人们最担心的问题是类似ChatGPT对于使用者搜索的问题和输出的答案再次进行“回收”作为“语料库”的一部分，这样会将某些个人信息或个人偏好收集走，客观上造成公民个人信息泄露。

细心的读者发现，这一条似乎有个放水条款，那就是“法律法规另有规定的，从其规定。”这一条的意思实际上是：为了满足KYC或其他监管要求，对于某些维度的画像也许有收集必要，为了避免被使用者起诉侵权，就补了这一条。

五、3个月是不是有点苛刻

新规第十五条“对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。”讲真，3个月会不会时间太紧，倒逼企业加快优化训练模型，这实际上对于初创企业而言，实践中很可能有困难。作为国家级管理办法，宜粗不宜细，建议此处改为：合理时间内，并在各地执法中，结合当时的技术条件和现实情况给出一定的时间区间。

六、关于新规生效时间

讲真，看到ChatGPT横空出世的时候，飒姐还是有被震撼到，甚至悄悄思考律师职业会不会就此消弭。此后持续一段时间里，全球网友对其反馈还是认可其语言流畅，逻辑清晰，但除却真实历史事实，其他内容观点甚至法条都会搞错，让人啼笑皆非。

我国对标该产品的是文心一言，还有其他几款垂直领域的产品，国内“吃螃蟹”的人，为语料库不够丰富而发愁。从当前类似产品的发展现状看，我们还是被卡了脖子，对于卡脖子的行业，是否可以多给一些扶植，适度引导其走向合规之路。鉴于此，等一等市场培育的情况，再看一看实践中有没有新问题，结合其他科技创新的经验和教训，妥善安排规制方案，既保护创新和企业家精神，又维护秩序和安全。

写在最后

我们十分赞赏监管机关及时出台监管政策，坚决支持！通过关注几波科技创新的实际情况，结合本次AI发展的大机遇，生成式人工智能的发展是大势所趋，确实需要规范发展，不仅要遵守法律法规，还要遵循科技伦理。

同时，鉴于AI创新大潮还在进行中，且某些关键技术是“卡脖子”的问题，为了防止刻舟求剑，建议各个监管机关的规范性文件本着促进健康发展和规范应用的初心，宜粗不宜细，慎重考量，稳妥落地。期待科技进步给我们的生活带来更多便利与舒心！

PS 提醒老友，征求意见稿将于2023年5月10日截止，业内牛人和吃瓜群众都可以积极反馈自己的建议，发送至：wajscy@cac.gov.cn

获取详细资讯，请联络飒姐团队

【 sa.xiao@dentons.cn】

【 guangtong.gao@dentons.cn】

飒姐工作微信：【 xiaosalawyer】

飒姐工作电话：【 +86 171 8403 4530】

肖飒法律团队，一支以学术业务立身的法学硕博团队。垂直深耕于“金融+科技”行业，对创新业务有独特的研究优势和一线实务经验。

团队创始人肖飒女士，系中国互联网金融协会申诉委员、中国银行法学研究会理事、首批北京市涉案企业合规第三方监督评估专业人才、中国人民大学法学院法硕实务导师、中国政法大学法律硕士学院兼职导师、中国社科院产业金融研究基地特约研究员、工信部信息中心《中国区块链产业白皮书》编委会委员。著有虚拟币规制畅销书《ICO黑洞》、合著学术书籍《网络金融犯罪的刑事治理研究》等。在《证券时报》《人民日报海外版》《财新》《经济观察报》等发表过近百篇署名文章。

坚守法律，让金融人+科技人远离“囹圄”！