从此，大模型不敢瞎BB了
2023/4/13 18:00:00 石榴号
4月11日，国家互联网信息办公室
发布了一则重磅消息
生成式人工智能服务管理办法
(征求意见稿)
吃瓜群众热议说
“出台正当时”
↓
在这份文件中
我们看到几个有趣的点
↓
01
什么是“生成式人工智能服务”？
你可以理解为，像ChatGPT这类的东西，都是“生成式人工智能”。
原文定义
本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
02
考验大模型【真技术】的时候到了!
文件明确指出，不能生成这些内容↓
原文
第四条 提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：
(一)利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
(二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。
(三)尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。
(四)利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。
(五)尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
嘿嘿，这个对大模型提供商来说，是个不小的考验。
AI会不会胡说八道，信口开河，核心在于考验大模型的技术和算法。
03
训练大模型的数据要合规合法!
其中特别提到，包含个人信息的数据，应当征得个人信息主体同意或合规合法。
原文
第七条 提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：
(一)符合《中华人民共和国网络安全法》等法律法规的要求；
(二)不含有侵犯知识产权的内容；
(三)数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；
(四)能够保证数据的真实性、准确性、客观性、多样性；
(五)国家网信部门关于生成式人工智能服务的其他监管要求。
04
用户输入啥，提供商你别动歪心思
就像搜索一样，用户输入内容，大模型提供商一清二楚，但是，规定来了↓
原文
第十一条 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。
不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。
05
开展大模型业务前，要审核报备
该走的程序，一个不能少!
原文
第六条 利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
06
如果发现用户作恶，提供商应立刻采取行动
再次强调大模型提供商，需要具备实时的、精准的监管运维能力!
原文
第十九条 提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
07
干了不该干的，需承担法律责任
这里主要指的是大模型提供商，不管何种方式提供，Web、APP、API..
自己该负的责任，一个不能少。
原文
第五条利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(以下称“提供者”)，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。
第二十条 提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。
法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
目前，这个草案处向社会公开征求意见阶段。预计很快，就会正式实施。欧耶，大模型很快就有法可依拉!
来源：特大号
源网页 http://weixin.100md.com
返回 石榴号 返回首页 返回百拇医药