七部门发文规范生成式AI服务 实行包容审慎和分类分级监管

来源：上海证券报 作者：李雁争

国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局近日发布《生成式人工智能服务管理暂行办法》（下称《办法》），对生成式人工智能服务进行了框架性规范。《办法》自2023年8月15日起施行。

包容审慎、分类分级监管

生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

《办法》明确，对生成式人工智能服务实行包容审慎和分类分级监管，要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

在促进发展具体措施上，《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系；支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

《办法》还鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定；推动生成式人工智能基础设施和公共训练数据资源平台建设。

“生成式人工智能技术将带来最重要的一次生产力革命。从这个角度来讲，中国亟须加快发展。《办法》强调保护、鼓励创新，这样的管理思路很有必要。”中国电子商会元宇宙专委会副理事长刑杰对上海证券报记者说。

使用具有合法来源的数据

虽然生成式人工智能技术正在或即将引发生产力变革，但其产生的风险和挑战不容忽视。

《办法》要求，生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。

《办法》还提出，提供和使用生成式人工智能服务应当坚持社会主义核心价值观；在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。

同时，《办法》要求提供和使用生成式人工智能服务要尊重知识产权、商业道德，保守商业秘密；尊重他人合法权益；基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

科技企业须守好“安全底线”

防止生成式人工智能滥用，在充分发挥政府监管职能的同时，也需科技企业提前布局，发挥技术能力守住“安全底线”。

《办法》要求采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

《办法》规定提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。明确提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取有关处置措施，保存有关记录，并向有关主管部门报告。

“比如信息检测技术，国外已经布局，我们的安全技术专家、安全技术企业也应尽快提出相应的技术方案。”中国科学技术大学网络空间安全学院副院长张卫明认为，要实施更全面的人工监管，时刻关注技术的安全性，确保其不会被滥用，才能充分发挥人工智能的潜力。

Tags： 科技 证券 法律 上海 互联网

文章版权声明：除非注明，否则均为万象金融原创文章，转载或复制请以超链接形式并注明出处。