专家解读｜鼓励新兴技术健康发展 探索人工智能治理法治路径

      《生成式人工智能服务管理暂行办法》（下文简称《办法》）颁布，标志着我国迈出了加快人工智能立法的重要一步。新规出台顺应新兴技术发展趋势，彰显了注重发展、兼顾安全的立法宗旨。《办法》引领国际人工智能的治理实践，对人工智能三要素—数据、算法、算力作出统筹性的制度设计，对迈向通用人工智能立法做出了有益探索。

   鼓励新兴技术健康发展，引领国际人工智能治理实践

  《办法》开篇即明确“为了促进生成式人工智能健康发展和规范应用”制定，是我国人工智能治理与时俱进的重要举措。2017年国务院发布的《新一代人工智能发展规划》明确提出“到2025年，初步建立人工智能法律法规、伦理规范和政策体系”。2022年底以来，大模型的发展催生了人工智能技术的迭代，生成式人工智能成为人工智能产业全新的发展方向。生成式人工智能不仅能够带动数字内容创作、元宇宙、虚拟人等新兴领域加速发展，更是依托“模型即服务”的产业形态融合渗透传统产业实现生产力跃升。

  《办法》的适用范围考虑到生成式人工智能的技术特点与分层业态，充分体现了鼓励人工智能产业发展的精神。生成式人工智能既可以为垂直领域企业提供服务，也可以通过智慧问答、图文生成等方式直接为公众提供服务。正是基于这些新特点，《办法》第二条明确适用范围重点为“向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务”，同时明确“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定”。与此同时，《办法》在第五条鼓励生成式人工智能技术在各行业、各领域的创新应用，探索优化应用场景，构建应用生态体系。

  《办法》引领国际人工智能的治理实践。生成式人工智能引起世界各国立法和监管的关注，但目前尚无成熟的治理实践。欧盟的《人工智能法案》针对生成式人工智能做出新一轮修改与调整。我国的《办法》作为小切口立法“急用先行”，体现了专门性、前瞻性和开放性，与我国既有的人工智能监管工具相结合，引领生成式人工智能治理实践，率先作出了有益的制度探索。

  统筹生成式人工智能多重要素，充分体现系统治理理念

  《办法》融合了数据、算法、算力等诸多生成式人工智能要素，并明确对生成式人工智能服务实行包容审慎和分类分级监管。在数据方面，《办法》提出“推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源”，“推进生成式人工智能基础设施和公共训练数据资源平台建设”，支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能数据资源建设等方面开展协作。《办法》第七条对训练数据处理活动提出了具体要求。同时，第八条明确了数据标注规范，对在生成式人工智能技术研发过程中进行数据标注的，规定制定符合本办法要求的清晰、具体、可操作的标注规则，开展数据标注质量评估，对标注人员进行必要培训等。

  在算法和算力等方面，《办法》第四条明确了算法设计过程中应当遵守的规定，并在第六条提出鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。《办法》第十七条明确提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估并履行算法备案、变更、注销备案手续。同时，《办法》还提出促进算力资源协同共享、提升算力资源利用效能，明确鼓励采用安全可信的芯片、软件、工具、算力和数据资源，充分回应技术产业发展需要。

  兼顾制度创新与监管体系性，迈出通用人工智能治理探索脚步

  《办法》兼顾创新制度设计与保持监管体系性。《办法》第二章“技术发展与治理”作出了一系列创新的制度设计，围绕生成式人工智能产业形态设计了覆盖其生命周期的新型监管措施。如第四条要求服务提供者在算法设计、训练数据选择、模型生成和优化、提供服务等过程中采取有效措施防止产生各种歧视，并基于服务类型特点，提升生成式人工智能的透明度，提高生成内容的准确性和可靠性。与此同时，《办法》第七条要求服务提供者依法开展预训练、优化训练等训练数据处理活动，应使用具有合法来源的数据和基础模型，并且要遵守知识产权保护、个人信息保护等相关监管要求。第十四条规定发现违法内容的，应当采取模型优化训练等措施进行整改。上述一系列适应技术发展的监管措施，将有助于促进生成式人工智能规范应用。

  与此同时，《办法》第三章明确服务规范。如在第十一条要求提供者对使用者的输入信息和使用记录依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录，还应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求，有效回应了社会各界对生成式人工智能产业特点是否能够符合个人信息保护要求的担忧。第十二条要求提供者按照《互联网信息服务深度合成管理规定》的要求对图片、视频等生成内容进行标识，延续了对于生成内容的标识要求。由此可见，《办法》不仅与我国以往的信息内容监管制度相衔接，还充分考量了与个人信息保护、数据安全等制度的协调性。

  生成式人工智能的发展标志着人工智能正在从专用智能迈向通用智能，进入了全新的发展阶段。中共中央政治局4月28日召开会议强调，“要重视通用人工智能发展，营造创新生态，重视防范风险”。《办法》的各项具体制度开启了通用人工智能立法的新进程。面对技术发展带来的机遇与挑战，《办法》既创新制度设计又保持监管一贯的体系性，既重视安全更多方推进技术产业发展，不仅引领国际人工智能治理实践，更为我国未来通用人工智能的立法与治理做出了有益探索。

  作者：张凌寒 中国政法大学教授、博士生导师

      本文转载自：安徽省网信办，原文链接：http://www.ahwx.gov.cn/wlyj/202308/t20230829_7048041.html