从一场新闻发布会看“十五五”时期人工智能安全治理方向

国家发改委：统筹发展与安全并重，把安全贯穿到人工智能研发、应用、治理的各环节

在新闻发布会中，国家发展改革委创新和高技术发展司副司长王若蒙回答了关于"'十五五'时期，我国将如何统筹发展与安全，确保人工智能健康有序发展"的相关问题。

他提出，“十五五”时期，我国将始终统筹发展与安全并重，把安全贯穿到人工智能研发、应用、治理的各环节，重点抓好四方面工作。一是健全治理规则体系，明确合规边界。二是优化监管环境，增强监管适应性。三是明确多元主体协同治理责任，凝聚共治合力。四是积极应对人工智能对社会的影响，确保以人为本、向上向善。

以下为发布会文字实录中原文：

澎湃新闻:

人工智能在带来巨大发展机遇的同时，也带来算法安全、伦理规范等新的风险挑战。请问“十五五”时期，我国将如何统筹发展与安全，确保人工智能健康有序发展？

王若蒙:

目前，全社会对人工智能机遇与风险并存已有广泛共识。习近平总书记强调，要确保人工智能安全、可靠、可控。“十五五”时期，我国将始终统筹发展与安全并重，把安全贯穿到人工智能研发、应用、治理的各环节，重点抓好四方面工作。

一是健全治理规则体系，明确合规边界。一方面，系统总结我国人工智能治理经验做法，加快推进人工智能基础性综合性立法，构建人工智能法律法规体系的四梁八柱。另一方面，加快完善保障数据、算力、算法等共性要素，以及规范重点应用场景的立法，建立覆盖人工智能全生命周期的安全标准和伦理准则。同时，考虑到人工智能的快速迭代特性，我们将对制度实施情况开展周期性评估，及时动态调整不适用的制度内容。

二是优化监管环境，增强监管适应性。人工智能的治理也要适应人工智能领域新、迭代快、覆盖面广的特点。一方面，统筹把握政策时度效，合理设置监管政策的过渡期，明确透明可预期的监管要求和执行标准。另一方面，寓监管于服务，面向不同行业领域开展应用合规指导，完善评估、咨询、认证等安全合规服务体系，帮助各有关方面更好履行合规义务，减轻他们的合规成本。同时，我们将创新监管方式，支持建设面向不同领域的人工智能“监管沙盒”，并同步健全沙盒的申请、测试、使用、退出管理机制，预置风险缓冲方案，拓宽试错容错空间。

三是明确多元主体协同治理责任，凝聚共治合力。安全风险防治是政府部门、行业组织、企业主体、社会公众的共同责任。对于政府部门，我们将加强部门统筹，增强治理的协同性，推动监管结果互认等。对于行业组织，要积极发挥纽带作用，推动形成更多行业共识、自律公约等。对于企业主体，我们将推动开发者经营者强化风险管理意识，及时披露安全风险，主动上报安全事件和漏洞信息。对于广大人民群众，将开放更多人工智能学习资源，常态化组织开展科普活动，提升全民人工智能伦理素养、风险防范意识，形成全社会共同参与的多元共治格局。

四是积极应对人工智能对社会的影响，确保以人为本、向上向善。在就业影响方面，密切关注人工智能对就业结构的影响，充分激发人工智能在创造新就业岗位、带动创新创业方面的活力，推动模型训练师、数据标注员等新职业纳入国家职业分类体系。同时，对于人民群众关心的就业替代风险，强化监测预警，加强社保体系同就业结构、工作方式变革的衔接，做好兜底性、普惠性社会保障。在权益保障方面，对算法歧视、深度伪造、隐私泄露等社会关心问题，要通过技术手段增强滥用恶用行为的溯源追踪能力，坚决打击利用人工智能实施的违法犯罪行为，确保人民群众合法权益不受侵害，特别是对老年人、未成年人等特殊群体进行保护。在心理健康方面，规范人机边界，加强防沉迷、防情感依赖的引导和干预，完善社会心理援助与干预渠道，应对人工智能对心理健康的影响。

国家数据局：针对人工智能用数的数据安全问题，探索新型治理机制

"十五五"时期 AI 安全与数据安全的制度供给有几条比较清晰的线索。立法与标准层面，人工智能基础性综合性立法、覆盖全生命周期的安全标准和伦理准则将加快推进；监管层面，政策过渡期、应用合规指导、面向不同领域的"监管沙盒"等更强调适应性的方式被写入工作方向；数据层面，数据合规流通、匿名化等指引将加快制定，人工智能用数的安全问题被作为探索新型治理机制的切入点。

同时，"为新技术新产品留出合规创新空间""拓宽试错容错空间"等表述也说明，安全治理在这一轮制度设计里并非只作为技术应用的后置约束，而是与立法、标准、监管方式、数据基础制度一起被前置安排。对相关从业单位而言，后续可重点关注人工智能综合性立法进展、安全标准与伦理准则制定、数据合规流通与匿名化指引出台，以及"监管沙盒"在重点行业的落地情况。

来源：https://www.ndrc.gov.cn/