前沿 | 人工智能时代数据安全治理的供需矛盾与协同路径研究

黎旭明

文 | 中国移动通信集团有限公司 黎旭明；中国移动通信集团陕西有限公司 花小齐

随着人工智能（AI）技术的飞速发展，其在充分释放数据要素价值的同时，也放大了数据采集、加工、流转环节的泄露、滥用与投毒风险，催生了规模空前、形态全新的数据安全需求。2026年是我国数据安全与AI治理制度供给的关键年份：新修订的《中华人民共和国网络安全法》（以下简称《网络安全法》）于2026年1月1日起施行，首次将人工智能全链条治理写入基础性法律；《网络数据安全风险评估办法》自2026年8月20日起施行；最高人民法院印发《人民法院知识产权司法保护实施方案（2026—2030年）》，强化数据权益与大模型训练语料的司法规则供给。在国际层面，欧盟《人工智能法案》于2026年8月2日全面适用；《2026年国际人工智能安全报告》发布，AI数据安全治理已成为全球共同议题。然而，与制度供给持续加码相比，企业工程化合规能力、复合型人才储备与智能化防护工具的供给仍明显不足，治理需求侧与供给侧之间的结构性缺口正在扩大。这一供需矛盾正是当前我国数据安全治理面临的核心问题，也是本研究的逻辑起点。

人工智能的普及并未凭空创造新的风险类型，而是通过自动化、规模化、低成本化三条路径，显著放大了既有数据安全风险的强度、广度与传导速度，进而催生了数据安全需求侧的结构性扩张，集中表现为防护需求、合规需求与治理需求三类需求的同步井喷。

（一）防护需求井喷：攻击升级催生的安全服务缺口

在训练数据环节，攻击者通过向公开模型仓库上传含恶意载荷的模型文件，可在使用者加载推理时实现供应链投毒。某互联网公司一名实习生借助开源模型平台漏洞，通过共享模型方式对内部大模型实施投毒攻击，凸显了供应链安全与内部人员风险的叠加效应。在推理服务环节，提示词注入已成为窃取系统提示、训练数据与应用程序编程接口密钥（API密钥）的主流手法，云上训练数据与密钥外泄事件频发。在内容生成环节，AI深度伪造被规模化用于社会工程学攻击，跨境诈骗案件不断出现。新华网发布的“2026年需要警惕的20项网络威胁”，将恶意AI智能体混迹合法智能体、AI加速的软件供应链攻击、跨云环境的自主攻击链、AI驱动的冒充身份攻击等列为重点威胁；2026年第一季度网络安全态势研判亦显示，“AI智能体风险显著上升”已跃居首位。放眼国际，斯坦福大学《2026年人工智能指数报告》显示，2025年AI事件数据库记录的AI相关负面事件达362起，较2024年的233起增幅超55%；基础模型透明度指数从58分回落至40分，“数据黑箱”问题日趋突出。AI驱动的攻击规模化与高端化，直接催生了企业对智能化安全防护服务的爆发性需求。

（二）合规需求扩张：新法施行催生的合规服务缺口

2026年是中国数据安全与AI治理立法从“原则框架”全面转向“可执法接口”的落地之年。新修订的《网络安全法》新增第二十条，明确支持人工智能基础研究、算力基础设施建设，鼓励运用人工智能技术提升网络安全防护能力；《网络数据安全风险评估办法》构建了数据安全风险评估与事件通报制度的可操作框架；《人民法院知识产权司法保护实施方案（2026—2030年）》则从司法层面回应了大模型训练语料、AI生成内容的数据权益界定难题；国家计算机网络应急技术处理协调中心组织开展的2026年人工智能大模型安全众测活动，已将共性风险归纳为“AI大模型应用十大漏洞风险”予以公开通报。在国际层面，欧盟《人工智能法案》于2026年8月2日全面适用，并对高风险AI系统提出了“隐私和数据保护从设计阶段嵌入”的强制性要求；2026年3月26日，欧洲议会以569票通过简化该法案的修正提案。然而，法规的“可执法接口”已然成型，企业的合规执行能力却远未跟上：大量机构仍停留在制度文本与台账填报层面，对训练数据来源合法性核验、模型输出内容安全检测、跨域数据流转审计等“工程化合规”环节，缺乏可落地的技术工具与流程支撑，合规服务的供给缺口正在转化为新的治理风险。

（三）治理需求溢出：跨域流通催生的全链条治理缺口

数据安全风险已不再局限于单一机构的边界之内。安恒信息等机构发布的《2026数据泄露调查报告》显示，约45%的员工在公司设备上常规使用AI工具，其中67%的员工使用的是非企业管控的个人账号，员工为追求效率违规将敏感数据“投喂”给不受控的外部大模型已成为数据外泄的主要通道之一。向量数据库配置不当、检索增强生成（RAG）管道暴露、内部人员越权调用、第三方合作平台漏洞等风险点相互叠加，使得“重部署、轻安全”的基础设施普遍存在系统性隐患。国家计算机网络应急技术处理协调中心2026年众测通报明确指出，部分大模型产品存在“不当输出处理类漏洞”，即生成内容未经验证就被传递至下游系统，进而导致恶意内容被执行。风险沿数据供应链链式传导、跨域扩散，传统以单点防护、机构边界为核心的治理模式已难以应对，跨主体、跨环节、跨域流通的全链条治理需求迅速溢出，对治理能力提出了前所未有的挑战。

需求侧的高强度扩张与供给侧的相对滞后，构成了当前数据安全治理的基本矛盾，这一滞后集中表现为能力、人才、工具三个维度的供给短板。

（一）能力短板：从“纸面合规”到“工程合规”的跨越尚未完成

长期以来，政企机构的数据安全建设普遍存在“制度上墙、台账落地、技术悬空”的现象，即合规体系停留在文档与流程层面，难以转化为可验证、可度量、可持续的实战防护能力。2026年，立法从“原则框架”转向“可执法接口”后，监管对企业的要求已不再是“有没有制度”，而是“能不能证明制度有效运行”。然而，多数机构在训练数据分类分级、敏感信息动态识别、模型输出内容审核、数据跨境流转监测等关键环节，仍缺乏与法规要求相匹配的技术手段与量化指标。能力供给滞后于立法节奏，是当前治理供给侧最突出的短板。

（二）人才短板：复合型缺口与结构性失衡并存

人才供给不足是制约数据安全治理能力提升的根本问题。SANS研究所（SANS Institute）与全球信息保证认证机构（GIAC）联合发布的《2026全球网络安全人才报告》显示，AI自动化浪潮正在深度重塑安全岗位结构——安全运营中心（SOC）岗位缩减32%，威胁情报分析岗位缩减26%，应急响应岗位缩减22%，传统执行类岗位供给过剩与高端分析类岗位供给不足并存；《2026年中国AI人才需求深度报告》进一步指出，我国AI人才缺口约500万人，学历门槛持续攀升。与此同时，《2026全球网络安全人才报告》亦指出，既懂人工智能算法又熟悉数据安全合规、既掌握攻防技术又理解法律边界的复合型人才尤为稀缺。人才结构呈现典型的“金字塔”形态，塔尖的复合型创新人才供给严重不足，直接制约了治理体系从“被动响应”向“主动防御”的升级。

（三）工具短板：被动防御范式面对新型攻击日益失效

传统数据安全工具以特征匹配、规则库、事后审计为主，在面对AI驱动的新型攻击时普遍暴露出检测失效、响应迟缓、误报偏高三大缺陷。以大模型对抗性攻击为例，越狱攻击、提示注入、越权调用等手段并无固定特征可供匹配，传统内容审核引擎的拦截成功率有限。攻防节奏的不对等进一步加剧了工具滞后：攻击方可借助AI实现攻击链路的自动化规划与秒级执行，而防御方的研判、处置、溯源往往仍停留在小时级乃至天级的人工流程。工具范式的代际落差，使得“以人海战术对抗机器攻击”的传统模式难以为继，安全工具的智能化升级已成为供给侧的紧迫任务。

破解供需矛盾，不能依赖单一维度的发力，而必须构建涵盖技术、制度、人才、生态四个维度的协同治理体系，以多维度的供给能力扩张匹配需求侧的结构性变化。其中，技术协同是引擎，制度协同是骨架，人才协同是血液，生态协同是土壤，四者互为支撑、缺一不可。

（一）技术协同：以AI治理AI，构建智能化的防御底座

应对AI驱动的风险，最有效的路径是以AI技术反哺数据安全治理，即“AI for Security”。在数据分类分级环节，可基于大模型的自然语言理解与泛化能力，对海量非结构化数据进行自动化敏感识别与定级，显著替代人工梳理的低效与遗漏。在异常行为检测环节，融合用户实体行为分析与大模型推理能力，可从海量访问日志中动态甄别异常操作模式，提高对未知隐蔽威胁的识别效率。在合规审计环节，可借助智能体实现审计证据自动采集、合规规则动态比对与审计报告智能生成，推动合规审计从“年度运动式”转向“持续嵌入式”。当前，“以AI治理AI”已成为国际产业界的共识。需要指出的是，AI赋能防御并非万能——对抗鲁棒性不足、模型自身可被诱导、可解释性弱等问题依然存在。因此，技术协同必须坚持“人机增强”原则，即高敏感度、高不确定性的研判环节保留人工最终决策权，在效率与可控性之间寻求平衡。

（二）制度协同：分级分类与审计闭环的双轮驱动

制度协同的核心是把分散于《中华人民共和国数据安全法》（以下简称《数据安全法》）、《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）、《网络安全法》及2026年新施行配套规范中的要求，转化为可执行、可追溯、可考核的闭环流程。一方面，应深化数据分类分级制度落地，按照公共数据、企业数据、个人数据三类，明确差异化的采集、存储、使用、流转、销毁规则，对训练数据来源合法性、个人信息授权充分性、重要数据出境合规性实施全生命周期管控。另一方面，应以《网络数据安全风险评估办法》施行为契机，建立“风险识别—证据采集—规则比对—缺陷整改—复测验证”的评估闭环，并将评估结果与责任追究、整改督办、能力建设形成规范化的强制性关联。值得注意的是，地方立法可在此过程中发挥先行先试作用。北京等地已启动数据要素综合试验区建设，围绕数据流通交易责任界定、行业数据合规指引等开展探索，为国家层面立法积累经验。与此同时，应主动对接行业专属规范与国家标准。据公开研判，2026年围绕交通、教育、医疗等领域的专属数据安全管理办法将陆续出台，全国信息安全标准化技术委员会已将端侧大模型接入、部署、存储、运行、更新与运维全生命周期的安全要求纳入新一批国家标准需求清单。制度协同的关键是让法规从“文本上的要求”转化为“流程中的约束”。

（三）人才协同：产学研贯通的复合型培养体系

人才协同的目标是解决“金字塔”结构下复合型人才供给不足的问题。在高等教育端，应推动数据科学、人工智能、网络安全、法学等学科的交叉融合，建设跨学院、跨专业的复合型培养项目，将数据安全合规、AI伦理、攻防实战纳入核心课程。在职业培训端，应依托行业协会与头部企业，规模化开展数据安全风险评估、AI安全测评、数据分类分级实操等专项培训，缩短从“知识”到“能力”的转化周期。在产学研协同端，应鼓励高校、科研院所与企业共建实训基地与联合实验室，以真实业务场景中的数据安全治理项目为载体，培养懂技术、懂业务、懂合规的实战型人才，以应对AI自动化对初级岗位的冲击与对高端复合型岗位的拉动。

（四）生态协同：构建多元主体的共治格局

数据安全治理不是任何单一主体的“独角戏”，应在制度协同基础上进一步构建政府监管、企业履责、行业自律、公众参与的多元共治生态。例如，行业组织发挥桥梁纽带作用，推动跨机构威胁情报共享与协同演练；公众通过教育宣传提升数据安全意识与AI素养，自觉抵制违规使用AI工具处理敏感信息的行为。各主体各尽其职、协同联动，方能形成与AI时代风险特征相匹配的治理合力。