AI 不是在给安全团队提效，是在重写安全团队的价值

直播一开始，有朋友问了一个很典型的问题：AI 时代，怎么做入侵检测？

这个问题很值得聊。

因为它背后不是“能不能把大模型接进来”这么简单，而是你怎么看待检测这件事本身。

过去很长时间里，很多检测思路本质上还是规则、特征和策略。

这套方法今天仍然有价值，未来也不会消失。因为安全里有大量高确定性的异常，确实应该用规则、特征、基线和策略快速筛出来。它们稳定、可解释，也适合工程化落地。

但它有一个很明显的边界：它更擅长识别“像不像异常”，但不一定擅长去理解“这个行为到底想干什么”。

而 AI 带来的一个重要变化，就是它开始具备更强的语义理解能力、上下文理解能力和行为意图分析能力。

举个简单例子：

过去我们看到一个账号在短时间内访问多个内部系统，可能会写规则判断它是否异常：

但在真实攻击里，更关键的问题往往不是“它访问次数多不多”，而是：

这类判断，已经不是单条规则能完成的。它需要把账号、设备、行为、日志、业务系统、权限关系、历史上下文放在一起看。

这就是 AI 可能带来的变化。

换句话说，AI 时代做检测，你不一定要再像过去那样，先穷尽式地去列规则。你可以先识别出可疑对象、异常行为链，再把这个对象相关的上下文、行为标识、日志线索交给 AI，让它自己去调用工具、关联信息、还原上下文、判断意图。

这件事的意义非常大，因为它意味着检测逻辑开始从“规则匹配”，往“行为理解”迁移。

这不是一个小优化，这是检测范式本身在变，AI开始参与检测判断本身。

当然，这也并不是说传统方法没价值了。

我反而觉得未来很长时间，最现实的做法一定还是两种模式结合：规则负责筛选出高确定性的异常，AI 负责进一步做上下文理解、行为还原和意图判断。

这背后对应的，是安全团队价值的变化。

过去，一个安全团队的检测能力，可能体现在写了多少规则、接了多少日志、覆盖了多少告警场景。

但 AI 时代，安全团队的价值会越来越体现在：能不能设计一套让机器看见异常、让 AI 理解上下文、让人类把控关键判断的检测体系，让规则、上下文、AI 判断和人工确认协同起来。

这比单纯写更多规则更难，也更有价值。

然而当 AI 一旦开始真正参与检测、判断、执行和协同，它本身也会成为新的风险变量。

这一点，过去一周其实也有很多公开讨论。比如 Anthropic 最近在持续谈 AI 风险、监管和公共安全问题。再比如，一些带有安全限制能力的模型，很快会暴露出越狱、绕过和滥用的风险。

这些事情说明什么？说明今天 AI 不只是一个“提效工具”，它同时也是一个会带来新型不确定性的系统。而且这种不确定性，不是简单靠几条规则就能兜住的。

因为 AI 的问题，不只是“会不会错”，而是“它什么时候错”、“在什么上下文里错”、“为什么会错”、“错了之后会不会继续自动执行下去”。

尤其在安全场景里，这件事会更敏感。很多非安全场景里，结果波动一点，可能只是体验问题。但安全场景里，很多错误不是体验波动，而是真风险。

所以当 AI 进入工作的关键链路，安全团队就不能只把它当作提效工具，还必须把它当作治理对象。

这也意味着，安全团队要开始回答一些过去不太常被问的问题：

这些问题，已经不是传统“上一个 AI 工具”能解决的。

它需要安全团队把 AI 纳入身份、权限、审计、监控、变更、风控和应急体系里。

过去安全团队主要治理 人、系统、应用、数据、账号、权限、供应链；现在还要治理 AI，这就是职责边界的一次扩大。

所以，AI 对安全团队的影响不是简单增强能力，它同时也扩大了安全团队要治理的对象边界。

我们今天对于单 Agent 的安全治理，其实都还远远谈不上成熟，那多 Agent 协同之后只会更复杂。

最近还有一个越来越明显的趋势，就是 Agent 的使用开始爆炸式增长。

不管是企业内部，还是个人用户，越来越多的任务正在被交给 Agent 去完成。

一个 Agent 负责理解需求，一个 Agent 负责拆解任务，一个 Agent 负责查资料，一个 Agent 负责调用工具，一个 Agent 负责生成结果，一个 Agent 负责检查输出。

从效率角度看，这很自然。复杂任务本来就需要拆解，多 Agent 协作也更接近真实组织里的分工方式。

但从安全角度看，这会带来一类新的问题：风险不再只发生在某一个 Agent 身上，而会发生在多个 Agent、多个工具、多个上下文之间的链路里。

这也是多 Agent 安全最麻烦的地方。

单 Agent 出问题，还比较容易追链路、看上下文、找原因。

但一旦变成多 Agent 协同执行任务，系统的不确定性会被进一步放大：

这些事情，都会变得更难分析。

所以现在也能看到，不管是学术界还是工业界，越来越多人都在研究多 Agent 的安全问题。

所以多 Agent 时代，安全团队要管的不只是“某个 Agent 是否安全”，而是整条执行链是否可控。

这会对安全治理提出新的要求：

这一点我自己感受也很深。

因为我们最近自己在做 AI 原生安全产品的时候，也一直在面对一个核心问题：当任务链条越来越复杂、提示体系越来越长、上下文越来越深的时候，AI 在执行过程中一定会出现不确定性。

这时候你怎么用更工程化的方式去约束这种不确定性，怎么让它既保持能力、又不会失控，这其实是一个非常难、也非常现实的问题。

这也是我为什么一直觉得，Agent 安全这件事，即使大家普遍知道它重要，但整个行业还处在非常早期的阶段。

不是没有人在做，而是离“成熟解决”还很远。

而且这里有一个很容易被低估的点：很多人会天然觉得，AI 这么强了，那 AI 去保护 AI，不就行了吗？

但真到落地层面，你会发现这里面有大量的不确定性、误判、上下文丢失、执行漂移和边界失控的问题。所以越是在早期，越不能把它想简单。

因此在多 Agent 时代，安全团队真正要建设的，不是某一个 Agent 的安全能力，而是对整条智能执行链的治理能力。

AI 时代，安全团队内部的岗位价值也一定会发生变化。

直播里有朋友问到一个特别现实的话题：企业安全 BP 团队未来会怎么变？

这个问题，本质上其实不只是 BP 的问题。而是说：AI 时代，企业里那些本来承担连接、协调、传达、推动作用的安全岗位，未来会不会被替代？

我的观点很明确：会不会被替代，不取决于岗位名字，取决于你在做什么。

如果你做的是非常机械的传递工作，比如：业务提一个需求，你转给安全；安全提一个能力，你转给业务。那这种工作被 AI 替代，我觉得是早晚的事情。因为这种连接，本质上没有形成真正的判断和方法论。

但如果你做的不是“传话”，而是真正理解业务战略目标、拆解业务风险、设计安全方案、推动价值落地，那这类岗位不但不会消失，反而会变得更重要。

这也是为什么我在直播里讲：未来优秀的安全 BP，不应该只是执行者。而应该更像业务的 CSO，或者更像一个解决方案专家。

他最重要的能力，不是把一个安全策略推下去，而是能够真正理解：

这一点，我觉得在 AI 时代会变得更重要。

因为纯执行的部分，AI 一定会越做越多。但基于业务理解做判断、做取舍、做设计、做推动的能力，短期内很难被替代，反而会变得稀缺。

再往上看一层，AI 带来的变化不只影响某个岗位，也会影响整个安全团队的定位。

今天很多人还在把安全理解成一个技术问题。技术当然很重要，没有技术，很多问题根本解决不了。

但我越来越觉得，至少在企业场景里，安全本质上是一个管理问题、业务问题、组织问题。

如果你只有技术，而没有方法论、没有业务理解、没有组织能力，最后就很容易陷入一个状态：你拿着一把锤子，到处找钉子。

你觉得这个工具很强、这个能力很牛、这个模型很先进。

但最后它为什么进不了企业流程、为什么落不了地、为什么老板不买单、为什么业务不配合，你解释不清楚。

AI 会进一步放大这个差异，因为 AI 会让“生产能力”变得更便宜：写规则更快，写脚本更快，写报告更快，做自动化更快，生成代码更快，分析日志也更快。

但这并不意味着安全团队的价值降低了，恰恰相反，真正稀缺的东西会更清楚地浮出来。

未来更有价值的，不只是“会不会做一个工具”，而是：能不能把工具、模型、流程、权限、数据、人员和业务目标组织在一起，形成一套真正解决问题的安全方案。

所以我现在越来越不认同一种说法：说以后代码不值钱了，软件不值钱了。

我觉得这句话只说对了一半，更准确一点的说法是：写软件的门槛和成本，在下降；但怎么设计软件、怎么组织软件、怎么把软件真正嵌进业务流程、怎么让它解决真实问题，这件事反而更值钱了。

安全也是一样。未来真正稀缺的，不只是会不会写规则、会不会调模型、会不会做自动化。

而是你能不能把这些能力组织起来，变成一个业务愿意使用、管理层愿意投入、风险能被降低、真正解决业务问题的方案。

说到底，安全团队接下来拼的，不只是技术栈更新速度，而是谁更早完成一次角色升级，从“做安全工具的人”，变成“用安全能力帮业务解决问题的人”。

AI 正在快速重写企业安全的工作方式。

安全团队真正要升级的，不只是工具栈。更关键的是三种能力：

这三件事，不是简单“上一个 AI 工具”就能解决的。

所以，如果你今天在企业里做安全，不管你是做平台、做研发、做 BP、做治理、做产品，还是在带团队，我都特别建议你开始认真想一个问题：在 AI 时代，我真正不可替代的那部分能力，到底是什么？

如果这个问题你还没开始想，那后面很多焦虑都会越来越具体。

但如果这个问题你已经开始认真想了，那我觉得你至少已经在往对的方向走。

这也是为什么我们现在每周在持续聊“AI 和安全”。

因为这个话题，早就不是追“热点”了。

它已经变成了每一个安全团队、每一个安全从业者、甚至每一个企业管理者，都绕不过去的现实问题。

这个问题，每一个安全团队迟早都要回答。

如果你最近也在思考这些问题，或者你已经在公司里开始推进一些 AI 相关的安全实践，但也碰到了很多很现实的问题，欢迎点击下方卡片预约直播，周日（6月21日）晚19:30，一起来直播间聊聊。

也欢迎大家把想讨论的问题留言给我，一个好问题才会有一个好答案。