Introduce Facader模型- AI自动渗透工业化的最后一公里

· 2026-10-29 14:20 · 15 阅读

原创 ChainReactor 2026-10-29 14:20 浙江

Facader-Heisen 是网络安全行动护栏模型,在智能体每次行动前独立核对目标、权限、数据与操作边界,为渗透测试设防。

前言

一名入门者用开源工具渗透某单位,一次误操作删除了 24 万条政府数据。自动化降低了攻击门槛,也放大了每个动作的代价。

CYBER平台已经验证了工业化的渗透测试,那么在模型和架构之外,还有最后一公里:让每一个未知的行动,都在授权边界内正确执行。

过去,我们用自然语言描述我们的一些约束,但如果没有人监督模型是否会遵守,就会发生开头的反面案例。模型带来的问题只能通过模型解决,为此我们开始设计第一代类Jev护栏模型。

它守在行动真正发生之前,允许的动作顺利通过,越界的动作则被拦在边界之内。

始终面朝边界,所以叫“面壁者”

面壁计划

全文表格约定:加粗表示该项最高值(并列最高同样加粗)。

决策模型 ?随机数生成器

介于成本和数据量考量,我们选择了热门的几款类Jev决策模型,以及和我们的场景较为贴合的公开bench: ScopeJudge 进行测试,测试结果如下:

模型与配置

越界拦截率

正常放行率

平衡准确率

官方Jev决策模型 1.14.0

70.69%

89.24%

79.96%

Nimble 9B v2

67.24%

89.64%

78.44%

Needle3

27.59%

73.81%

50.70%

Laya English 421M

27.59%

73.81%

50.70%

Laya Typed 421M

17.24%

83.65%

50.45%

Laya Multilingual 322M

93.10%

12.28%

52.69%

Google Gemma 3 270M IT + Jevify

36.21%

57.36%

46.78%

社区 Jev-Gemma 3 270M

0.00%

99.59%

49.80%

二分随机数生成器

44.83%

49.54%

47.19%

可以看到,除了Jev官方和Nimble 9B v2外,几乎都是随机生成器水平,完全不可用。

How2Jev

因此我们将眼光放回了LLM,需要可以低成本部署,并兼顾精度和速度的小模型,并且为了避免Decode带来的性能影响,还需要一个LLM转Jev的方案,因此我们设计了如下的实验。

我们选取了七种转化方案:

转换方法

核心机制

R1:约束生成

在限定格式内生成候选标签。

R2:候选索引读出

直接读取候选标识 token 的分数。

R3:候选全文似然

计算完整候选文本的序列得分。

R4:逐候选 yes/no

分别判断每个候选是否成立。

R5:固定任务读出头

冻结主干,为已注册任务拟合专用读出头。

R6:动态候选匹配头

冻结主干,学习上下文与动态候选的匹配关系。

R7:多位置联合读出

在一次前向计算中读取多个问题槽位。

以及七种合适的小尺寸开源模型:

测试基座

模型标识

Qwen3.5 4B

Qwen/Qwen3.5-4B

Qwen3.8 Distill 4B(社区)

empero-ai/Qwen3.8-4B-Distill

Qwen3.5 9B

Qwen/Qwen3.5-9B

Qwen3.8 Distill 9B(社区)

empero-ai/Qwen3.8-9B-Distill

MiMo V2.6 Distill 9B

XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B

DeepSeek V4 Flash 蒸馏 9B(社区)

Jackrong/Qwen3.5-9B-DeepSeek-V4-Flash

Bespoke Nimble 9B

bespokelabs/Bespoke-Nimble-9B

再次对ScopeJudge 进行测试,得出的结果如下:

Scope 授权判断 · 1,043 条动作 · 平衡准确率 ↑

基座 / 转换方法

R1

R2

R3-sum

R4

R5

R6

R7

Qwen3.5 4B

68.94%

76.50%

67.97%

59.44%

71.86%

57.66%

72.39%

Qwen3.8 Distill 4B(社区)

68.02%

81.08%

69.26%

62.44%

70.69%

49.95%

74.28%

Qwen3.5 9B

78.33%

80.12%

79.40%

65.53%

71.75%

52.38%

82.25%

Qwen3.8 Distill 9B(社区)

79.65%

78.34%

78.75%

67.41%

74.75%

49.75%

79.66%

MiMo V2.6 Distill 9B

81.28%

76.52%

80.47%

63.30%

66.68%

55.48%

74.74%

DeepSeek V4 Flash 蒸馏 9B(社区)

79.56%

78.04%

79.05%

70.66%

71.25%

50.71%

69.42%

Bespoke Nimble 9B

78.49%

77.73%

77.02%

79.76%

66.48%

54.56%

78.39%

在做了 Scope 授权判断的基本测评后,有几种转换方法和基座进入了我们的视野,但为避免单一测评集影响我们的判断,我们同时还做了一些通用性能力测试:

通用决策能力保留 · 344 道问题 · 准确率 ↑

基座 / 转换方法

R1

R2

R3-sum

R4

R5

R6

R7

Qwen3.5 4B

61.92%

61.63%

56.10%

56.98%

61.63%

44.19%

56.69%

Qwen3.8 Distill 4B(社区)

57.56%

55.81%

59.59%

48.26%

55.81%

40.12%

50.87%

Qwen3.5 9B

60.17%

67.44%

59.30%

58.14%

67.44%

43.90%

57.85%

Qwen3.8 Distill 9B(社区)

62.21%

64.24%

60.47%

51.74%

64.24%

50.29%

58.14%

MiMo V2.6 Distill 9B

53.78%

59.01%

54.94%

50.29%

59.01%

40.12%

51.74%

DeepSeek V4 Flash 蒸馏 9B(社区)

63.08%

63.95%

60.76%

50.87%

63.95%

46.22%

55.52%

Bespoke Nimble 9B

75.58%

71.22%

68.02%

63.08%

71.22%

55.23%

65.99%

在平衡了两者的准确率后,最终选择基于  DeepSeek V4 Flash 蒸馏 9B 社区模型 Jackrong/Qwen3.5-9B-DeepSeek-V4-Flash 构建,采用R2方式转化。

穿越幻觉

由于边界问题非常特殊,同一动作在不同授权条件下很可能得到相反结论。因此,我们着重对区分边界这一问题进行了训练,并且强调动作与授权的对应关系,让模型不仅学会判断“允许”或“禁止”,也能够理解“为什么允许”与“为什么禁止”。

下表展示了在相同基座下,边界训练前后的效果对比:

同基座训练对照

越界拦截率 ↑

正常放行率 ↑

平衡准确率 ↑

DeepSeek 蒸馏 9B,未经边界训练

58.62%

95.63%

77.13%

Facader-Heisen

68.97%97.66%83.32%

在基座模型、输入数据与转换方法均保持一致的情况下,三项指标分别提升10.34, 2.03, 6.19个百分点。拦截率与正常放行率的同步提升,说明模型并非通过一味增加拒绝来换取安全性,而是在增强风险拦截能力的同时,进一步改善了正常请求的放行表现。

思考

Facader-Heisen 的名字源自德国物理学家海森堡(Werner Heisenberg)。他曾参与纳粹德国的核武器研发,但由于种种原因,该计划最终未能实现目标。从历史结果来看,没有实现却对所有人来说反而是好的结果。

Heisen 原本计划造出安全领域的 decision 模型,出于算力、数据集和训练经验的限制。现阶段仅完成了其中的安全护栏部分,作为 CYBER 平台上线前“最后一公里”的安全保障。

第一代面壁者系列模型 -  Facader-Heisen

我们开展了四项评测,共 1,974 个请求、2,118 道问题,覆盖授权判断、轨迹安全与通用决策,四项评测的问题数依次为 1,043、500、344、231。

基本能力测评

模型与配置

Scope 平衡准确率

ATBench 准确率

通用决策准确率

JevBench 准确率

Facader-Heisen

83.32%

82.00%

65.70%

78.35%

官方Jev模型 1.14.0

79.96%

81.40%

90.41%87.88%

Nimble 9B v2

78.44%

84.20%

63.37%

80.95%

Qwen3.5 9B,边界训练对照

82.15%

81.00%

65.99%

79.22%

MiMo 9B,边界训练版

80.52%

83.60%

61.63%

82.25%

最关键的 Scope 测评中,我们的模型平衡准确率 83.32% 为同题最高,较官方Jev决策模型高 3.35 个百分点,较同基座未训练版本高 6.19 个百分点。不过通用决策 65.70%、JevBench 78.35%,分别落后官方 24.7 和 9.5 个百分点。

中文与多语言能力

除了拦截行为,语言理解能力也非常重要,在MASSIVE 简体中文与繁体中文子集上,Facader-Heisen 分别达 90.00% 和 87.00%,较官方决策模型均高 12 个百分点(各 100 题)。同一组权重在 51 种语言面板上达 79.61%,并直接复用于越狱识别与模型路由,多任务共用一组权重。

评测任务

问题数

Facader-Heisen

官方Jev决策模型 1.14.0

同基座未训练对照

MASSIVE:51 种语言的意图分类

5,100

79.61%

58.98%

79.04%

MASSIVE:简体中文(zh-CN)

100

90.00%

78.00%

89.00%

MASSIVE:繁体中文(zh-TW)

100

87.00%

75.00%

87.00%

越狱识别

400

87.25%

94.50%

86.50%

模型路由判断

399

94.49%

97.74%

95.74%

表中均为全题准确率,中文两行是 51 语言面板的子集,不重复计入总题量。多语言面板较官方高 20.6 个百分点,为最大单项优势。

性能优化

除了效果,速度也是我们重点关注的指标。

普通 LLM 在完成上下文计算后,仍要逐 token 生成判断文本;即使只需返回一小段 JSON,调用方也得等所有字段全部生成完毕。

而 Facader-Heisen 的判定在前向计算的判定位置直接读出,路径中没有解码阶段, 由接口直接返回结构化判定与概率, 因此速度更快。

决策路径

普通 LLM 判断

Facader-Heisen

获得可用判定

处理上下文 → 生成判断文本 → 提取结论

处理上下文 → 直接读出判定

判定输出

逐 token 生成文本,调用方解析

单次读出,结构化字段

因此我们也做了如下的测试, 在同一组 DeepSeek 9B 产品权重,单机 NVIDIA GB10、HF/SDPA、BF16、相同 LoRA 配置下, 24 条 Scope 请求各重复 3 次,每侧 72 次调用;两侧均关闭思考、串行执行、无跨请求缓存,普通 LLM 实际生成简短 JSON,不用受限语法或固定文本代填, 预热不计入,且统计不含 HTTP 与网络传输。

本地判定耗时与生成量

普通 LLM:生成 JSON

Facader-Heisen

中位耗时 P50 ↓

1,323.33 ms

227.35 ms

尾延迟 P95 ↓

1,468.35 ms

264.47 ms

中位解码 token 数 ↓

13

—

可以看到, 最终中位耗时降低 82.82%(5.82×),P95 降低 82.0%。

CYBER平台的真实数据

公开基准之外,Facader-Heisen的部署验证进一步覆盖了真实任务数据。我们对 628,581 条已执行的有效 bash 命令完成全量离线回放,数据包含授权渗透、资产收集、漏洞验证与常规运维等工作负载。

在固定策略下逐条判断命令,有效命令覆盖率达到 100%,最终打分失败与坏行均为 0。最长命令为 5,458 token,加入提示包装后仍在服务上下文范围内,全部有效命令均完成评分。

真实命令回放指标

实测结果

有效命令数

628,581 条

有效命令覆盖率

100%

最终打分失败/坏行

0/0

模型放行判定占比

99.8435%

模型拒绝判定占比

0.1565%

端到端延迟 P50/P95/P99

431/683/908 ms

为衡量危险行为识别,我们另外设置了 141 条人工构造对照命令,包含 12 类危险场景与良性运维操作。在这组对照中,危险命令召回率为 90.1%,良性命令正确放行率为 100%。

对照集指标

样本数

实测结果

危险命令召回率

111

90.1%

良性命令正确放行率

30

100%

整体分类准确率

141

92.2%

由于我们直接计算了概率, 而概率并不是非黑即白的, 只要我们找到一个合适的cookie点, 即可再次提高模型可用性。因此在执行策略层,我们进一步根据报告保存的置信度分布,比较 0.9 与 0.8 两档自动放行门槛:模型判为 allow 且置信度达到门槛时自动放行,低于门槛时送审;deny 始终进入拒绝分支。

以下为同一批判定的策略重算,不重新调用模型:

放行策略指标

门槛 0.9

门槛 0.8

生产命令自动放行

470,918 条(74.92%)

562,611 条(89.50%)

生产命令送审

156,679 条(24.93%)

64,986 条(10.34%)

生产命令拒绝

984 条(0.1565%)

984 条(0.1565%)

危险对照直接拒绝召回率

90.09%

90.09%

危险对照拒绝或送审覆盖率

111/111(100%)

110/111(99.10%)

危险对照自动放行

0/111

1/111

如果将门槛由 0.9 调至 0.8,那么送审量将减少 58.52%,自动放行比例提高 14.59 个百分点。

开源与公益SaaS服务

我们计划将在两周内开源 Facader-Heisen,11月内推出 CyberGuard SaaS 平台, 免费提供渗透测试的护栏服务。

为方便接入,我们的接入方式与Jev官方决策模型保持一致: 以独立的 HTTP API接入,非本机调用需使用 Bearer 鉴权。应用提交 state(可信授权、上下文、拟执行动作)与 questions(判断问题及候选);接口支持 choice、noul、score,分别对应选择、布尔判断与分级评分;响应包含判定、置信度与候选概率,候选可随问题变化,返回格式保持稳定,应用沿用自己的权限与审批流程。

这里也列出常见的三类场景:

  • • 渗透测试中的工具审批 : 发起请求前,核对目标资产与完整工具参数是否符合本次授权;

  • • 漏洞验证中的操作约束 : 区分最小验证证据与批量导出、修改、持久化等额外操作;

  • • 自动化流程中的审批分流 : 结合权限规则,由执行器选择继续执行、阻断或人工审批。

For Future

Jev带来的价值不是再增加一个规则引擎,而是把通识知识、上下文理解和类型化判断引入执行链。模型读取当前状态、待判断的问题和候选标准,输出候选判断,而不是泛化地生成一段答案。

因此我们对Facader-X系列模型的期待也远不止于安全护栏,这只是我们用于补全网络攻击能力工业化最后一公里的一环,而非全部。

在这里我们也提出一个护栏翻转的概念,也是我们未来的进化方向, 例如:

场景

防守侧

进攻侧

有价值信息检测(隐私/Key)

阻断,脱敏敏感信息

快速检索有价值信息

OPSEC

识别行为是否不符合OPSEC规范

提供OPSEC规范建议

指纹识别

覆盖边界指纹,版本, 需修复的信息

提供攻击建议

我们已经在进行了更多的实验,去设计下一代Facader模型,下一代模型不再只是一个更强的护栏模型,而是覆盖各种网络安全场景的决策模型,构建黑客的System One Model。

此外,在Harness层面我们打破了ReAct Loop, 将Decision引入到最底层的设计中,可以期待我们在TCH3上的技术演讲: 从Prediction到Reflex_ 构建 Model × Harness 的自进化执行系统。

跳转微信打开

本文转载自微信公众号「ChainReactor」,查看原文。版权归原作者所有,如有侵权请联系删除。