[AI安全论文] (55)NDSS26 WebSpotter:Web攻击恶意载荷定位与可解释攻击检测

· 2026-11-20 16:19 · 2 阅读

原创 LJZ&Eastmount 2026-11-20 16:19 贵州

Web攻击恶意载荷定位与解释,希望您喜欢!

“欢迎大家关注Eastmount的安全星球 —— 『网络攻防和AI安全之家』。《娜璋带你读论文》系列主要是督促自己阅读优秀论文及听取学术讲座,并分享给大家,希望您喜欢。由于作者的英文水平和学术能力不高,需要不断提升,所以还请大家批评指正,非常欢迎大家给我留言评论,学术路上期待与您前行。

”

近年来,深度学习在Web攻击检测中取得了不错的效果,但安全运营人员面对一个“恶意”的模型输出时,往往仍然需要追问:究竟是HTTP请求中的哪个字段触发了告警?真正的恶意载荷位于哪里?能否据此形成可用于防护的规则?

这篇文章将笔记围绕NDSS 2026论文 WebSpotter展开,WebSpotter并非一种独立替代现有检测器的全新攻击分类模型,而是建立在已有深度学习检测器之上的恶意载荷定位与解释框架。它将解释粒度从模型内部的特征维度推进到HTTP协议层面的字段或语义单元,并进一步连接WAF规则辅助生成。注意,由于我们团队还在不断成长和学习中,写得不好的地方还请海涵,未来希望能多读多分享,这些大佬真值得我们学习。fighting!

文章目录

    • 一.摘要

    • 二.研究背景

      • 三.WebSpotter框架

    • 四.WebSpotter方法设计

      • 1. 嵌入归因

      • 2. HTTP结构对齐

      • 3.两阶段具体流程

      • 4. 恶意载荷定位

    • 五.生成WAF规则

    • 六.实验评估

      • 1. 数据集

      • 2. 恶意载荷定位性能

      • 3. 消融实验

      • 4. 数据投毒下的鲁棒性

      • 5. 真实世界攻击评估

      • 6. 与大语言模型的比较

      • 7. WAF规则生成的有效性

    • 七.总结

    • 八.未来展望

    在这里插入图片描述

        论文题目:Achieving Interpretable DL-based Web Attack Detection through Malicious Payload Localization
        会议:NDSS 2026
        作者:Peiyang Li、Fukun Mei、Ye Wang、Zhuotao Liu、Ke Xu、Chao Shen、Qian Wang、Qi Li
        研究团队:清华大学等单位
        论文 DOI:https://doi.org/10.14722/ndss.2026.231029
        开源代码:https://github.com/Sec-AI-research/WebSpotter
        关键词:Web攻击检测、可解释人工智能、恶意载荷定位、HTTP语义单元、特征归因、WAF规则生成笔记作者:贵州大学 吕锦中 杨秀璋


        一.摘要

        Web攻击对Web应用构成了严重威胁。尽管基于深度学习的检测系统已成为Web攻击检测的一种有效技术途径,但其缺乏可解释性的问题限制了这些系统在实际生产环境中的部署。现有可解释性方法忽略了HTTP请求的结构信息,难以对Web攻击进行有效解释。这些方法通常仅识别对模型预测具有重要影响的特征,而这些特征往往难以被安全运营人员理解,也无法为其制定有效的攻击响应措施提供指导。

        本文提出了一种名为WebSpotter的新型框架,通过定位HTTP请求中的恶意载荷,实现可解释的Web攻击检测,从而增强现有基于深度学习的检测方法。该方法基于以下观察:恶意载荷通常对检测模型的预测结果具有显著影响。WebSpotter首先评估HTTP请求中各字段的重要性,随后利用机器学习模型学习字段重要性与恶意载荷存在位置之间的关联。此外,本文还展示了如何利用WebSpotter自动生成Web应用防火墙(Web Application Firewall,WAF)规则,以辅助安全运营人员防御攻击。在两个公开数据集及一个新构建数据集上的大量实验表明,WebSpotter显著优于现有方法,相较于基线方法,其恶意载荷定位准确性至少提升了22%。本文还基于从公开漏洞(CVE)及真实Web应用中收集的实际攻击样本开展评估,进一步验证了WebSpotter在实际应用场景中的有效性。


        二.研究背景

        Web攻击主要针对部署于服务器端的Web应用,攻击者通过在HTTP请求的特定字段中注入恶意载荷,利用应用程序漏洞实施攻击,典型攻击方式包括SQL注入和跨站脚本攻击(Cross-Site Scripting,XSS)。图1展示了CSIC数据集中的一个SQL注入攻击示例。

        在这里插入图片描述

        尽管深度学习模型的可解释性研究已取得较多进展,但现有方法通常侧重于分析模型内部数值特征的重要性,缺乏对HTTP请求结构信息的有效利用。HTTP请求具有明确的协议结构,包含请求方法、URL路径、查询参数及请求体等语义字段。忽略这些结构信息,难以将模型的预测依据与具体攻击载荷建立直接关联,从而限制了检测结果的可解释性。

        针对上述问题,本文提出WebSpotter,通过定位HTTP请求中的恶意载荷实现深度学习Web攻击检测的可解释性。例如,对于图1所示的攻击请求,该方法能够识别恶意载荷所在的请求体字段,即password参数,从而为安全分析人员理解攻击行为及制定针对性防御策略提供依据。

        本文提出了一种可解释的Web攻击检测框架WebSpotter,通过定位HTTP请求中的恶意载荷,增强现有深度学习检测模型的可解释性,使安全运营人员能够准确识别攻击位置、理解攻击行为,并制定针对性的防御策略。本文的主要贡献包括以下四个方面:

        • 提出可解释的Web攻击检测框架。 设计了WebSpotter,通过定位HTTP请求中的恶意载荷实现检测结果的可解释性。该框架利用基于梯度的归因方法计算HTTP请求中各字段的重要性,并结合轻量级机器学习模型实现恶意载荷的精准定位。

        • 构建新的Web攻击检测数据集。 构建了FPAD数据集,与现有公开数据集相比,该数据集具有三个特点:(1)涵盖较新的Web攻击技术;(2)提供恶意载荷的精确位置标注;(3)包含额外的分布外(Out-of-Distribution,OOD)测试集,为评估模型对未知攻击的泛化能力提供支持。

        • 开展全面的实验评估。 在两个公开数据集及新构建的FPAD数据集上开展对比实验,验证了WebSpotter在恶意载荷定位方面的性能优势。同时,利用公开漏洞(CVE)及真实Web应用中的攻击样本进行测试,进一步验证了该方法在实际攻击场景中的有效性。

        • 实现基于定位结果的WAF规则自动生成。 提出了一种利用恶意载荷定位结果自动生成Web应用防火墙(WAF)规则的方法,为安全运营人员提供攻击响应支持。基于Coraza WAF的实验结果表明,在FPAD数据集上,生成的规则使攻击检测召回率由0.742提升至0.934,相对提高约26%,有效增强了WAF对攻击行为的检测能力。


        三.WebSpotter框架

        为实现HTTP请求中恶意载荷的精确定位,本文首先引入**最小语义单元(Minimal Semantic Unit,MSU)**的概念,并在此基础上构建WebSpotter框架,将深度学习模型的预测结果与HTTP请求的具体语义字段建立关联,实现可解释的Web攻击检测。

        定义1(最小语义单元,MSU)。 根据HTTP协议规范,将HTTP请求划分为若干具有独立语义的基本单元,每个单元表示一段不可再分的语义信息,具体包括:

        • (1)请求方法:将HTTP请求方法视为一个独立单元。

        • (2)URL字段:将URL中的每个路径段和查询参数分别视为独立单元。

        • (3)请求头:将每个HTTP请求头字段视为独立单元。

        • (4)请求体:对于采用键值对结构或能够转换为键值对结构的请求体,将每个键值对视为独立单元。

        如图2所示,WebSpotter主要由嵌入归因、HTTP结构对齐和恶意载荷定位三个模块组成,具体如下:

        在这里插入图片描述

        (1)嵌入归因(Embedding Attribution):基于已有深度学习Web攻击检测模型,利用梯度分析计算各嵌入特征对模型预测结果的重要性,并通过线性插值缓解局部梯度噪声的影响,为后续恶意载荷定位提供特征归因依据。

        (2)HTTP结构对齐(HTTP-Structure Alignment):通过两阶段聚合,将嵌入特征的重要性映射至HTTP请求的MSU。首先,将不同嵌入维度的重要性聚合为Token级重要性分数;随后,利用留一法识别Token与MSU之间的对应关系,进一步计算各MSU的重要性分数,实现从模型特征空间到HTTP协议语义空间的映射。

        (3)恶意载荷定位(Malicious Payload Localization):融合MSU的重要性分数与文本语义特征,构建面向恶意载荷定位的联合特征表示,并利用少量具有位置标注的攻击请求训练轻量级随机森林分类模型,判断各MSU是否包含恶意载荷,从而实现精确定位。

        总体而言,WebSpotter并非替代现有Web攻击检测模型,而是在已有检测结果的基础上,通过 “嵌入归因—结构对齐—载荷定位” 的处理流程,将模型预测依据映射到具体HTTP语义字段,使安全运营人员不仅能够判断请求是否存在攻击行为,还能够识别恶意载荷的具体位置,为后续攻击分析与WAF规则生成提供支持。


        四.WebSpotter方法设计

        WebSpotter旨在将深度学习检测模型的预测依据映射至HTTP请求中的具体语义字段,以识别包含恶意载荷的最小语义单元(MSU)。其核心方法包括嵌入归因、HTTP结构对齐和恶意载荷定位三个阶段。

        1. 嵌入归因

        嵌入归因模块旨在量化HTTP请求中各嵌入特征对深度学习检测模型预测结果的影响,为后续恶意载荷定位提供重要性信息。

        首先,将原始HTTP请求输入已训练的Web攻击检测模型,获取Token序列、嵌入矩阵及预测结果。随后,通过反向传播计算模型预测结果相对于各嵌入维度的梯度,衡量不同特征对预测结果的贡献。

        然而,直接采用单点梯度容易受到局部梯度噪声及梯度饱和问题的影响。为此,WebSpotter借鉴积分梯度(Integrated Gradients)的思想,在原始请求嵌入与零嵌入基线之间进行线性插值,并对多个插值点的梯度求平均。

        具体而言,第 (i) 个Token的第 (j) 维嵌入重要性定义为:

        在这里插入图片描述

        其中,fθ 表示已有检测模型,Ÿ 表示预测标签,∂e 表示输入嵌入矩阵,m 为插值点数量。通过聚合不同插值点的梯度信息,可以减轻局部梯度噪声的影响,提高特征重要性估计的稳定性。

        2. HTTP结构对齐

        嵌入归因获得的是模型特征空间中的重要性分数,无法直接反映恶意载荷在HTTP请求中的具体位置。因此,WebSpotter设计了两阶段聚合机制,将嵌入重要性逐步映射至HTTP最小语义单元,包括Token级聚合和协议级聚合。

        (1)Token级聚合
        该阶段旨在将不同嵌入维度的重要性聚合为每个Token的重要性分数。直接采用平均或求和的方法可能忽略不同嵌入维度的特征尺度及语义差异,因此论文利用链式法则,将词嵌入查找操作表示为嵌入矩阵与独热编码向量之间的乘积,从而计算Token的重要性。具体计算公式为:

        在这里插入图片描述

        (2)协议级聚合
        该阶段旨在建立Token与HTTP最小语义单元之间的对应关系,并进一步计算各MSU的重要性。

        首先,WebSpotter采用留一法(Leave-One-Out)识别每个MSU所包含的Token。具体而言,依次从完整HTTP请求中移除一个MSU,并对移除前后的请求执行相同的预处理操作,通过比较Token序列的差异,确定该MSU对应的Token集合。这种方法能够适用于依赖完整请求上下文的预处理机制。

        随后,将属于同一MSU的Token重要性分数进行求和,得到该MSU的重要性:

        在这里插入图片描述

        采用求和策略的依据在于:根据论文观察,正常MSU中的Token重要性大致围绕零分布,而包含恶意载荷的MSU通常具有多个重要性较高的Token。通过累加Token重要性,能够增强正常与恶意MSU之间的区分程度。

        如图3所示,正常与恶意MSU对应的Token重要性分布存在明显差异,表明重要性特征能够为恶意载荷定位提供有效依据。

        在这里插入图片描述


        3.两阶段具体流程

        综合上述过程,WebSpotter首先利用梯度归因计算嵌入重要性,再通过Token级聚合获得各Token的重要性分数,最后结合留一法建立Token与MSU之间的对应关系,将Token重要性聚合为MSU重要性。

        由此,实现从嵌入特征空间到Token表示,再到HTTP协议语义单元的逐级映射,为后续恶意载荷定位提供结构化的重要性特征。

        在这里插入图片描述

        4. 恶意载荷定位

        恶意载荷定位模块利用前述MSU重要性分数,进一步判断HTTP请求中哪些语义单元包含恶意载荷。

        需要注意的是,重要性分数较高并不意味着对应MSU一定包含恶意内容。由于深度学习模型可能学习到与攻击行为无关的虚假相关性,直接依据重要性阈值进行定位容易产生误判。因此,WebSpotter进一步融合MSU的重要性与文本语义信息,训练轻量级机器学习模型,实现恶意载荷的精确定位。

        (1)构建位置特征

        WebSpotter从两个维度构建MSU的位置特征:

        • 重要性特征(Importance Features):包括目标MSU自身的重要性分数及其兄弟MSU的重要性分数。其中,兄弟MSU指同一HTTP请求中的其他语义单元。具体而言,将目标MSU的重要性分数置于首位,其余MSU的重要性分数按降序排列,并根据预设维度进行截断或补零,以构建固定长度的特征向量。

        • 文本语义特征(Textual Features):使用Nomic-embed句子嵌入模型提取MSU的语义表示。该模型结合对比学习与Matryoshka表示学习,能够生成具有可调整维度的文本嵌入特征。

        最后,将重要性特征与文本语义特征拼接,形成用于恶意载荷定位的联合特征表示。算法1展示了位置特征的具体构建过程。

        在这里插入图片描述

        (2)训练定位模型

        WebSpotter将恶意载荷定位建模为MSU级二分类任务,采用随机森林(Random Forest)作为轻量级定位模型,输入各MSU的联合位置特征,输出对应的二元分类结果:0表示不包含恶意载荷,1表示包含恶意载荷。

        训练过程中,首先利用少量具有位置标注的攻击请求构建训练数据,为每个MSU提取位置特征并分配对应标签。考虑到正常MSU数量通常显著高于恶意MSU,论文采用欠采样策略平衡两类样本,随后使用平衡后的训练集训练随机森林模型。具体过程如算法2所示。

        在这里插入图片描述

        (3)恶意载荷定位流程

        在实际定位阶段,WebSpotter首先将待分析HTTP请求划分为多个MSU,利用嵌入归因和HTTP结构对齐模块计算各MSU的重要性分数;随后提取其文本语义特征,并构建联合位置特征;最后将这些特征输入训练完成的随机森林模型,预测各MSU是否包含恶意载荷。

        在这里插入图片描述

        综上,WebSpotter通过**“梯度归因—HTTP结构对齐—语义融合定位”**的技术流程,将深度学习模型的特征重要性转化为具有明确协议语义的恶意载荷定位结果。其关键优势在于不仅关注哪些特征影响模型预测,还能够进一步识别恶意载荷所在的具体HTTP字段,从而提高Web攻击检测结果的可解释性。


        五.生成WAF规则

        为进一步验证WebSpotter在实际安全防御中的应用价值,本文提出一种基于恶意载荷定位结果的Web应用防火墙(Web Application Firewall,WAF)规则自动生成方法。需要指出的是,生成的规则并非直接部署至WAF,而是作为安全运营人员制定和优化防御规则的参考,以辅助识别现有WAF未能覆盖的攻击模式。

        本文采用SecLang作为WAF规则描述语言,其具有较好的通用性,能够兼容ModSecurity、Coraza等多种WAF引擎。SecLang规则主要由匹配范围(Variable)、匹配条件(Operator)和执行动作(Action)三个部分组成。本文重点研究前两部分的自动生成,具体包括以下两个阶段。

        (1)恶意载荷聚类(Payload Clustering)。 首先,利用WebSpotter提取HTTP请求中包含恶意载荷的MSU,并基于文本相似性对其进行聚类。具体而言,采用层次聚类思想,以编辑距离衡量不同载荷之间的相似程度,通过迭代合并相似载荷形成攻击模式簇。聚类过程中,设置以下约束:

        • 相似性度量:采用编辑距离计算不同载荷之间的文本差异。

        • 合并约束:当两个簇代表载荷的编辑距离超过二者总长度的25%时,不再合并。

        • 代表元更新:合并后,选择与簇内其他载荷平均编辑距离最小的样本作为新的代表元。

        通过上述过程,可将具有相似攻击模式的恶意载荷归入同一簇,为提取具有泛化能力的检测规则提供基础。

        (2)WAF规则生成(Rule Generation)。 针对每个恶意载荷簇,分别确定规则的匹配范围和匹配条件。

        首先,根据簇内恶意载荷对应的HTTP字段确定SecLang规则的匹配范围。例如,使用REQUEST_FILENAME匹配请求路径,ARGS_GET匹配URL查询参数,REQUEST_HEADERS匹配请求头,ARGS_POST匹配请求体参数。当同一簇中的载荷均位于特定参数时,可进一步限定具体参数名称,提高规则匹配的针对性。

        随后,提取簇内恶意载荷的最长公共子序列(Longest Common Subsequence,LCS),根据不同载荷之间的差异将其划分为若干公共片段,并使用正则表达式中的通配模式连接这些片段,形成能够识别同类攻击变体的匹配条件。

        通过“恶意载荷聚类—共同模式提取—SecLang规则生成”的处理流程,WebSpotter能够从单个恶意载荷的定位结果中归纳具有共性的攻击特征,生成适用于同类攻击检测的候选WAF规则,而非仅针对特定请求进行精确匹配。

        在这里插入图片描述

        图4展示了WebSpotter如何将定位得到的恶意载荷划分为不同簇,并依据载荷所在字段及公共字符串模式生成相应的SecLang规则。对于具有相似特征的SQL注入和XSS载荷,该方法能够分别确定匹配范围和正则表达式,为WAF规则扩展提供支持。

        在这里插入图片描述

        总体而言,该方法将恶意载荷定位结果进一步转化为可操作的防御规则,实现了从攻击检测、载荷定位到辅助防御的功能拓展。但自动生成的规则仍可能引入误报,因此需要经过安全运营人员审核与验证后才能部署。


        六.实验评估

        为验证WebSpotter在恶意载荷定位方面的有效性,论文从定位性能、模块消融、数据投毒鲁棒性、真实攻击场景、与大语言模型的比较以及WAF规则生成等方面开展了系统实验。

        1. 数据集

        本文使用两个公开Web攻击数据集和一个新构建的数据集进行实验,并进一步引入CVE攻击样本及真实Web应用流量,以评估WebSpotter的泛化能力与实际应用效果。

        • CSIC数据集:采集自电子商务Web应用,包含正常和恶意HTTP请求。原始数据集不包含恶意载荷的位置标签,本文通过人工标注补充了相关信息。

        • PKDD数据集:采集自真实Web流量,包含正常请求及多种Web攻击类型,是作者所知少数公开提供恶意载荷位置标签的数据集。

        • FPAD数据集:本文新构建的Fusion Payload Web Attack Detection数据集,涵盖SQL注入、XSS及Log4j2漏洞利用等攻击技术,并提供精确的恶意载荷位置标签。

        • FPAD-OOD数据集:FPAD的分布外(Out-of-Distribution,OOD)测试集,包含训练阶段未出现的攻击模式,用于评估模型对未知攻击的泛化能力。

        • CVE数据集:收集2021—2024年公开披露的750余个漏洞利用样本,用于验证模型面对真实漏洞利用请求时的定位效果。

        • G1与G2数据集:来自国内某大型互联网服务提供商云平台的两个电子政务Web应用,包含真实运行环境中的HTTP攻击请求,用于评估WebSpotter的实际应用能力。

        论文附录表VII给出了四个主要评测数据集的规模。

        在这里插入图片描述

        需要注意,FPAD-OOD仅用于测试,其定位模型使用FPAD的训练数据构建,以检验对未见攻击模式的适应能力。

        在实验配置方面,论文采用TextCNN作为基础Web攻击检测模型,并使用Precision、Recall、F1-score和Jaccard Index评价恶意载荷定位性能。对比方法包括LTD、SSD、REG和CLS,所有实验采用不同随机种子重复运行三次,并报告平均结果。

        2. 恶意载荷定位性能

        (1)1%位置标注条件下的定位性能
        为评估有限标注条件下的定位能力,论文仅使用训练集中1%的攻击请求进行恶意载荷位置标注,并据此训练定位模型。实验结果见表Ⅰ。

        在这里插入图片描述

        实验结果表明,WebSpotter在四个数据集上的F1值均达到0.97以上,相较于各数据集上的最优基线,其F1值和Jaccard指数分别取得至少16.3%和22.2%的相对提升。

        例如,在FPAD数据集上,WebSpotter的F1值达到0.988,高于最优基线CLS的0.828。同时,在FPAD-OOD数据集上仍取得0.970的F1值,表明该方法对未见攻击模式具有较好的泛化能力。

        (2)100%位置标注条件下的定位性能
        进一步地,论文使用全部位置标注攻击请求训练定位模型,以验证WebSpotter在标注数据充足时的性能表现。实验结果见表Ⅱ。

        在100%标注条件下,WebSpotter在CSIC、PKDD、FPAD及FPAD-OOD上的F1值分别达到0.982、0.991、0.997和0.988,均优于对比方法,说明其性能优势并非仅来源于有限标注条件。

        对比不同基线可以发现,随着标注比例增加,LTD的定位性能明显提升,但由于该方法依赖候选区域进行定位,容易将恶意字段周围的正常字段一并识别为恶意区域。如图5所示,LTD将相邻的正常ntc参数错误地识别为恶意载荷,反映出缺乏HTTP语义结构约束可能导致定位偏差。

        在这里插入图片描述

        (3)重要性特征的有效性
        WebSpotter与CLS的重要区别在于,CLS仅利用MSU的文本语义进行分类,而WebSpotter进一步引入检测模型的特征重要性信息。

        为验证这一设计,论文从FPAD数据集中抽取部分攻击请求,利用主成分分析(PCA)分别将文本语义特征和重要性特征投影至二维空间。

        如图6所示,正常与恶意MSU的文本语义特征存在较明显的分布重叠,而重要性特征能够形成更加清晰的类别边界。这说明检测模型的预测归因信息可为恶意载荷定位提供额外的判别依据。

        在这里插入图片描述

        (4)不同标注开销下的定位性能
        论文进一步将位置标注比例设置为0.5%、1%、10%、50%和100%,比较不同方法的定位性能变化。图7表明,随着标注比例增加,各基线方法的F1值总体呈上升趋势,但WebSpotter在不同标注条件下均保持较高的定位性能。

        这一结果表明,通过融合模型重要性与HTTP字段语义,WebSpotter能够有效降低恶意载荷位置标注的需求,具有较高的数据利用效率。


        3. 消融实验

        为验证各模块设计的有效性,论文通过替换或移除WebSpotter中的关键组件,构建多种模型变体,并在四个数据集上开展消融实验,结果见表Ⅲ。

        首先,在嵌入归因模块中,论文分别采用CADE、SHAP、LEMNA及普通梯度(Vanilla Gradients)替换原有归因方法。实验结果表明,原始WebSpotter整体表现更优。例如,在CSIC数据集上,采用SHAP时F1值下降至0.537,而原始方法达到0.972,体现了线性插值梯度归因方法在该实验设置下的优势。

        其次,在HTTP结构对齐模块中,论文将两阶段聚合替换为直接求和及FINER聚合策略。实验表明,两阶段聚合能够更有效地实现从嵌入重要性到MSU重要性的映射。

        最后,在恶意载荷定位模块中,论文分别移除文本语义特征和独立定位模型。实验结果表明,两种改动均会降低定位性能。

        上述结果表明,梯度归因、两阶段结构对齐及联合特征定位均对模型性能具有积极作用。其中,文本语义特征与重要性特征的互补,是降低虚假相关性影响、提高恶意载荷定位准确率的重要因素。


        4. 数据投毒下的鲁棒性

        为评估WebSpotter在训练数据受到污染时的稳定性,论文分别针对检测模型和定位模型设计数据投毒实验,并将投毒比例设置为0.1%、1%、5%和10%。

        其中,检测模型投毒通过修改训练请求的类别标签实施,定位模型投毒则通过将恶意载荷位置标签错误分配至随机MSU实现。同时,实验分别考察1%和100%位置标注条件下的定位性能变化。

        如图8所示,在大多数实验条件下,WebSpotter的定位性能仅出现有限下降,表现出一定的抗投毒能力。但在PKDD数据集上,当位置标注比例较低且检测模型受到较高比例投毒时,模型性能下降较为明显。

        在这里插入图片描述

        实验说明,WebSpotter能够在一定程度上缓解训练数据污染带来的影响,但其鲁棒性仍受到数据集特征、投毒对象及标注规模等因素制约。


        5. 真实世界攻击评估

        为进一步验证WebSpotter的实际应用能力,论文基于公开CVE漏洞利用样本以及真实Web应用流量开展评估。

        (1)基于CVE漏洞利用的评估
        论文收集2021—2024年公开披露的750余个漏洞利用样本,并人工标注其中恶意载荷的位置。其中,2021年的CVE攻击样本用于补充训练数据,2022—2024年的攻击样本用于测试,以模拟模型面对后续未知漏洞利用模式的情况。

        表Ⅳ表明,在1%和100%位置标注条件下,WebSpotter的定位F1值分别达到0.868和0.891,均优于各基线方法。这说明该方法在面对具有不同漏洞利用特征的真实攻击请求时,仍能够有效定位恶意载荷。

        在这里插入图片描述

        (2)基于真实Web应用的评估

        论文进一步与国内某大型互联网服务提供商合作,收集两个电子政务Web应用G1和G2的真实HTTP请求,并由安全专家标注其中的攻击请求及恶意载荷位置。

        实验将初始阶段收集的攻击请求与FPAD训练集结合,用于模型训练,其余请求用于测试,以验证WebSpotter面对真实业务流量时的检测和定位能力。

        在这里插入图片描述


        6. 与大语言模型的比较

        考虑到大语言模型在代码理解与网络安全分析中的应用潜力,论文进一步评估其能否完成HTTP请求中的恶意载荷定位任务。

        实验选择GPT-4o-mini、Qwen2-72B和LLaMA3-70B等模型,并通过提示词和上下文示例引导模型判断各MSU是否包含恶意载荷,以比较其定位性能。

        如图9所示,WebSpotter在四个数据集上取得了更优的整体定位性能。其中,GPT-4o-mini在FPAD及FPAD-OOD数据集上的表现较为接近WebSpotter,但在CSIC和PKDD等数据集上,大语言模型的定位性能明显下降。

        在这里插入图片描述

        论文认为,这主要与大语言模型对非注入类Web攻击的理解不足,以及缺乏特定Web应用正常请求模式的知识有关。

        此外,WebSpotter在推理效率方面具有明显优势。在FPAD数据集上,WebSpotter处理单条请求平均耗时0.1011秒,而Qwen2-72B和LLaMA3-70B分别需要12.3907秒和15.8604秒。

        这一实验表明,在本文所评估的模型和设置下,专门设计的结构感知定位方法在准确性与计算效率方面均具有优势,为深度学习方法与通用大语言模型在网络安全任务中的适用性比较提供了参考。


        7. WAF规则生成的有效性

        为验证WebSpotter定位结果对实际防御的支持作用,论文进一步评估基于恶意载荷定位自动生成WAF规则的效果。

        实验采用开源Coraza WAF,并配置OWASP Core Rule Set(CRS)作为基础规则集。首先,分别利用机器学习模型和WAF检测攻击请求;随后,针对机器学习模型能够识别但WAF遗漏的攻击请求,利用WebSpotter定位恶意载荷,并生成新的SecLang规则;最后,将生成的规则加入WAF规则集,比较其前后的检测性能。

        在这里插入图片描述

        实验结果表明,基于恶意载荷定位生成的WAF规则能够有效提升攻击检测能力。其中,在FPAD数据集上,召回率由0.742提升至0.934,相对提高约25.9%;在G1数据集上,召回率由0.358提升至0.983,提升尤为明显。

        WebSpotter生成的规则更适合作为安全运营人员优化WAF策略的初始参考,而非直接用于自动化部署。该实验进一步证明,恶意载荷定位不仅能够增强检测结果的可解释性,还能够为防御规则生成提供有效支持。


        七.总结

        本文提出WebSpotter,通过恶意载荷定位实现可解释的Web攻击检测。其核心思想是将深度学习模型的特征重要性映射至HTTP最小语义单元(MSU),通过嵌入归因、HTTP结构对齐和轻量级定位模型,识别恶意载荷的具体位置,并进一步辅助生成WAF防御规则。

        实验结果表明,在仅使用1%位置标注数据的条件下,WebSpotter在四个评测数据集上的定位F1值达到0.970~0.988,相较于最优基线至少提升16.3%,同时在真实攻击场景中表现出较好的定位能力。

        本文的重要启示在于,可解释性不仅需要说明哪些特征影响模型预测,更需要将解释结果关联到具有明确语义的攻击对象,从而为安全分析和防御决策提供直接支持。

        尽管WebSpotter取得了较好的实验效果,但仍存在以下局限:

        • 白盒模型依赖

          梯度归因需要访问检测模型内部信息,在黑盒场景中的应用受到限制。

        • 协议适应性不足

          主要面向结构化HTTP字段,对复杂请求体、二进制载荷及协议解析差异的处理能力有限。

        • 定位可靠性问题

          特征重要性可能受到模型偏差和虚假相关性的影响,仍存在恶意载荷误定位风险。

        • 防御规则误报

          自动生成WAF规则可能引入误报,仍需人工审核后部署。

        • 数据集代表性有限

          部分数据集年代较早,复杂现代Web应用及新型攻击场景下的泛化能力仍需验证。

        总体而言,WebSpotter为Web攻击检测提供了从模型预测、恶意载荷定位到辅助防御的可解释分析思路。未来可进一步研究复杂协议适配、黑盒归因与可信规则生成,提高其在真实网络环境中的适用性。


        八.未来展望

        结合WebSpotter的方法设计、实验结果及实际Web安全防御需求,未来可以从以下四个方向进一步优化。

        (1) 方向一:面向复杂HTTP请求的细粒度恶意载荷定位
        WebSpotter以最小语义单元(MSU)为定位对象,能够识别包含恶意载荷的HTTP字段,但难以进一步确定字段内部的具体恶意片段。同时,复杂编码、嵌套请求体及不同服务器的解析差异可能影响定位结果。未来可研究融合HTTP协议解析与Token级归因的层次化定位方法,实现从HTTP字段到恶意字符串的逐级定位,并通过字节级定位准确率和复杂编码攻击测试验证其有效性。

        (2)方向二:面向黑盒检测模型的通用恶意载荷定位
        WebSpotter主要依赖检测模型的梯度信息计算字段重要性,因此在无法访问模型内部参数的商业WAF或云端检测服务中存在应用限制。未来可探索基于输入扰动、代理模型和知识蒸馏的模型无关归因方法,仅利用检测模型的输入输出信息估计MSU重要性,并研究不同检测模型之间的归因迁移能力,提高恶意载荷定位框架的通用性与部署灵活性。

        (3)方向三:面向多阶段Web攻击的关联定位与解释
        WebSpotter主要针对单条HTTP请求进行恶意载荷定位,但实际攻击往往涉及多次请求之间的协同,例如身份探测、漏洞利用和权限提升等连续行为。未来可在MSU定位结果的基础上,引入请求时序关系、会话上下文和攻击行为关联机制,建立从单请求恶意字段定位到多请求攻击链分析的层次化解释框架,进一步提升对复杂攻击过程的识别与解释能力。

        (4)方向四:面向低误报的WAF规则自动生成
        WebSpotter能够利用恶意载荷定位结果生成WAF规则,但定位误差可能进一步引入规则误报,仍需人工审核。未来可研究融合定位置信度、规则冲突检测与历史流量回放的可信规则生成方法,并结合大语言模型辅助分析规则语义、识别潜在误报和优化匹配条件,构建规则生成、验证与反馈优化的闭环机制,提高自动生成规则的准确性与实际部署可靠性。

        总体而言,WebSpotter的研究价值不仅在于提高恶意载荷定位精度,更在于将深度学习模型的预测依据转化为具有明确语义的安全证据。未来通过增强定位精细度、模型通用性、攻击关联能力与防御可靠性,有望进一步推动可解释Web攻击检测向实际安全运营场景发展。

        『网络攻防和AI安全之家』目前收到了很多博友、朋友和老师的支持和点赞,并且保持每周七次更新,尤其是一些看了我文章多年的老粉,购买来感谢,真的很感动,类目。未来,我将分享更多高质量文章,更多安全干货,真心帮助到大家。虽然起步晚,但贵在坚持,像十多年如一日的博客分享那样,脚踏实地,只争朝夕。继续加油,再次感谢!尤其是一些看了我文章多年的老粉,购买来感谢,真的很感动,类目。未来,我将分享更多高质量文章,更多安全干货,真心帮助到大家。虽然起步晚,但贵在坚持,像十多年如一日的博客分享那样,脚踏实地,只争朝夕。继续加油,再次感谢!

        (By:Eastmount 2026-11-20 周五夜于贵阳)

        跳转微信打开

        本文转载自微信公众号「娜璋AI安全之家」,查看原文。版权归原作者所有,如有侵权请联系删除。