活动回顾 | 第四期复旦白泽青年学者论坛
原创 复旦白泽战队 2026-10-31 13:21 上海
本次论坛由杨哲慜老师主持。
白泽在读博士生钟康维、邱虎鸣作专题报告。
01
钟康维进行专题报告
首先，钟康维进行了题为《客户端智能体的安全风险与挑战》的报告，围绕客户端智能体的安全问题，首先介绍人工智能交互范式的演进、客户端智能体类型、技术架构以及典型安全威胁如杜鹃鸟攻击。随后介绍了团队面向代码开发智能体开展的工具调用协议混淆漏洞研究和权限审批绕过漏洞研究。
目前，相关工作已在多款主流智能体产品上发现漏洞，获得22个CVE编号，13个NVDB编号并得到OpenAI、Anthropic、Amazon、腾讯、字节跳动等厂商认可。
02
邱虎鸣进行专题报告
随后，邱虎鸣进行了题为《大模型时代的AIGC水印：鲁棒性评估与攻防分析》的报告。
首先介绍AIGC面临的真实风险和国内外相关政策演进，梳理AIGC水印领域相关工作与研究趋势，并分析水印面临的鲁棒性挑战。随后具体介绍了团队在内容水印去除攻击和保护性水印去除攻击方面的研究工作。相关工作对当前最先进的图像与文本水印实现了有效的去除攻击，揭示了现有水印机制的鲁棒性边界。
03
交流讨论环节
在交流讨论环节，现场师生围绕报告内容展开了深入而热烈的交流。针对工具调用协议混淆漏洞的成因机理与修复路径和权限审批机制绕过与防御，与会师生从协议设计缺陷以及工程修复实践等角度进行了多轮探讨。就AIGC水印的现有方法与商业应用，讨论延伸到水印在真实业务场景中的鲁棒性表现。从漏洞机理、分析方法到工程实践等多个角度展开了专业而深入的探讨。
供稿：孙同庆
排版：孙同庆
责编：董佳仪
审核：洪赓、王婧
复旦白泽战队
一个有情怀的安全团队
还没有关注复旦白泽战队？
公众号、小红书搜索：复旦白泽战队也能找到我们哦~
本文转载自微信公众号「复旦白泽战队」，查看原文。版权归原作者所有，如有侵权请联系删除。