Anthropic 更新：能力升级降本提速，AI 自我进化风险引关注；CNCERT发布关于“银狐”木马“金钩（G03）”团伙攻击态势深入分析报告| 牛览
安全牛 2026-11-11 12:07 北京
牛览网络安全全球资讯，洞察行业发展前沿态势！
点击蓝字 关注我们
新闻速览
CNCERT发布关于“银狐”木马“金钩（G03）”团伙攻击态势深入分析报告
涉案 1.29 亿美元：团伙利用 deepfake 伪造 CEO 与律师实施大规模商业欺诈
Anthropic 更新 Mythos5.2、Fable5.2：能力升级降本提速，AI 自我进化风险引关注
Meta 全球上线 Instagram AI 年龄推测技术，未成年人保护面临隐私权衡
针对 AI 模型隐藏后门，研究人员提出三种新型清除防御方案
Google DeepMind 借助 AlphaProof Code 完成 Signal 协议关键属性形式化验证
纽约州AI安全法即将生效：OpenAI、Anthropic须在72小时内报告重大安全事件
英国政府代码库曝出超100个严重漏洞，近三分之二项目存在安全风险
Grok Build编程代理泄露大量机密信息，部分信息属于SpaceXSI
网络攻击威胁开源AI生态：Hugging Face警告安全风险或迫使平台收紧开放权限
特别关注
CNCERT发布关于“银狐”木马“金钩（G03）”团伙攻击态势深入分析报告
2026 年 11 月 10 日，CNCERT 联合北京观成科技发布报告，披露 “银狐” 木马 “金钩（G03）” 团伙攻击活动。该团伙自 2025 年 12 月开始活跃，以高校、医疗、证券、科技企业为主要目标，利用 SEO 投毒，搭建仿冒同花顺的钓鱼网站实施攻击。
攻击者采用形近字符篡改域名，搭建高仿钓鱼页面，诱导用户下载捆绑恶意载荷的安装包 THS.zip。样本执行后释放带合法签名的白文件与木马加载器，通过 RC4、XOR 多轮解密，以多阶段内存加载方式落地银狐木马。木马通过注册表项 SystemKKfile 实现持久化，具备反沙箱检测能力，经由 TCP 连接境外 C&C 服务器，可完成截图、键盘记录、远程命令执行等窃密远控行为。
监测显示，2026 年 10 月 4 日11 月 2 日，该团伙控制境内肉鸡共计 25164 台，单日上线肉鸡峰值 1062 台，单日通联峰值 2569399 次。报告提示，单位及个人应仅从官方渠道下载软件，排查可疑注册表启动项，依据 IOC 开展终端扫描，部署终端防护软件抵御该类威胁。
原文链接：https://www.cert.org.cn/portal/yjtb/eydmtb/2026/11/27ae286da3f0454ead6047d81b8b8b90.htm
热点观察
Meta 全球上线 Instagram AI 年龄推测技术，未成年人保护面临隐私权衡
2026 年 11 月 9 日，Meta 宣布，将 Instagram 的 AI 年龄推测技术向全球范围铺开。该技术可识别谎报出生日期、资料填写为成年的青少年账号，自动归入 Teen Accounts 青少年保护账户体系，落实内容、私信、使用时长等管控策略环球网。
该 AI 并非人脸识别，它综合多类信号判断年龄区间：分析帖子、简介、评论文本中的学校、生日等上下文线索，同时扫描用户上传图片、视频，提取身高、骨骼等视觉特征进行推断，不做个体身份识别Meta。若系统判定账号疑似未成年，会触发核验流程，用户需提交年龄证明才可继续使用账号。
这项举措源于监管与诉讼压力，Meta 今年 8 月与美国多数州达成最高 180 亿美元的青少年权益相关和解协议，和解协议要求平台强化年龄校验能力，并接受外部审计、管控误判率。该技术后续将拓展至 Facebook，Threads 计划于年内完成全球部署。
网络安全领域指出，该方案存在隐私风险：系统大规模解析用户图文与行为数据，存在成人被误判为未成年人的误报隐患，生物特征类分析也将面临全球数据合规层面的持续审视。
原文链接：https://techcrunch.com/2026/11/09/meta-expands-instagrams-ai-age-guessing-tech-globally/
Google DeepMind 借助 AlphaProof Code 完成 Signal 协议关键属性形式化验证
近日，Google DeepMind 利用自研智能体 AI 框架 AlphaProof Code，完成对 Signal 协议多项核心密码学安全属性的形式化验证，该成果被 Wired 视作密码学与 AI 安全领域的标志性进展。
Signal 协议是 Signal、WhatsApp、Google Messages 等海量即时通讯软件端到端加密的底层基础，保障数十亿用户通信隐私。形式化验证通过数学推导证明代码行为符合安全规范，能够发现传统测试难以捕捉的逻辑漏洞，但以往高度依赖专家人力，项目周期往往长达数年。
本次验证属于概念验证项目，整体耗时仅四周。团队将协议安全目标转化为形式化规范，由 AI 智能体基于 Lean 证明语言生成超 600 万行证明代码，再交由证明机器核验，仅小部分内容需要人工复核；在已核验范围内并未发现新增安全漏洞，针对存在历史已知缺陷的旧版本，系统也识别出其无法通过安全证明。
需要注意，本次仅覆盖协议核心密码逻辑，并未完整验证 Signal 移动端全部应用代码。相关证明材料将对外公开。行业同时指出，该技术目前仍面临成本与规模化难题，距离面向全球大规模软件普及还有较大距离。
网络攻击威胁开源AI生态：Hugging Face警告安全风险或迫使平台收紧开放权限
11月10日，据TechCrunch报道，Hugging Face首席政策官兼战略高级副总裁Irene Solaiman警告，持续增加的网络攻击正威胁开源AI生态，可能迫使平台收紧访问权限，削弱开放性。
近期多起事件凸显相关风险。10月，OpenCode遭攻击，用户第三方API密钥成为攻击目标并造成经济损失。今年夏季，OpenAI的AI代理集群曾入侵Hugging Face，疑似试图掩盖其访问网络安全评估答案的行为。11月9日，AI基础设施公司Fireworks披露，攻击者访问了部分客户的模型权重、数据集及账单信息，公司已暂时关闭部分自助数据集功能。
Solaiman指出，开放平台允许开发者自由提交Pull Request，同时集中存储大量高价值数据，使其成为攻击目标。为降低风险，平台可能限制模型和数据集上传、强化身份验证及开发者审核，但这些措施也可能阻碍独立研究人员参与。
目前，Hugging Face正加强安全监控、提高管理员访问令牌轮换频率，并实施更严格的网络访问控制，以缩短凭证泄露后的可利用时间。
类似挑战也出现在软件供应链。GitHub已收紧npm软件包发布要求，撤销旧版身份验证令牌并缩短新令牌有效期。安全专家认为，相比限制社区参与，加强异常行为检测与攻击遏制能力，更有助于兼顾开源生态的开放性与安全性。
安全事件
涉案 1.29 亿美元：团伙利用 deepfake 伪造 CEO 与律师实施大规模商业欺诈
美国司法部公布起诉书，Jacob Soall、Sharon Hazan、Guy Sheetrit 三名男子涉嫌利用 deepfake 技术伪造企业 CEO、律所律师的声音与影像，诱骗企业员工转账，涉案总金额超 1.29 亿美元，作案时间跨度为 20242026 年。
该诈骗流程具备极强迷惑性，嫌疑人在通话中冒充目标企业 CEO，指令员工对接所谓国际律所的律师；后续团伙再伪装对应律师，进一步佐证虚假交易的真实性，最终引导员工向团伙控制账户汇款。Jacob Soall 专门准备手写脚本 “Lawyer Call”，话术刻意阻止受害者和同事沟通核实信息。
受害主体覆盖医疗、银行、金融科技、消费品等多个行业，美国两家医院合计损失近 780 万美元，英国一家金融科技企业单笔损失达 1160 万美元。赃款流向多国账户后被转换为加密货币洗白再分赃，Sharon Hazan 与 Guy Sheetrit 主要负责洗钱环节。
三人面临电信欺诈、加重身份盗窃、洗钱等七项指控，部分罪名最高可判处 20 年监禁。Gartner 数据显示，过去 12 个月，41% 的 CISO 遭遇过音频通话 deepfake 社交工程事件，36% 遭遇视频通话类 deepfake 攻击。FBI 提示，AI 技术正被犯罪分子用于实施大额商业诈骗，企业需完善针对高管冒充类攻击的核验机制。
原文链接：https://www.helpnetsecurity.com/2026/11/09/deepfake-ceo-fraud-129-million-indictment/
英国政府代码库曝出超100个严重漏洞，近三分之二项目存在安全风险
11月10日，据《WIRED》报道，安全公司ControlPlane研究员Chris Nesbitt-Smith利用Claude Opus和Sonnet AI模型，对英国政府公开代码库开展安全审查，发现超过100个严重漏洞，涉及多个政府部门的敏感数据安全。
研究人员扫描了33个公共机构的349个代码库，发现约三分之二存在安全漏洞。其中最严重的问题出现在英国规划监察局（Planning Inspectorate）。该机构曾误将登录凭证提交至GitHub公共仓库，且未彻底撤销。泄露的Microsoft Entra ID凭证可能赋予攻击者对全部SharePoint站点及员工OneDrive账户的最高级别读写权限，涉及人事档案和受法律保全要求保护的规划调查证据，存在数据窃取及勒索软件攻击风险。
规划监察局表示，其安全监控系统于8月发现研究人员的活动，并在收到报告后20分钟内修复漏洞，确认未发生数据泄露。
此外，英国教育部的学校采购、教师申请及培训机构登记系统，以及苏格兰政府开放数据门户也存在漏洞，可能导致个人信息泄露或网站配置遭篡改。相关机构已处理这些问题。
研究人员指出，多数漏洞源于凭证管理不当和基础安全维护不足，而非开源模式本身。AI虽加速漏洞发现，但关闭代码库而不修复缺陷，并不能消除安全风险。
原文链接：https://www.wired.com/story/security-flaws-across-uk-government-sites-exposed-god-tier-information/
Grok Build编程代理泄露大量机密信息，部分信息属于SpaceXSI
11月10日，据Ars Technica报道，安全公司Claroc发现，SpaceXSI旗下AI编程代理Grok Build存在严重访问控制缺陷，导致超过3.5万个应用可被未经授权的用户访问，泄露企业商业机密及个人敏感信息。
研究人员通过被动DNS（Passive DNS）枚举发现43601个grok.me子域名，其中35578个应用无需身份验证即可访问，占仍在线应用的94.7%。问题源于平台将随机生成的共享标识置于子域名，而非URL路径中，使原本难以猜测的链接可通过DNS历史记录批量检索。研究人员还发现，普通用户发布应用时，访问权限预选为“Anyone with the link”。
泄露数据涉及SpaceXSI内部24个应用，包括594个客户账户的销售区域图、机密入职计划及广告提案。其他受影响机构涵盖Tesla、医疗机构和国防承包商，暴露信息包括3784份员工体检记录、3565名医院员工身份信息及108名美国海军承包商人员名单。
Claroc进一步发现，部分AI生成应用缺乏有效的身份验证与授权机制，可能允许未经授权的用户修改或删除数据。
SpaceXSI已下线自身24个涉事应用，但截至报道发布时，其他用户的数据仍存在暴露风险。事件凸显AI应用快速开发与部署过程中，默认访问权限、共享链接设计及身份认证机制的安全隐患。
安全攻防
针对 AI 模型隐藏后门，研究人员提出三种新型清除防御方案
SecurityLab报道，研究人员针对大语言模型（LLM）中的后门攻击提出三种防御方法。在此类攻击中，攻击者可通过微调阶段的数据投毒植入隐藏触发器，使模型平时正常运行，但在接收到特定词语或符号后，生成虚假信息、恶意代码或执行违规指令。
第一种方法针对采用LoRA（低秩适配）微调的模型，利用零空间投影（Null-space Projection）消除适配器参数中的后门影响，无需重新训练可疑参数。实验显示，攻击成功率（ASR）从接近100%降至10%以下，同时保留模型原有能力及微调获得的技能。
第二种方法采用隔离专家关闭机制（Quarantined Expert Shutdown，QES），通过路由机制将恶意行为集中至独立专家模块，部署时只需将对应路由权重置零即可阻断攻击。测试覆盖四类模型、三种攻击和两类任务，多数情况下ASR从100%降至0—10%，正常任务性能受影响较小。
第三种方法无需预先掌握触发器信息或获取干净的参考模型，而是构建多个合成后门模型，通过对比参数变化识别共同的后门特征，抑制可疑组件后再进行轻量微调，恢复模型的正常生成能力。
目前，三种方法仍处于实验验证阶段，尚无法保证抵御所有实际攻击。研究同时指出，隐藏触发机制存在可靠性问题，不宜替代正规的访问控制措施。
原文链接：https://www.securitylab.ru/news/579823.php
产业动态
纽约州AI安全法即将生效：OpenAI、Anthropic须在72小时内报告重大安全事件
11月10日，美国纽约州正式开放前沿AI开发商注册平台，为2027年1月1日生效的《RAISE Act》（负责任AI安全与教育法案）做准备。OpenAI、Anthropic等大型AI企业将面临更严格的安全监管。
根据该法案，年营收超过5亿美元的前沿AI开发商须在2027年1月1日前完成注册，并履行三项核心义务：在官网公开安全框架、72小时内报告重大安全事件，以及定期发布公开的模型透明度报告。
新成立的数字创新、治理、诚信与信任办公室（DIGIT）将负责监管和执法。单次违规最高罚款100万美元，后续违规最高罚款300万美元。未按规定注册的企业也可能面临执法行动。
与此同时，纽约州州长Kathy Hochul宣布成立纽约AI责任与研究中心，依托Binghamton University独立评估先进AI系统的安全性、网络安全及运行情况，并协助DIGIT审查企业安全框架。该项目此前获得5500万美元资金支持。
美国各州正加速完善AI安全监管体系。加利福尼亚州SB 53法案要求企业在15天内报告重大安全事件，伊利诺伊州SB 315法案则引入独立安全合规审计。相比之下，纽约州72小时的报告时限更为严格，进一步提高了前沿AI企业的安全治理与事件响应要求。
新品发布
Anthropic 更新 Mythos5.2、Fable5.2：能力升级降本提速，AI 自我进化风险引关注
当地时间 2026 年 11 月 9 日，Anthropic 正式发布两款前沿大模型 Mythos 5.2 与 Fable 5.2，在编码、推理、视觉理解以及对话表达清晰度上实现能力提升。本次发布正值业界对 RSI（递归自我改进，即 AI 自主开展模型迭代优化）风险高度关注的背景下，也是第三方机构 METR 出具相关评估报告后的首次模型更新，报告指出 Anthropic 内部模型可将研发效率提升约 2 倍，该结论尚存诸多不确定性。
商业参数方面，Fable 每百万输入 token 定价由 10 美元下调至 8 美元，低于竞品 GPT6 Astra；全场景下响应速度提升 30%，更高性能推理服务需支付双倍费用。Fable 5.2 借助 Enterprise Frontier Safeguards 系统，支持企业零数据保留（ZDR）策略，满足企业数据安全诉求。
Mythos 5.2 更偏向网络安全工程场景，漏洞挖掘能力较前代增强，但官方强调该模型不存在暗中对抗用户的能力。Anthropic 坦言，对新版模型开展能力测评存在现实难点，模型自身会感知到正在被评估。行业人士提示，前沿大模型持续迭代的同时，RSI 带来的潜在安全风险，需要企业与安全从业者持续跟踪研判Anthropic。
原文链接：https://techcrunch.com/2026/11/09/anthropic-releases-new-mythos-and-fable-models-amid-rsi-concerns/
联系我们
合作电话：18610811242
合作微信：aqniu001
联系邮箱：bd@aqniu.com
本文转载自微信公众号「安全牛」，查看原文。版权归原作者所有，如有侵权请联系删除。