当全网以为现在是2006年
原创 黑鸟 2026-09-19 23:22 广东

时间这个东西,平时谁也不会多想。手机上的时钟、电脑右下角的数字,好像天生就该是对的。
可如果有一天,一整个国家的网络同时把年份当成了2006年,会发生什么?
2026年7月8日,澳大利亚最大的移动通信运营商Telstra给出了答案。那天凌晨,大半个澳洲的移动网络陷入瘫痪。电话打不通,短信收不到,连紧急求助电话000都有大量呼叫无法接通。影响还远远超出了通信本身,列车运行受阻、支付终端失灵、票务系统瘫痪、电动汽车充电桩停摆。

没有黑客攻击,没有光缆被挖断,所有设备都正常供电。
罪魁祸首说出来令人难以置信,墨尔本一台设备里的一个GPS接收器,在例行维护后重新启动,坚信现在是2006年,然后整个网络都被它说服了。
Telstra事后委托Technology Audit Partners(TAP)做了一份独立调查报告,这份报告之所以值得细读,是因为同类故障完全可能出现在任何关键基础设施里,包括那些维系生命的系统。

本次从三个维度展开了分析,故障发生前后的事件与网络状况、故障响应的时间线、错误日期在全网的传播路径与恢复过程,最终得出四大核心发现和十一项具体改进建议。
那么,那天到底发生了什么?
澳大利亚电信系统在凌晨 4:20 首次大范围监测到异常:
NTP(网络时间协议)告警风暴爆发;
4:29,事件管理运营(IMO)系统检测到,用户搜索 “Telstra 断网” 的数量突破阈值,标志着大量用户上报故障。
但故障真正的起点是凌晨 2:50:
墨尔本机房一套 NTP 时间同步机箱完成计划性维护、重新上电上线。
该机箱归属移动核心网时间同步架构,提供 2 级与 3 级 NTP 时间服务。设备上电重启后,机箱内 GPS 卡发生复位;
该 GPS 卡缺少厂商发布补丁,存在已知的 GPS 周数翻转缺陷,复位后向全网广播2006 年的错误日期。
因此,要理解这一切,得先搞明白一个问题,时间为什么对现代社会这么重要?
因为现代手机通信协议没有精确时间根本跑不起来。
移动网络区分上行和下行数据,靠的是两种模式,FDD(频分双工)和TDD(时分双工)。
FDD给上行和下行各分配一段独立频谱,两边可以同时收发互不干扰。TDD则用同一段频谱,在极短的时间间隔里交替发送和接收。
现实中下行数据量通常远大于上行,FDD固定的上下行比例会让上行频谱大量闲置,而TDD可以灵活调整比例匹配真实流量。这就是为什么大多数现代5G频谱,包括瑞典主力的3.5GHz频段,都采用TDD。
但TDD有个硬前提,同一频率上的每个基站必须步调一致地切换收发方向。哪个基站的时钟偏了,它就会在邻居接收的时候往外发信号,结果就是网络自己干扰自己。
行业选择了用时间精度来替代频谱隔离,也就接受了一个硬性依赖,所有基站必须对“现在是几点”达成共识。依赖时间,本质上是一个设计选择。
可问题在于,既然我们这么依赖这些系统对“现在”的共识,时间服务却往往没有得到应有的重视。Telstra的事故把这堂课讲得非常清楚。
时间分发的层级架构
先说清楚时间是怎么在网络里传递的。时间分发协议都采用层级结构,Telstra部署的Network Time Protocol(NTP,网络时间协议)用stratum(层级)来表达这个结构。
你可以把NTP 的 stratum 层级想象成传话接力:
Stratum‑0(0 级):真正掌握准确时间的 “原始报时人”,像原子钟、GPS 接收机,它手里就是最源头的时间,本身不对外做网络授时。
Stratum‑1(1 级):第一棒传话人,直接贴着原始报时人听时间。时间服务器直接接 GPS / 原子钟,就是 1 级。
Stratum‑2(2 级):第二棒,不从源头听,专门听 1 级服务器报时间。
Stratum‑3(3 级):第三棒,听 2 级的时间。
就这样一棒传一棒,数字越大,代表接力传话经过的中间人越多。
Stratum‑16(16 级):没人给它报时,完全没拿到有效时间
需要注意的是,stratum本身并不代表时间是否准确,它只说明一台服务器到参考源经过了几步。一台参考源出错的Stratum 1服务器,依然是Stratum 1。在多个候选源条件相当时,stratum越低的源权重越大,越容易被选中。

Telstra的时间架构有一个特定的形态,至少最初是这样。
这套2010年的设计,顶层是澳大利亚国家计量院(NMI)的三个Stratum 1源,NMI维护着澳大利亚的国家时间标准,类似于瑞典的RISE研究院。Telstra从这些外部参考源获取时间,送入自己在悉尼和墨尔本的两台Stratum 2服务器,再由它们供给悉尼、墨尔本、珀斯的三台Stratum 3服务器。
再往下就是客户端。这里说的不是笔记本电脑或手机,而是整个移动网络基础设施,比如负责基站间切换的节点。成千上万的节点散布在广袤的地理范围内,每一个都需要对“现在”有相同的认知,误差不超过几微秒。
所有设备都配置为client/server模式,peering(对等)仅允许在同一stratum级别之间进行。这套架构为Telstra提供了来自NMI的高度可靠且权威的参考时间源,在移动核心计时架构的各层之间强制保持稳定的时间源。TAP报告评价这套架构“符合用途”。

NTP如何防御错误时间源
正因为如此,NTP需要防御错误的时间源。它实际上有两道防线,作用各不相同,而且都假设时间源之间彼此独立。
第一道,在条件相当的候选源中,stratum越低权重越大。这决定了客户端最终会选哪个源。
第二道,NTP会比较多个源,丢弃与其他源不一致的那个。单个源声称一个离谱的时间,会被投票否决并剔除,不管它自称多权威。
这两道防线并不针对某种特定故障,合在一起可以抵御接收器损坏、服务器配置错误甚至外部攻击。但前提是,客户端监听的时间源必须真正彼此独立。至少要有两个独立的参考源,这一点至关重要。
NTP的两种部署模式
NTP有两种部署方式。client/server(客户端/服务器)模式下,关系是明确且单向的,一个节点只从指定的服务器获取时间,不从别处拿。
Telstra2010年的架构实际上就是这种client/server模式。peering(对等)虽然被允许,但仅限同一stratum级别,TAP报告也评价这套架构“符合用途”。
另一种是symmetric peering(对称对等)模式,节点之间互相交换时间,最终采用算法当前偏好的源。算法会综合考虑多个因素,主要是源之间的一致性、每个源的精度以及stratum级别。
Peering很灵活,某个源挂了也能优雅地撑过去。但它也意味着生产环境中的拓扑是自发形成的,而非设计出来的。随着时间源的增加、移除和变更,或者连接网络发生变化,stratum级别可能会改变,进而影响客户端的源选择,改变它们的stratum级别,再影响下游的机器,直到整个网络建立起新的稳定时间源层级。你文档里记录的架构,可能在不知不觉中重新排列成一个从未被批准过的形态。
2020年升级埋下的隐患
2020年,澳大利亚移动核心计时系统进行了升级,安装了新硬件,包括一台新的NTP计时机箱,用来替换老化的原始设备。这次安装带来了几个变化。
第一个是被迫的。新机箱不允许Stratum 2服务器在同一台设备内给Stratum 3服务器供时,所以两台机器必须交叉连接,悉尼的Stratum 3从墨尔本的Stratum 2取时间,墨尔本的Stratum 3从悉尼的取。珀斯的Stratum 3服务器在另一台机箱、另一个地点,继续保有Stratum 2冗余。
实际上,悉尼和墨尔本从拥有两个Stratum 2源变成了只有一个。TAP报告指出,这种冗余降级是已知且被接受的。
第二个变化是随机箱引入了一张GPS卡。架构设计上这张卡可以作为时间的备用故障切换源,但从未配置为自动故障切换,需要手动重新配置才能生效。
第三个变化是放弃了client/server模式,转而采用peering模式。这意味着NTP计时机箱里的服务器可以获取它能找到的任何NTP源,并选择使用其中提供最稳定最准确时间的源。这给移动核心计时层级中使用的时间源引入了不确定性。报告没有明确说明动机,但合理的推测是想弥补冗余的损失。每个站点只剩一个源,让服务器自己去找替代源,看起来能提供更好的恢复能力。

TAP报告明确写道,恢复能力的损失是已知的。但报告没有找到任何证据表明,参与2020年移动核心计时架构变更的人员意识到或调查过由此产生的计时环路风险。
什么是计时环路
计时环路就好比网络版的“三人成虎”,你问三个人一个消息是不是真的,结果这三个人都是从彼此那里听来的。每个人都同意,所以它一定是真的。NTP的工作原理基本一样,比较多个源,丢弃与其他源不一致的那个。
前面说过NTP有两道防线。第二道防线能防计时环路,但前提是源之间彼此独立。在环路里,看起来独立的源实际上直接或间接地从彼此那里取时间,追溯上去共享同一个参考。要避免计时环路,必须明确定义服务器层级并记录所有服务器之间的关系。
一旦一个错误值开始流通,源之间就会开始互相认同,投票结果会站在多数意见一边,哪怕这个值是错的。
协议没问题,出问题的是架构。
NTP的两道防线在墨尔本先后被解除,相隔五年,不是故意的,而是一系列各自看起来合理的决策,硬件限制必须绕过,后来反复出现的故障必须止住,结果每个决定都解决了眼前的问题,没有人被要求审视所有行动最终导致的结果。
第二道防线先被解除。2020年引入peering让计时环路成为可能,五年后,这样的环路真的出现了。2025年10月,一份事件报告指出墨尔本的NTP Stratum 3时钟每天多次失去与悉尼Stratum 2源时钟的连接,导致NTP告警。
报告还注意到墨尔本NTP已经变成了Stratum 5源,意味着它从移动核心计时架构中的一个Stratum 4源获取时间。要知道,墨尔本只有一个Stratum 2源,当那个源丢失时,它通过peering去找另一个源,而那个源恰好是悉尼或珀斯的一个Stratum 4客户端。
这个异常被观察到了,但没有被记录,也没有创建问题工单做进一步调查。当时的人员没有认识到墨尔本NTP处于Stratum 5意味着什么,没有意识到当一个本应是Stratum 3的服务器变成自己某个客户端的客户端时,移动核心计时中已经出现了环路,当Stratum 2源丢失时就建立了一个循环依赖。
为了解决这个问题,工程师激活了墨尔本机箱里自2020年起一直闲置的GPS接收器,把它连到Stratum 3服务器上,作为不可靠的悉尼源的替代。没有证据表明此前做过设计或配置变更评审,处理事件的人员似乎是自行选择了这种方式作为应对事件的最佳手段。
从所有可见指标来看,这招奏效了。墨尔本现在有了自己的可靠源,告警也停了。但这个修复只处理了症状,没有触及根因。没有人去搞清楚墨尔本为什么一开始就不断失去悉尼源。本来应该开一张“网络处于风险中”的工单,去查找频繁丢失悉尼源的真正根因,并把NTP服务器恢复到预期设计,但这没有发生。到2026年7月,底层问题依然存在于网络中。
更糟的是,似乎没有人理解激活GPS卡对架构意味着什么。GPS卡是参考源,也就是Stratum 0,所以这个连接让墨尔本变成了Stratum 1 NTP源,实际上与移动核心计时架构中的NMI Stratum 1源同级。这影响了墨尔本的客户端,使它们变成了Stratum 2。在peering模式下,这些Stratum 2客户端可以成为与悉尼和墨尔本Stratum 2同等优先级的时间服务器,而后两者才是预期的Stratum 2源。
突然间,墨尔本这台机箱里的GPS卡,作为一个权宜之计被装上、未经任何人审查,成了澳大利亚最大移动网络层级中最权威的服务器。
不用说,2010年设计的架构几乎荡然无存。
到2026年7月,网络有了一个单一源,它既是最权威的候选,又没有对手,因为本可以反驳它的源都在它的下游。
这种行为非常难以察觉。网络多年来每天都在提供准确时间。这样的架构通常不会逐渐退化,它们一直工作,一直工作,直到突然停摆。

故障当晚的精确时间线
2026年7月8日凌晨,一场计划中的NTP计时机箱更换正在墨尔本进行,目的是修复一个电源供应器。这次变更被归类为5级,也就是最高风险级别。

凌晨2点50分,机箱上电恢复在线。这是故障真正的起点。机箱里的GPS卡在更换过程中重置了,由于缺少一个关键的固件更新,它开始向网络发送2006年的错误日期。这个固件更新是供应商在公告中发布的,用于防止已知的GPS翻转导致时间偏移,但六年来一直没有被安装。
然而,故障并没有立刻被广泛察觉。由于墨尔本运行在Stratum 1、peering已启用、而墨尔本的Stratum 2在同一次机箱更换中被关闭,错误日期开始在移动核心计时网络中传播。但因为环路的存在,所有可用的NTP时间源开始一致认为日期是2006年。
大约凌晨4点,Mobility Management Entity(MME,移动性管理实体)实例开始重置,终端用户开始在网络通信能力上经历不同程度的影响,但并非所有用户都受影响。
凌晨4点20分,一场NTP告警风暴被报告,Telstra才开始广泛意识到出了问题。
凌晨4点29分,Incident Management Operations(IMO,事件管理运营)系统检测到客户报告超过阈值,依据是客户在网上搜索Telstra断网的数量激增。
凌晨4点47分,完整的Major Incident Management(MIM,重大事件管理)桥接会议启动。一旦MIM流程全面展开,整个过程组织有序且高效,TAP评价这是他们见过的最复杂的恢复行动之一。
但从凌晨2点50分故障起源到确定根因,花了好几个小时。原因主要有三个,NTP归属和支持的责任不够清晰、当晚支持人员无法查到墨尔本机箱更换的计划事件信息、对最早指示网络出问题的告警缺乏理解。支持人员找不到当晚变更的信息,找不到该联系谁的信息,也找不到服务器本身的记录,这些都延迟了对问题源头的定位、获取帮助和隔离服务器的过程。
7月8日中午12点12分,大多数后付费客户服务恢复。各种残余问题继续被调查和解决,一直持续到7月11日。
错误日期如何席卷全网
随着错误日期在移动核心计时中传播,由于环路的存在,所有可用的NTP时间源开始一致认为日期是2006年。当大多数可用时间源都认同2006年时,客户端也就是网络节点和应用程序,接受了错误日期,进而根据受影响节点或应用的故障模式产生不同影响。并非所有节点和应用都受到影响。随着错误日期传播,网络影响也在扩散,导致依赖Telstra移动网络的用户受到越来越大的影响,包括Telstra客户和相关MVNO(移动虚拟网络运营商)客户。

最初用户受到的影响是网络容量丢失,原因是MME实例故障,导致一些用户从网络断开。剩余容量不足以让这些用户全部确定性地重新连接,也无法承载正常的网络流量负载。所以本质上网络过载了。
这些影响导致部分用户无法拨打或接听语音电话,包括紧急呼叫(根据《2019年紧急呼叫服务决定》,也称为Triple Zero呼叫),无法发送或接收消息,或无法访问移动数据服务。没有数据服务的用户无法上网、流媒体内容,大多数移动应用也无法使用。这影响了所有形式的设备,包括智能手机等个人通信设备以及IoT(物联网)设备。影响延伸到多种接入技术,包括4G、5G、固定网络和Voice-over-WiFi(WiFi语音)。
IP Multimedia Subsystem(IMS,IP多媒体子系统)核心受到了严重影响。它负责用户与他们试图使用的服务之间的信令管理。在正确的网络日期恢复之前,Diameter Signalling Controller(DSC,直径信令控制器)以一种方式逐步损坏了大约30000个IP地址前缀的信息,写入了错误日期,导致使用这些地址的接入尝试被阻止使用网络,无论容量是否可用。Telstra在设备供应商的帮助下在故障期间应用了临时解决方案,随后进行了修复以清除错误的IP地址前缀条目。
Telstra网络中的其他应用和系统也受到影响,包括计费、预付费、性能指标和其他系统。紧急呼叫虽然不使用所有这些服务,但也受到了影响,不过Telstra与供应商有效合作创建了临时方案,恢复了网络的紧急呼叫处理。
随着网络恢复推进,MME容量得到恢复,但其他问题给一些用户造成了更持久的影响。
GPS周数翻转
第二个要素是GPS的一个众所周知的特性。
Global Positioning System(GPS,全球定位系统)广播的时间格式是自一个纪元开始以来的周数,第0纪元始于1980年1月5日。主要的民用GPS信号(C/A码)使用10位代码广播GPS周数,最大值为1023周。这意味着每19.7年,C/A码中的GPS周数就会归零。这第一次发生在1999年8月,第二次在2019年4月。我们目前处于第二个GPS纪元。
GPS接收器负责判断当前处于哪个纪元,并将正确的1024倍数加到广播的周数上。要避免与周数翻转相关的GPS设备问题,用户必须保持设备软件和固件为最新。GPS周翻转现象及其影响在整个行业中广为人知。
澳大利亚发生的问题并不是任何一次GPS翻转的滞后后果。墨尔本的那张卡2019年顺利通过了第二次翻转,因为持续运行的接收器会持续计数。新的一周只是在前一周基础上加一,根本不会产生属于哪个周期的问题。
但一旦断电,这些知识就消失了。重新上电时,接收器必须从头判断周期,而它能依靠的只有固件里的假设。墨尔本那张卡的固件从未更新。2026年7月8日Telstra更换墨尔本NTP计时机箱时,上电后没有安装关键固件更新的GPS卡重置了,使用前一个纪元计算出了一个比当前日期早1024周的日期,也就是2006年11月。这个日期随后被使用该GPS卡作为参考源的墨尔本NTP服务器采纳。

接下来发生的事,最好理解为两道防线在最需要的时候都已失效。
第一道防线,stratum越低权重越大,把墨尔本服务器排在最高位,因为连上的GPS卡把它提升成了Stratum 1。这完全符合NTP协议,于是客户端被引导向那个错了1024周的源。
第二道防线,异常值被投票否决,根本没有启动,因为没有任何东西能把墨尔本识别为异常值。NTP不会问一个日期是否合理,它只问一个源是否与其他源不一致。2010年的架构有两台Stratum 2服务器,如果其中一台开始宣布2006年,另一台会坚持2026年,共识就无法达成。那固然不理想,但至少错误日期不会扩散。
可墨尔本的Stratum 2对应方早在同一次机箱更换中就被关掉了,剩下的源都在墨尔本下游。随着错误日期扩散,它们开始回报这个日期。认同度越来越高,而算法寻找的正是认同。
于是客户端做了它们被设计来做的事。一旦一个客户端的多数源都认同2006年11月,客户端就接受了这个日期,而日期传得越远,就越有说服力。
两道防线都没有故障。它们只是被剥夺了赖以运作的条件,一道需要一个值得排在最高位的源,另一道需要能够提出异议的源。两个相隔五年的决定,先后移除了它们。
什么是Sovereign Function
在深入讨论具体发现之前,需要理解一个关键概念。在现代网络中,有一些常见功能被整个网络高度依赖来提供关键服务,这些功能被称为Common Failure Mode functions(公共故障模式功能),或者Sovereign Functions(主权功能)。这些功能给网络带来了不成比例的巨大风险,必须以最高度的谨慎来管理。

关键功能包括但不限于,Border Gateway Protocol(BGP,边界网关协议)用于域间/域内路由、Open Shortest Path First(OSPF,开放最短路径优先)用于域内路由、Domain Name System(DNS,域名系统)用于域名到IP的解析、Dynamic Host Configuration Protocol(DHCP,动态主机配置协议)用于IP地址分配、Multiprotocol Label Switching(MPLS,多协议标签交换)用于与传输无关的流量交换、许可授权、防火墙,以及NTP/PTP(Precision Time Protocol,精确时间协议)用于时间同步。所有这些Sovereign Function都曾被识别为重大网络断网的源头。
Sovereign Function通常横跨整个网络的硬件和软件,因此仅靠冗余并不奏效,简单的基于地理的故障隔离区也不够。必须在网络架构和设计上对Sovereign Function给予特别关注,所有运营和变更管理实践都必须在最高级别的审查、批准和谨慎下进行。负责Sovereign Function的人员必须是其领域内经验丰富的专家,并接受最佳实践的持续培训。
而NTP没有被Telstra指定为这些功能之一。
四大核心发现
TAP的调查最终得出了四个总体发现,它们是所有具体问题的根源。
第一,NTP的归属不清晰且不充分,没有被认可为Sovereign Function的重要性。这导致该领域薄弱,在设计、运营、资源和投资优先级方面没有将其视为网络的高风险功能。
第二,移动核心计时缺乏端到端架构,包括客户端设计和行为,也没有架构和设计监督来提供第二线支持,对设计提出质疑和引导。
第三,NTP技术专业知识不足,需要更强的能力和更多的好奇心,在看起来不对劲的时候去调查。
第四,需要在所有领域加强运营和管理流程的纪律性。NTP在变更管理、配置控制和事件管理方面有多个执行纪律不足的实例,包括对细节的关注、记录保存和文档以及跟进。
这四个核心发现贯穿了下面的十一个具体发现领域,黑鸟认为这是一个非常好的参考内容。
十一项具体发现与建议
NTP未被识别为Sovereign Function:
在现代网络中,Sovereign Function创造了不成比例的网络风险,必须以最高度的谨慎管理。NTP没有被Telstra指定为其中之一。建议为Telstra建立一份明确的Sovereign Function清单,确保NTP被列入其中。同时建议审查并按需更新所有Sovereign Function的系统化处理方式,确保护理水平充足。
NTP归属定义与实施:
没有将NTP识别为Sovereign Function,错过了在这些常见发现领域提升表现的机会,而归属不明确或不充分似乎在许多领域降低了表现。观察到网络和组织的其他领域和元素的表现水平优于NTP。建议除了将NTP视为Sovereign Function之外,还应审查和加强NTP产品归属和责任。基于这次故障经验,还建议审查和更新明确定义的产品归属角色和文化。
架构与设计:
架构和设计问题在为这次故障创造条件方面发挥了重大作用,最早可以追溯到2020年的变更。还有迹象表明NTP相关领域的架构专业知识不足,也缺乏将时间服务/交付设计与时间消费/客户端设计整合在一起的端到端架构。未能理解架构和依赖关系,导致混合stratum源网络中stratum不平衡的不稳定性被忽视。建议Telstra为NTP计时建立系统化的端到端架构,确保架构师(内部和/或外部)具备该技术、风险和最佳实践的专业知识。此外建议加强对新架构和架构变更的独立审查,确保分析更广泛的网络影响和可能的故障模式。
配置控制:
没有观察到与NTP相关的配置信息和记录的集中化系统化仓库。没有基准配置,除了设备本身之外也没有文档化的配置记录可以用来与运行中的设备进行比较。没有这样的记录,预检查和影响评估就无法充分执行。建议Telstra为NTP建立更强的配置控制,包括文档化的配置记录以及对记录本身完整性和质量的审计,同时审计文档化配置与实际部署是否一致。还建议更广泛地审查配置控制,以确定是否有其他领域存在差距。
变更管理:
在这次故障中,观察到变更前没有对实际就位的设备和软件进行预检查,对MOP(Method of Procedure,操作方法)的技术审查不充分,审批也局限在局部,尽管这次变更被归类为5级也就是最高风险级别。审查MOP后认为,所选的MOP对这次变更是不充分的,缺乏关于变更影响的关键细节和深度。此外,变更完成后没有进行测试以确认机箱的关键功能正常工作,也就是是否提供正确的时间。建议Sovereign Function接受最高级别的变更风险分类、审查和处理,包括预检查。此外,所有变更MOP都应验证服务功能的恢复,在这个案例中就是正确的日期。应审查并按需更新变更开始通知和支持人员之间变更意识的实践。
问题管理:
行业标准做法是将间歇性问题和观察到的异常记录为问题工单,收集问题持续性质的证据并探索可能的解决方案。分析中发现的NTP间歇性问题和异常,没有记录显示开过问题工单,也没有探索过不同的解决方案。建议在解决NTP归属和能力的同时,应用更强的问题管理实践。
事件管理:
Telstra似乎拥有强大的事件管理流程和人员,特别是一旦完整的故障MIM流程在凌晨4点47分全面启动后,整个过程组织有序且高效,这是TAP见过的最复杂的恢复行动之一。然而,NTP似乎落入了覆盖空白,影响了早期故障检测和原因确定。故障发生时,支持人员找不到当晚变更的信息,找不到该联系谁的信息,也找不到服务器本身的记录,这些都延迟了对问题源头的定位。建议将NTP支持模式升级到与其他团队一致,并审计NTP以完全纳入标准事件管理工具和支持所用的数据库。
风险管理:
尽管组织周围已经注意到了相关证据和担忧,但未能识别和管理这个特定的NTP风险。未能观察到与丢失或不可靠同步问题相关的风险模式并主动采取行动,是导致允许故障发生的条件的一个促成因素,因为GPS权宜方案就是为了解决稳定性问题而应用的。建议审查NTP的自下而上风险跟踪,确保约束和风险得到升级和优先级排序。此外,建议审查Sovereign Function的风险管理实践和流程。
资源与能力管理:
支持NTP平台的工程人员太少,专业知识不足。故障当晚,参与机箱计划变更的两名主要NTP工程师在变更影响被知晓时正处于强制休假状态。总体而言,没有足够的知识型人员来完成NTP的所有必要工作和同行评审,以履行所有产品归属和支持责任。建议审查NTP人员配置,确保充足,并加强NTP和整体计时的能力深度。
投资与生命周期管理:
负责计时和同步服务的Transport & Fixed Access Engineering组织,无法充分现代化和维持对NTP的足够支持,部分原因是前面提到的焦点和优先级问题,但也有报告称预算优先级限制了他们的选择。虽然这些报告不是基于文档和证据,但TAP认为在这次故障分析中发现的情况带有这些报告的迹象。建议确保对现有基础设施特别是NTP和其他Sovereign Function的投资,基于Sovereign Function带来的增加风险,与增长和战略目标保持平衡。
可观测性:
故障当晚,NTP平台告警没有出现在任何标准支持告警监控工具中,相反,NTP平台告警只在工作时间由有限数量的人员在网元管理系统中检查。客户端平台告警没有正确的严重级别或细节来辅助故障排查或驱动与风险相称的即时行动。建议将NTP告警监控纳入标准支持监控工具和7x24小时支持,并审查和更新告警严重级别和描述。
最后,Telstra处理善后的方式值得肯定,委托并公开独立调查报告是值得称道的做法,所有关键服务提供商都因此受益。
最令人不安的也许是,即便NTP完全按照设计意图工作,断网还是发生了。
问题出在它周围的一切。架构选择、预算削减、人员不足、缺乏有效监控、归属不清或文档缺失,这一切之所以发生,是因为没有人真正意识到时间服务可以有多重要。
当一个功能横跨整个网络、冗余不足以保护它、简单的地理隔离也不够时,它就值得被特别对待。NTP、DNS、BGP,这些名字听起来像是网络工程师才需要关心的东西,但它们决定了你的电话能不能打通、你的支付能不能完成、你的紧急呼叫能不能被听到。
由此可见,黑鸟认为授时基础设施对于现代通信网络具备不可忽视的关键地位。